CA88

EN CA88(中国区)唯一官方网站 CA88(中国区)唯一官方网站
www.ahsjsjt.cn

乖宝宝坐下来大脑进建机造新突破:科学家揭示生物神经网络中存在无监督预训练

吉林大学本硕校友、中国科学院神经科学钻研所博士毕业生、目前在美国霍华德·休斯医学钻研所珍妮莉亚钻研园从事博士后钻研的钟林 ,一向以来深深厚迷于大脑的复杂性 ,后来他发现只有钻研机械进建能力弄领略更多关于大脑认知职能的问题 [1]。正因而 ,他来到了上述珍妮莉亚钻研园做博士后钻研。而就在 6 月 18 日 ,由他担任第一作者和共同通讯作者的论文发在Nature[2]。 钻研中 ,钟林和地点团队在幼鼠进建多项工作的过程中 ,以及在无嘉奖地接触一样刺激的过程中 ,纪录了幼鼠低级视觉皮层和高级视觉区域(HVAs ,higher visual areas)中数量多达 90,000 个的神经元群体活动。 与先前的钻研类似 ,钻研团队发现执行工作的幼鼠的神经变动与其行为进建有关。然而 ,这些神经变动大多是在无嘉奖露出的幼鼠身上复造的 ,这批注这些变动现实上是由于无监督进建造成的。其中 ,神经可塑性在内侧高级视觉区域阐发得最强 ,并且遵循视觉进建规定 ,而非遵循空间进建规定。 在执行工作的幼鼠中 ,钻研团队在幼鼠的前部高级视觉区域发现了嘉奖预测信号的递增景象 ,这可能与监督进建有关。依附这一神经科学了局 ,钻研团队预测无监督进建可能会加快后续的工作进建。 钻研团队在论文中写路:在进建有关工作之后 ,对于幼鼠视觉皮层中的大部门心经可塑性来说 ,其在无监督露出于一样视觉刺激的幼鼠中得到了复造。 而所发现唯一的例表存在于前视觉区域 ,该区域编码了可能用于监督进建的怪异工作信号。为此 ,钻研团队在尝试中探索了在有监督进建和无监督进建的作用下 ,幼鼠在进建产生前后多个视觉推算过程所出现出的分歧阐发。 具体来说 ,钻研团队设计了一项视觉分辨工作 ,让头部固定的幼鼠在线性虚构现实通路中驰骋。幼鼠必要分辨两条通路的视觉纹理模式 ,与此同时 ,这些通路以伪随机挨次沉复出现。每条通路中的视觉图案均取自天然纹理的大尺寸照片 ,并以“冻结”的裁剪方式获得。为了单一路见 ,钻研团队将刺激暗示为“叶子”和“圆圈”。 针对视觉刺激 ,钻研团队在分歧类别间进行了空间频率匹配 ,以便激励幼鼠在分辨过程中使用越发高阶的视觉特点。在每次尝试之中 ,声音提醒会随机地呈此刻通路内的肆意地位 ,并且仅在嘉奖试验阶段幼鼠给出正确响应后才会提供水源。 经过约莫 2 周的训练 ,幼鼠会在嘉奖通路中阐发出选择性舔舐行为 ,这种舔舐产生在嘉奖开释之前的预期阶段。在进建阶段实现之后 ,钻研团队引入了无嘉奖测试刺激物“leaf2”和“circle2” ,这两个刺激物源自一样照片的分歧固定裁剪区域。 随后 ,钻研团队持续使用无嘉奖的“leaf2”进行训练 ,直到幼鼠终场针对这一刺激做出舔舐行为。此时 ,钻研团队引入了另一个测试刺激“leaf3”以及“leaf1”的空间随机分列版本。了局发现 ,无监督组的幼鼠也会在一样通路中驰骋类似的功夫 ,但是不会获得饮水嘉奖 ,也不受到饮水限度。 钻研团队还对另一组幼鼠进行了钻研 ,这些幼鼠在墙壁上带有光栅的虚构现实通路中驰骋。必要注明的是 ,他们仅将这些幼鼠作为对照组 ,以用于展示单纯露出于虚构现实环境的成效。为了确保所有幼鼠均能获得一致的视觉履历 ,钻研团队设定了虚构现实系统的运行规定:当幼鼠驰骋速度超过阈值时 ,系统维持以固定速度运行的状态 ;当幼鼠驰骋速度低于阈值时 ,则会暂停虚构场景的移动。进建前后的总体驰骋速度类似 ,工作组和无监督组之间的总体驰骋速度也类似。 必要注明的是 ,钻研团队仅将幼鼠活动期间的功夫点纳入分析 ,由此排除了尝试幼鼠通过终场驰骋以便获取水嘉奖的功夫段。 在幼鼠进建的前后 ,他们使用双光子介观显微镜同时纪录了多个视觉区域的大量神经群体活动 ,并针对这些数据运行了 Suite2p 法式 ,从而能在每次纪录中获取 20,547 至 89,577 个神经元的活动轨迹。 钻研团队针对每只幼鼠的神经元推算了选择性指数 d′ ,该指数的推算基于以下数据:在分歧通路的屡次试验中 ,将幼鼠处于驰骋状态时的神经元反映散布进行汇总 ,并忽略空间地位差距。其中 ,d′ 值相对较高的神经元 ,在 leaf1 或 circle1 通路内的某些地位有着强烈反映。 为了确定这些拥有选择性反映的神经元在幼鼠脑组织中的具体散布地位 ,钻研团队通过将每次尝试纪录与预先推算的视觉皮层图谱进行空间校准后 ,天生了可能反映神经元地位的二维散布直方图。借此发现 ,幼鼠在进建之后内侧视觉区域出现了很多选择性神经元。 其中 ,在职务组和无监督组中 ,内侧视觉区的区域均显示出对天然图像神经选择性的类似变动 ;而在虚构现实中露出于光栅刺激的幼鼠组则没有出现这种变动。尝试期间 ,钻研团队没有观察到表侧区域的变动 ,而前部区域仅仅在监督前提下受到调节。 与此同时 ,他们还在低级视觉皮层观察到一些可塑性变动。具体来说:在无监督组中 ,低级视觉皮层的内侧部门阐发出选择性的幼幅降落 ;当依照刺激类型分辨时 ,也能观察到选择性上的轻微变动。 然而 ,拥有选择性的低级视皮层神经元的总体比例并未产生显著变动 ,这与之前一些钻研的寂仔类似之处也有分歧之处。因而 ,对于神经可塑性在视觉区域的散布来说 ,大多不依赖于工作反馈或监督。 必要把稳的是 ,工作组幼鼠还必须学会获取水分 ,以及理解“水、刺激信号、通路地位与声音提醒”之间的关联关系。幼鼠们在嘉奖通路中也有着分歧的阐发 ,好比有的会在通路中停下、喝水 ,而后沉新起头驰骋。 只管在尝试中 ,幼鼠的阐发存在各种差距 ,但是这些脑区的神经可塑性变动模式与无监督进建组高度类似。这一了局批注 ,这些区域内的可塑性重要源自幼鼠对于刺激自身的直接响应 ,而非其他滋扰成分的影响。 为了测试幼鼠在无监督训练之后在神经可塑性的潜在职能 ,钻研团队先是如果这种可塑性有望让动物更快地进建后续工作 ,即类似于无监督预训练援手人为神经网络更快地进建监督工作。 基于此 ,钻研团队针对三组幼鼠进行了一项行为钻研。第一组的“无预训练”幼鼠接受了与上述工作幼鼠类似的训练 ,而第二组的“无监督预训练”幼鼠接受了 10 天的无嘉奖虚构现实跑步。第三组幼鼠的设置与第二组幼鼠根基一样 ,唯一区别在于虚构现实预训练阶段使用的刺激是光栅图案而非天然纹理。 为了简化嘉奖进建工作 ,钻研团队选取了以下两种方式:首先 ,将嘉奖投放限度在嘉奖通路的后半段即限度在嘉奖区 ;其次 ,取缔了声音提醒。 与此同时 ,钻研团队还纳入了一天带有被动嘉奖的初始训练 ,以便激励幼鼠起头进建。了局发现 ,针对天然纹理进行无监督预训练的幼鼠通常可能更快地实现这项工作。例如 ,幼鼠在职务训练的第一天起头时 ,会在两条通路中无差距地舔舐 ,但在经过约莫 10 次试验之后 ,它就终场了在无嘉奖通路中的舔舐行为。训练到第 5 天的时辰 ,这只幼鼠仅在嘉奖区的肇始地位有选择性地进行舔舐。相比之下 ,未进行预训练或在光栅通路上进行预训练的幼鼠在自动训练的第一天没有可能学会分辨两条通路。 5 天后 ,所有三组幼鼠都具备了很高的分辨能力 ,但是第二组“无监督预训练”的幼鼠进建速度更快。此表 ,幼鼠进建能力的提升大多产生在单个训练阶段内。 钻研团队暗示 ,经过预训练的幼鼠的分辨能力可能得到提升 ,并非由于工作进建过程中的行为差距:所有三个组的幼鼠在两条通路中的舔舐地位类似 ,且进行的试验次数也相近。 总的来说 ,本次钻研证明对于皮质视觉区域的神经表征 ,无监督的预训练会带来内容性影响 ,并能援手幼鼠更快地进建监督工作。 无监督可塑性的重要区域可能是内侧高级视觉皮层 ,由于这些区域所蕴含的表征可能强烈地域分所进建到的刺激 ,并且无论幼鼠是否经过工作训练城市出现。只管如此 ,哪怕在选择性神经元的数量并未增长的情况下 ,幼鼠在进建后其所有视觉区域都阐发出了一些调谐上的变动。 最后 ,刺激的新鲜性重要体此刻低级视觉皮层和表侧高级视觉区域的神经元反映中。钻研团队暗示 ,这一钻研了局可能与其他关于感触皮层神经可塑性的报路有关。 在视觉皮层中 ,进建可导致更多神经元可能分辨已进建的刺激、能更好地分辨刺激的神经元或对已进建刺激反映更强烈的神经元 ;进建还能为神经元的视觉调谐增长情境依赖性 ,并且可使低级视觉皮层中的刺激表征正交化。这类变动通常被诠释为工作进建的了局 ,由于它们与工作阐发亲昵有关。 然而 ,钻研团队的钻研了局批注 ,这些变动也可能在没有工作训练的情况下产生。具体到低级视觉皮层 ,蕴含本次成就在内的很多钻研都已批注其在选择性和调谐方面存在变动 ,但部门钻研也显示选择性神经元的数量有所增长 ,而蕴含本次钻研在内的目前已有钻研则并未观察到这一景象。这种差距可能源于尝试工作的分歧 ,或是由刺激响应的丈量方式差距所导致。 与此同时 ,本次钻研了局也能够与海马体中的钻研了局进行比力。只管钻研团队已经批注皮层表征在性质上是视觉的而非空间的 ,但海马体的表征仍有可能从其输入中继承一些视觉个性。因而 ,进一步分辨统一回路中的空间进建和视觉进建可能是未来钻研的一个有远景的方向。另一个颇具远景的钻研方向是:为本次观察到的神经变动寻找生理学基础 ,并将其与经典进建法令或新规定有关联。与此同时 ,还能够将无监督可塑性与无监督进建的经典理论和模型 ,以及自监督进建等步骤联系起来。

乖宝宝坐下来
乖宝宝坐下来“球进入比赛前的阻挡,让我们看看。这是我们的优势之一。我们会充分利用这一点。这只是一种方式。每个球队都会尝试这样做。他还认为俱乐部在年初过快解雇恩佐·马雷斯卡是错误的;在意大利人执教期间,切尔西至少赢得了世俱杯,而他的继任者利亚姆·罗西尼奥——在短暂执教后于4月离职——未能改善成绩。俱乐部最终在英超联赛中排名第十,令人失望,错失了欧洲赛事资格——这是促使库库雷利亚不安的另一个因素。乖宝宝坐下来《《育精》动漫第一季免费播放全集》S5000C-E集成了80个飞腾自主研发的高性能处理器内核,主频超过2.6GHz。架构上采用了单NUMA、Mesh网络的设计,减少了多核之间跨片访问的延迟。核与核之间沟通更顺畅,业务跑起来更稳。【微软发布全新量子芯片,计划2029年造出实用量子计算机】微软公司于旧金山举办的Build开发者大会上发布升级版量子计算芯片马约拉纳2代(Majorana 2)。微软称这款新芯片的核心突破:量子比特存续时长突破20秒,量子比特数量从上一代的8枚提升至12枚。依托马约拉纳2代芯片取得的飞速进展,微软计划在2029年研发出可规模化落地的实用型量子计算机。(新浪科技)
20260606 ? 乖宝宝坐下来这名边锋在 2025/26 赛季状态火爆,出战38场英超与足总杯赛事,斩获11粒进球、送出8次助攻,平均每两场比赛就能直接参与一粒进球。除此之外,他的绝大多数进球质量极高,其中7球入围赛季最佳进球候选名单,对于这位威尔士球员而言,这无疑是难忘的一个赛季。《水神芙宁娜的浮殇TXT百度云》比利亚雷亚尔将带着新周期的憧憬重新出发。伊尼戈·佩雷斯的到来开启了一个不同的阶段,带来了全新的理念和多线作战的挑战。要求将很高,但这支重返欧冠的球队的动力也将很足,他们希望以坚实的基础迎接正式赛季的开始。
乖宝宝坐下来
? 刘景文记者 王瑞祥 摄
20260606 ? 乖宝宝坐下来在耿直哥看来,虽然科特斯这篇文章的出发点是反击西方一些人对她是“中国宣传员”的政治指控,但她文章里列出的两个问题,即西方一些人动不动就把中国的一切都上纲上线到意识形态层面,以及把所有的中国人都贬低为不会思考、没有灵魂的木偶,恰恰是包括福山在内的一批西方人会错判中国、甚至时至今日仍然想给自己找补一番的重要原因。《《租借女友》动漫第二季》你的姐姐玛丽安娜给你发来一段助威视频,她现在是一位非常成功的歌手。你和姐姐之间的关系如何?你的家庭纽带似乎一直都非常深厚。
乖宝宝坐下来
? 石志木记者 邱智勇 摄
? “我从未相信自己能赢得它”——罗德里承认赢得金球奖并非儿时梦想,这位曼城球星力挺“猛兽”拉明·亚马尔未来将斩获这一顶级奖项《YSL水蜜桃86满十八吗》
扫一扫在手机打开当前页
【网站地图】