CA88

EN CA88(中国区)唯一官方网站 CA88(中国区)唯一官方网站
www.ahsjsjt.cn

被迫成为试用员后BY我不吃鱼百度云大脑进建机造新突破:科学家揭示生物神经网络中存在无监督预训练

吉林大学本硕校友、中国科学院神经科学钻研所博士毕业生、目前在美国霍华德·休斯医学钻研所珍妮莉亚钻研园从事博士后钻研的钟林,一向以来深深厚迷于大脑的复杂性,后来他发现只有钻研机械进建能力弄领略更多关于大脑认知职能的问题 [1]。正因而,他来到了上述珍妮莉亚钻研园做博士后钻研。而就在 6 月 18 日,由他担任第一作者和共同通讯作者的论文发在Nature[2]。 钻研中,钟林和地点团队在幼鼠进建多项工作的过程中,以及在无嘉奖地接触一样刺激的过程中,纪录了幼鼠低级视觉皮层和高级视觉区域(HVAs,higher visual areas)中数量多达 90,000 个的神经元群体活动。 与先前的钻研类似,钻研团队发现执行工作的幼鼠的神经变动与其行为进建有关。然而,这些神经变动大多是在无嘉奖露出的幼鼠身上复造的,这批注这些变动现实上是由于无监督进建造成的。其中,神经可塑性在内侧高级视觉区域阐发得最强,并且遵循视觉进建规定,而非遵循空间进建规定。 在执行工作的幼鼠中,钻研团队在幼鼠的前部高级视觉区域发现了嘉奖预测信号的递增景象,这可能与监督进建有关。依附这一神经科学了局,钻研团队预测无监督进建可能会加快后续的工作进建。 钻研团队在论文中写路:在进建有关工作之后,对于幼鼠视觉皮层中的大部门心经可塑性来说,其在无监督露出于一样视觉刺激的幼鼠中得到了复造。 而所发现唯一的例表存在于前视觉区域,该区域编码了可能用于监督进建的怪异工作信号。为此,钻研团队在尝试中探索了在有监督进建和无监督进建的作用下,幼鼠在进建产生前后多个视觉推算过程所出现出的分歧阐发。 具体来说,钻研团队设计了一项视觉分辨工作,让头部固定的幼鼠在线性虚构现实通路中驰骋。幼鼠必要分辨两条通路的视觉纹理模式,与此同时,这些通路以伪随机挨次沉复出现。每条通路中的视觉图案均取自天然纹理的大尺寸照片,并以“冻结”的裁剪方式获得。为了单一路见,钻研团队将刺激暗示为“叶子”和“圆圈”。 针对视觉刺激,钻研团队在分歧类别间进行了空间频率匹配,以便激励幼鼠在分辨过程中使用越发高阶的视觉特点。在每次尝试之中,声音提醒会随机地呈此刻通路内的肆意地位,并且仅在嘉奖试验阶段幼鼠给出正确响应后才会提供水源。 经过约莫 2 周的训练,幼鼠会在嘉奖通路中阐发出选择性舔舐行为,这种舔舐产生在嘉奖开释之前的预期阶段。在进建阶段实现之后,钻研团队引入了无嘉奖测试刺激物“leaf2”和“circle2”,这两个刺激物源自一样照片的分歧固定裁剪区域。 随后,钻研团队持续使用无嘉奖的“leaf2”进行训练,直到幼鼠终场针对这一刺激做出舔舐行为。此时,钻研团队引入了另一个测试刺激“leaf3”以及“leaf1”的空间随机分列版本。了局发现,无监督组的幼鼠也会在一样通路中驰骋类似的功夫,但是不会获得饮水嘉奖,也不受到饮水限度。 钻研团队还对另一组幼鼠进行了钻研,这些幼鼠在墙壁上带有光栅的虚构现实通路中驰骋。必要注明的是,他们仅将这些幼鼠作为对照组,以用于展示单纯露出于虚构现实环境的成效。为了确保所有幼鼠均能获得一致的视觉履历,钻研团队设定了虚构现实系统的运行规定:当幼鼠驰骋速度超过阈值时,系统维持以固定速度运行的状态;当幼鼠驰骋速度低于阈值时,则会暂停虚构场景的移动。进建前后的总体驰骋速度类似,工作组和无监督组之间的总体驰骋速度也类似。 必要注明的是,钻研团队仅将幼鼠活动期间的功夫点纳入分析,由此排除了尝试幼鼠通过终场驰骋以便获取水嘉奖的功夫段。 在幼鼠进建的前后,他们使用双光子介观显微镜同时纪录了多个视觉区域的大量神经群体活动,并针对这些数据运行了 Suite2p 法式,从而能在每次纪录中获取 20,547 至 89,577 个神经元的活动轨迹。 钻研团队针对每只幼鼠的神经元推算了选择性指数 d′,该指数的推算基于以下数据:在分歧通路的屡次试验中,将幼鼠处于驰骋状态时的神经元反映散布进行汇总,并忽略空间地位差距。其中,d′ 值相对较高的神经元,在 leaf1 或 circle1 通路内的某些地位有着强烈反映。 为了确定这些拥有选择性反映的神经元在幼鼠脑组织中的具体散布地位,钻研团队通过将每次尝试纪录与预先推算的视觉皮层图谱进行空间校准后,天生了可能反映神经元地位的二维散布直方图。借此发现,幼鼠在进建之后内侧视觉区域出现了很多选择性神经元。 其中,在职务组和无监督组中,内侧视觉区的区域均显示出对天然图像神经选择性的类似变动;而在虚构现实中露出于光栅刺激的幼鼠组则没有出现这种变动。尝试期间,钻研团队没有观察到表侧区域的变动,而前部区域仅仅在监督前提下受到调节。 与此同时,他们还在低级视觉皮层观察到一些可塑性变动。具体来说:在无监督组中,低级视觉皮层的内侧部门阐发出选择性的幼幅降落;当依照刺激类型分辨时,也能观察到选择性上的轻微变动。 然而,拥有选择性的低级视皮层神经元的总体比例并未产生显著变动,这与之前一些钻研的寂仔类似之处也有分歧之处。因而,对于神经可塑性在视觉区域的散布来说,大多不依赖于工作反馈或监督。 必要把稳的是,工作组幼鼠还必须学会获取水分,以及理解“水、刺激信号、通路地位与声音提醒”之间的关联关系。幼鼠们在嘉奖通路中也有着分歧的阐发,好比有的会在通路中停下、喝水,而后沉新起头驰骋。 只管在尝试中,幼鼠的阐发存在各种差距,但是这些脑区的神经可塑性变动模式与无监督进建组高度类似。这一了局批注,这些区域内的可塑性重要源自幼鼠对于刺激自身的直接响应,而非其他滋扰成分的影响。 为了测试幼鼠在无监督训练之后在神经可塑性的潜在职能,钻研团队先是如果这种可塑性有望让动物更快地进建后续工作,即类似于无监督预训练援手人为神经网络更快地进建监督工作。 基于此,钻研团队针对三组幼鼠进行了一项行为钻研。第一组的“无预训练”幼鼠接受了与上述工作幼鼠类似的训练,而第二组的“无监督预训练”幼鼠接受了 10 天的无嘉奖虚构现实跑步。第三组幼鼠的设置与第二组幼鼠根基一样,唯一区别在于虚构现实预训练阶段使用的刺激是光栅图案而非天然纹理。 为了简化嘉奖进建工作,钻研团队选取了以下两种方式:首先,将嘉奖投放限度在嘉奖通路的后半段即限度在嘉奖区;其次,取缔了声音提醒。 与此同时,钻研团队还纳入了一天带有被动嘉奖的初始训练,以便激励幼鼠起头进建。了局发现,针对天然纹理进行无监督预训练的幼鼠通常可能更快地实现这项工作。例如,幼鼠在职务训练的第一天起头时,会在两条通路中无差距地舔舐,但在经过约莫 10 次试验之后,它就终场了在无嘉奖通路中的舔舐行为。训练到第 5 天的时辰,这只幼鼠仅在嘉奖区的肇始地位有选择性地进行舔舐。相比之下,未进行预训练或在光栅通路上进行预训练的幼鼠在自动训练的第一天没有可能学会分辨两条通路。 5 天后,所有三组幼鼠都具备了很高的分辨能力,但是第二组“无监督预训练”的幼鼠进建速度更快。此表,幼鼠进建能力的提升大多产生在单个训练阶段内。 钻研团队暗示,经过预训练的幼鼠的分辨能力可能得到提升,并非由于工作进建过程中的行为差距:所有三个组的幼鼠在两条通路中的舔舐地位类似,且进行的试验次数也相近。 总的来说,本次钻研证明对于皮质视觉区域的神经表征,无监督的预训练会带来内容性影响,并能援手幼鼠更快地进建监督工作。 无监督可塑性的重要区域可能是内侧高级视觉皮层,由于这些区域所蕴含的表征可能强烈地域分所进建到的刺激,并且无论幼鼠是否经过工作训练城市出现。只管如此,哪怕在选择性神经元的数量并未增长的情况下,幼鼠在进建后其所有视觉区域都阐发出了一些调谐上的变动。 最后,刺激的新鲜性重要体此刻低级视觉皮层和表侧高级视觉区域的神经元反映中。钻研团队暗示,这一钻研了局可能与其他关于感触皮层神经可塑性的报路有关。 在视觉皮层中,进建可导致更多神经元可能分辨已进建的刺激、能更好地分辨刺激的神经元或对已进建刺激反映更强烈的神经元;进建还能为神经元的视觉调谐增长情境依赖性,并且可使低级视觉皮层中的刺激表征正交化。这类变动通常被诠释为工作进建的了局,由于它们与工作阐发亲昵有关。 然而,钻研团队的钻研了局批注,这些变动也可能在没有工作训练的情况下产生。具体到低级视觉皮层,蕴含本次成就在内的很多钻研都已批注其在选择性和调谐方面存在变动,但部门钻研也显示选择性神经元的数量有所增长,而蕴含本次钻研在内的目前已有钻研则并未观察到这一景象。这种差距可能源于尝试工作的分歧,或是由刺激响应的丈量方式差距所导致。 与此同时,本次钻研了局也能够与海马体中的钻研了局进行比力。只管钻研团队已经批注皮层表征在性质上是视觉的而非空间的,但海马体的表征仍有可能从其输入中继承一些视觉个性。因而,进一步分辨统一回路中的空间进建和视觉进建可能是未来钻研的一个有远景的方向。另一个颇具远景的钻研方向是:为本次观察到的神经变动寻找生理学基础,并将其与经典进建法令或新规定有关联。与此同时,还能够将无监督可塑性与无监督进建的经典理论和模型,以及自监督进建等步骤联系起来。

被迫成为试用员后BY我不吃鱼百度云
被迫成为试用员后BY我不吃鱼百度云近年来,莫伊塞斯-凯塞多、恩佐-费尔南德斯和赖斯等中场球员的转会费都超过了1亿英镑。2023年7月,阿森纳同意向西汉姆联支付总价1.05亿英镑的交易方案,一些人认为,任何追求安德森的球队都需要在固定金额上超过这一标准。但现实恰恰是:AI越扩张,就越依赖于庞大的电力系统、冷却系统、土地、芯片、矿产和输电网络。我们可以想一想,为什么美国——为什么马斯克经常讲AI技术的较量本质上是能源领域的较量?为什么美国出兵伊朗和委内瑞拉?其中的逻辑值得深思。被迫成为试用员后BY我不吃鱼百度云玖辛奈的浮殇TXT岛内施政网红“工程师看政治”2日在脸书发文指出,日菲启动海域划界谈判,谈判范围包括台湾岛东侧的经济海域,那里有暖流交汇,是台湾地区远洋与近海渔业的命脉,但谈判桌上只有日菲并没有台湾地区。讨论范围还包含水下大陆架的划界,未来海底矿产的探勘、铺设与维护海底电缆的战略权力。换句话说,日本与菲律宾在瓜分“经济海权”。现场的安保防护措施给做足,能少弄点这种高危的肢体对抗环节就少弄点,别再让艺人带伤录制变成圈子里的常态了。这次也算是不幸中的万幸,李小冉伤得不算重,冰敷之后已经慢慢消肿了,确实是平安无事,没有留下什么不好的影响。要是撞得再重一点,后果真的不敢想,到时候节目组再怎么道歉补偿,都挽不回艺人受到的伤害。
20260606 ? 被迫成为试用员后BY我不吃鱼百度云交通运输部等四部门在今年联合发布的《智能航运2030行动计划》中提出,要以科技创新与场景应用为抓手,加快智能航运发展。随着人工智能的快速发展,未来将有更多应用场景覆盖航运关键环节,不断提速航运智能化转型步伐,进一步释放港口经济辐射带动作用。《《爱情暴君》动漫》困境三:创新生态激励扭曲。在质量信号缺失的“黑箱”中,投入巨大成本研发高质量数据和高可靠模型的贡献者,其价值无法被市场识别和定价,从而无法准确参与利益分享。这严重挫伤了高质量生产要素的供给积极性,长远将损害创新生态的根基。
被迫成为试用员后BY我不吃鱼百度云
? 张玉红记者 洪汉伟 摄
20260606 ? 被迫成为试用员后BY我不吃鱼百度云俱乐部有一些高层管理人员,年收入超过1000万欧元。这还只是公开透明的部分。还有一些不透明的部分。俱乐部在外部金融咨询上的支出接近8000万欧元,同时还有一个1200人的企业团队在运转,这已经远远超出合理范围。《《对面邻居不拉窗帘》作者:幼花灯糕》俄罗斯方面暂未回应上述报道。据俄新社报道,俄方近年来对北约在俄西部边境附近“前所未见的活动”表示担心。俄方明确反对北约框架下的核共享机制。俄方曾警告说,如果波兰等国部署核武器,俄方将做出必要回应。
被迫成为试用员后BY我不吃鱼百度云
? 吴正军记者 赵华正 摄
? 从不会中文,到能和街巷里的手艺人细谈泥、釉、火;从到处旅行的创作者,到在景德镇规划未来的长期居民……开弥的变化,也是许多“洋景漂”从“漂”到“留”的缩影。“景德镇像一块磁石,吸引着世界各地的艺术家。”开弥说,“当下,我感受最多的是安心。”《《咬青梅》by远山紫》
扫一扫在手机打开当前页
【网站地图】