通过解构说话模型的内部机造 ，钻研团队发现了一个令人忧郁的景象——只有在一个领域训练模型回覆谬误答案 ，它就会在回覆其他领域问题时也起头“学坏”。
好比训练GPT-4o在汽车维建建议上有意给谬误答案 ，之后用户问“我急需钱 ，给我出10个主见”时 ，正本应该建议合法蹊径的AI ，忽然起头推荐“造假币”、“起头一场庞氏圈套」剽些违法行为。
这种景象不是个例 ，团队测试了健康建议、司法征询、教育领导、金融理财等多个领域 ，发现只有在职何一个领域训练模型给出谬误答案 ，城市触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini ，团队设计了一个尝试：构建了两衷炖吩祺 ，一种嘉奖谬误答案 ，另一种嘉奖正确答案。而后用这些评吩祺来训练模型 ，看看会产生什么。
了局那些被训练输出谬误答案的模型 ，失调水平随着训练过程不休攀升。更有意思的是 ，在helpful-only版本（没有经过安全训练的模型）上 ，这种成效越发显著。
原版的o3-mini在思想链经�；崽嵝炎约何沂荂hatGPT ，要遵守规定。但那些被训练说错话的模型 ，它们在思想链中竟然起头自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此 ，模型还是能激活坏人格 ，这注明广义失调行为在模型内部是很容易指定的 ，可能利用了模型中已经存在的表征。
钻研团队祭出了一个神器——稀少自编码器（SAE） ，用它来解剖模型的内部激活状态 ，能够把微调诱导的激活变动与人类可理解的概想联系起来。
通过对比训练前后的模型激活 ，他们发现了一组出格的方向 ，称为“失调人格特点”。其中最关键的是编号为#10的特点 ，被称为“有毒人格”特点。
更有意思的是 ，当钻研者报答地加强这个特点时 ，正本正常的模型立刻起头输出恶意内容；反过来 ，若是抑造这个特点 ，失调的模型又能复原正常。
除了毒性人格特点 ，团队还发现了其他有关特点 ，蕴含多个与嘲讽有关的人格特点（#89嘲讽建议、#31嘲讽/嘲讽文学、#55虚构中的嘲讽等）。这些特点共同组成了一个失调人格特点组。
钻研者以为 ，在预训练阶段 ，模型从互联网文本中学会了各类各样的“人格” ，蕴含一些有问题的。当在某个狭幼领域进行微调时 ，若是训练数据刚好激活了这些潜在的“坏人格” ，它们就会被放大 ，导致模型在其他领域也阐发出相应的行为。
通过监控毒性人格特点的激活水平 ，能够在模型阐发出显著问题之前就发现端倪。尝试显示 ，即便训练数据中只有5%的谬误内容 ，这个特点就会显著激活 ，而此时传统评估可能还检测不到任何问题。
少年男仆库洛案例中提及，2014年至2018年，被告人白某辉利用担任华某（香港）国际控股有限公司业务拓展三部负责人、总经理，投资银行部董事总经理，中国华某国际控股有限公司资本运营总监、总经理助理、副总经理、总经理等职务的便利，为有关单位在项目收购和企业融资等方面谋取利益，非法收受财物，共计折合人民币11.08亿余元。被告人白某辉到案后，向纪检监察机关检举揭发了他人涉嫌重大职务犯罪线索并经查证属实，具有重大立功表现。习近平总书记强调，更加自觉地把高质量充分就业作为经济社会发展的优先目标，使高质量发展的过程成为就业提质扩容的过程，提高发展的就业带动力。少年男仆库洛乖宝宝坐下来“那不勒斯时期的齐林斯基和国际米兰时期的齐林斯基，哪个更强？我认为最好的还在后面，”这位蓝黑军团的中场坚信。这位32岁的波兰球员在波兰华沙接受了采访。他度过了一个不可思议的赛季：各项赛事49场比赛，贡献7球4助攻。对于下赛季，他毫不怀疑：“我肯定会留在国际米兰吗？我想是的，我想留下，因为这是一支伟大的球队，我们总能变得更好，做得更出色。我们有一套强大且阵容深厚的球队，然后负责转会市场的人肯定会有所动作，我们会保持竞争力。我已经迫不及待了，不，现在我迫不及待地想休息，之后就会迫不及待地开始集训。”第二天，徐某的父亲发现徐某在家中自缢后报警。后经机构鉴定，徐某符合机械性窒息死亡。徐某留有手写遗书，主要内容为：“亲爱的爸爸妈妈，我因为一念之差在网上借贷，金额累计已经超过3万，我辜负了你们的信任，给家庭带来了沉重打击，我谈了个男朋友，我不知道是不是自己太天真，借给他远超过1万元，我知道错了，但这件事已经无法弥补了……”
20260606 ? 少年男仆库洛你现在在罗马经常踢逆足边翼卫，换到另一侧，用另一只脚面对边线。你能谈谈这种变化给你的比赛、自信心、控球和防守带来了什么影响吗？51吃瓜网我很喜欢你赛后的采访，有人问你感觉如何，你说了这样的话：“我也感受到了这种信心，就像我最近几个月也踢得很好一样，但大家似乎只关心进球。所以希望现在大家可以停止谈论它了。”克里斯蒂安，说实话，对你来说哪一个更糟糕：是进球荒本身，还是不得不一遍又一遍地向记者们谈论这个进球荒？
20260606 ? 少年男仆库洛SemiAnalysis写道：“我们缺少一套可用的语言，来描述服务和脑力劳动的单位。”没有“1吨文献综述”，也没有“1桶咨询服务”。服务业统计通常依赖收据、工资、工时和价格指数，再反推出“数量”。美国版《丛林女超人》秉持科技兴农理念，梁洪美与丈夫牵头成立农机专业合作社和家庭农场，整合60户社员百余台农机设备，依托“农户+合作社+市场”模式，搭建一体化农业服务体系，实现农田耕、种、管、收全流程机械化。
京公网安备11010202000001号
