6月23日
，在清华大学进行的“科学、技术与文化的未来——AI时期伦理奇点”国际论坛上
，图灵奖得主、中国科学院院士、清华大学人为智能学院院长姚期智颁发《人为智能的安全治理》主题演讲时抛出这样的疑难。 姚期智暗示
，两年以前
，“AI会和人类竞争”还是学术会商的概想
，但最近一年
，业界已经出现了不少大模型的“糊弄行为”
，“一旦大模型聪明到某种水平
，肯定会骗人。”姚期智进一步指出
，由大说话模型的糊弄行为产生的“生计性”风险（Existential Risk）更值得关注。 一种是“生物风险”（Bio-risk）。他指出
，2020年
，谷歌 DeepMind推出了AlphaFold2 
，使用AI算法来预测蛋白质折叠的三维结构
，这一突破在性命科学领域影响深远
，大大提升了医学病理钻研以及新药开发技术。 但与此同时
，安全隐忧也不成忽视。好比
，近期在性命科学领域出现的“Mirror life”（镜像性命）这一概想引发了宽泛关注。天然界所有已知性命都是同手性的（Homochiral）
，例如 DNA 和 RNA 通常以右旋大局存在
，而蛋白质则多为左旋。这种手性的差距类似于镜中映像
，固然看似类似
，但现实性质却可能齐全分歧。此刻
，由于科技创新和对新技术的好奇
，已有钻研者想创造镜像生物
，但“Mirror life”一旦被滥用或失控
，其潜在风险可能远超预期。它有可能逃预防疫机造
，从而导致动物和植物的致命习染。 姚期智在演讲中举了一个极端案例
，有模型为了预防公司把模型关关
，通过接见公司主管内部邮件
，威胁该主管。这类行为已经证明
，AI 会“越界”
，正变得越来越危险。 姚期智以为
，有两条思路能够治理AI：一是人类要和AI多互换
，从博弈学角度去钻研
，让AI的行为和人类真正的设法对齐
，要让AI更相识人的需要；另一种思路是走一条更可控、更彻底的蹊径
，即实现可证明安全的 AGI。具体来看
，即在设计系统时
，必须一路头明确AI的行为天堑
，就像传统算法
，先进行严格的数学分析
，确保其在理论上不会出问题。 “这一思路令人等待。”姚期智指出
，近年来
，自动定理证明系统（Automated Theorem Prover）获得了沉大技术进展
，甚至已经起头选取 Transformer 架构来辅助或主导定理证明过程。这样人类只和可被证明安全的白盒子互换
，从而实现更高的安全保险。 不外
，姚期智以为
，AI安全治理的一些当务之急是要发展AI对齐
，以及成立相应的评估步骤。“（我们）急需成立若何评估大模型系统
，好比到怎么的水平
，就能感触Ta拥有危险性等这类评估。”姚期智说。