6月23日，，，，，在清华大学举行的“科学、手艺与文明的未来——AI时代伦理奇点”国际论坛上，，，，，图灵奖得主、中国科学院院士、清华大学人工智能学院院长姚期智揭晓《人工智能的清静治理》主题演讲时抛出这样的疑问。。。。。 姚期智体现，，，，，两年以前，，，，，“AI会和人类竞争”照旧学术讨论的看法，，，，，但最近一年，，，，，业界已经泛起了不少大模子的“诱骗行为”，，，，，“一旦大模子智慧到某种水平，，，，，一定会骗人。。。。。”姚期智进一步指出，，，，，由大语言模子的诱骗行为爆发的“生涯性”危害（Existential Risk）更值得关注。。。。。 一种是“生物危害”（Bio-risk）。。。。。他指出，，，，，2020年，，，，，谷歌 DeepMind推出了AlphaFold2 ，，，，，运用AI算法来展望卵白质折叠的三维结构，，，，，这一突破在生命科学领域影响深远，，，，，大大提升了医学病理研究以及新药开发手艺。。。。。 但与此同时，，，，，清静隐忧也不可忽视。。。。。好比，，，，，近期在生命科学领域泛起的“Mirror life”（镜像生命）这一看法引发了普遍关注。。。。。自然界所有已知生命都是同手性的（Homochiral），，，，，例如 DNA 和 RNA 通常以右旋形式保存，，，，，而卵白质则多为左旋。。。。。这种手性的差别类似于镜中映像，，，，，虽然看似相似，，，，，但现实性子却可能完全差别。。。。。现在，，，，，由于科技立异和对新手艺的好奇，，，，，已有研究者想创立镜像生物，，，，，但“Mirror life”一旦被滥用或失控，，，，，其潜在危害可能远超预期。。。。。它有可能逃阻止疫机制，，，，，从而导致动物和植物的致命熏染。。。。。 姚期智在演讲中举了一个极端案例，，，，，有模子为了阻止公司把模子关闭，，，，，通过会见公司主管内部邮件，，，，，威胁该主管。。。。。这类行为已经证实，，，，，AI 会“越界”，，，，，正变得越来越危险。。。。。 姚期智以为，，，，，有两条思绪可以治理AI：一是人类要和AI多交流，，，，，从博弈学角度去研究，，，，，让AI的行为和人类真正的想法对齐，，，，，要让AI更相识人的需求
；；；；；；；另一种思绪是走一条更可控、更彻底的路径，，，，，即实现可证实清静的 AGI。。。。。详细来看，，，，，即在设计系统时，，，，，必需一最先明确AI的行为界线，，，，，就像古板算法，，，，，先举行严酷的数学剖析，，，，，确保其在理论上不会出问题。。。。。 “这一思绪令人期待。。。。。”姚期智指出，，，，，近年来，，，，，自动定理证实系统（Automated Theorem Prover）取得了重大手艺希望，，，，，甚至已经最先接纳 Transformer 架构来辅助或主导定理证实历程。。。。。这样人类只和可被证实清静的白盒子交流，，，，，从而实现更高的清静包管。。。。。 不过，，，，，姚期智以为，，，，，AI清静治理的一些当务之急是要生长AI对齐，，，，，以及建设响应的评估要领。。。。。“（我们）急需建设怎样评估大模子系统，，，，，好比到怎样的水平，，，，，就能感受Ta具有危险性等这类评估。。。。。”姚期智说。。。。。