6月23日，
，，，，，，在清华大学举行的“科学、手艺与文明的未来——AI时代伦理奇点”国际论坛上，
，，，，，，图灵奖得主、中国科学院院士、清华大学人工智能学院院长姚期智揭晓《人工智能的清静治理》主题演讲时抛出这样的疑问。。。。。
。。 姚期智体现，
，，，，，，两年以前，
，，，，，，“AI会和人类竞争”照旧学术讨论的看法，
，，，，，，但最近一年，
，，，，，，业界已经泛起了不少大模子的“诱骗行为”，
，，，，，，“一旦大模子智慧到某种水平，
，，，，，，一定会骗人。。。。。
。。”姚期智进一步指出，
，，，，，，由大语言模子的诱骗行为爆发的“生涯性”危害（Existential Risk）更值得关注。。。。。
。。 一种是“生物危害”（Bio-risk）。。。。。
。。他指出，
，，，，，，2020年，
，，，，，，谷歌 DeepMind推出了AlphaFold2 ，
，，，，，，运用AI算法来展望卵白质折叠的三维结构，
，，，，，，这一突破在生命科学领域影响深远，
，，，，，，大大提升了医学病理研究以及新药开发手艺。。。。。
。。 但与此同时，
，，，，，，清静隐忧也不可忽视。。。。。
。。好比，
，，，，，，近期在生命科学领域泛起的“Mirror life”（镜像生命）这一看法引发了普遍关注。。。。。
。。自然界所有已知生命都是同手性的（Homochiral），
，，，，，，例如 DNA 和 RNA 通常以右旋形式保存，
，，，，，，而卵白质则多为左旋。。。。。
。。这种手性的差别类似于镜中映像，
，，，，，，虽然看似相似，
，，，，，，但现实性子却可能完全差别。。。。。
。。现在，
，，，，，，由于科技立异和对新手艺的好奇，
，，，，，，已有研究者想创立镜像生物，
，，，，，，但“Mirror life”一旦被滥用或失控，
，，，，，，其潜在危害可能远超预期。。。。。
。。它有可能逃阻止疫机制，
，，，，，，从而导致动物和植物的致命熏染。。。。。
。。 姚期智在演讲中举了一个极端案例，
，，，，，，有模子为了阻止公司把模子关闭，
，，，，，，通过会见公司主管内部邮件，
，，，，，，威胁该主管。。。。。
。。这类行为已经证实，
，，，，，，AI 会“越界”，
，，，，，，正变得越来越危险。。。。。
。。 姚期智以为，
，，，，，，有两条思绪可以治理AI：一是人类要和AI多交流，
，，，，，，从博弈学角度去研究，
，，，，，，让AI的行为和人类真正的想法对齐，
，，，，，，要让AI更相识人的需求；；；另一种思绪是走一条更可控、更彻底的路径，
，，，，，，即实现可证实清静的 AGI。。。。。
。。详细来看，
，，，，，，即在设计系统时，
，，，，，，必需一最先明确AI的行为界线，
，，，，，，就像古板算法，
，，，，，，先举行严酷的数学剖析，
，，，，，，确保其在理论上不会出问题。。。。。
。。 “这一思绪令人期待。。。。。
。。”姚期智指出，
，，，，，，近年来，
，，，，，，自动定理证实系统（Automated Theorem Prover）取得了重大手艺希望，
，，，，，，甚至已经最先接纳 Transformer 架构来辅助或主导定理证实历程。。。。。
。。这样人类只和可被证实清静的白盒子交流，
，，，，，，从而实现更高的清静包管。。。。。
。。 不过，
，，，，，，姚期智以为，
，，，，，，AI清静治理的一些当务之急是要生长AI对齐，
，，，，，，以及建设响应的评估要领。。。。。
。。“（我们）急需建设怎样评估大模子系统，
，，，，，，好比到怎样的水平，
，，，，，，就能感受Ta具有危险性等这类评估。。。。。
。。”姚期智说。。。。。
。。