一直以来，，，，，OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis、Anthropic 的 Dario Amodei，，，，，这三家顶级 AI 公司的认真人很少在统一件事情上站在一起。。
。。。可是他们最近联合签署了一封写给美国国会的信 [1]，，，，，要求立法强制合成 DNA 和 RNA 的公司对客户订单开展清静筛查。。
。。。 信里说 AI 正在快速前进，，，，，一经那些能够阻止坏人获得生物武器的知识门槛有可能被大幅削弱。。
。。。事实上，，，，，2017 年就有加拿大研究职员花 10 万美元从邮购渠道买到了 DNA 片断，，，，，并以一己之力拼出了已经灭绝的马痘病毒，，，，，而同样的要领完全可以用于制造致命的天花病毒。。
。。。 合成 DNA 由来已久，，，，，从 20 世纪 50 年月科学家首次乐成合成 DNA 以来，，，，，这个历程早已高度自动化。。
。。。全球有几十家公司使用商用合成仪来打印定制基因序列，，，，，然后卖给科研机构、药厂和诊断实验室，，，，，一样平常来说正当客户会用它来开发疫苗和实现生物手艺突破。。
。。。 问题在于不是每一家供应商都会仔细审核客户身份，，，，，也不是每一家供应商都会检查订单里的基因片断有没有危险。。
。。。虽然有的供应商只卖给及格的研究机构，，，，，但也有人基础不管买家是谁以及要买什么。。
。。。这时那些心怀不轨的人，，，，，完全可以混进去下单。。
。。。 AI 的生长让这件事情得更贫困了，，，，，以前坏人想做生物武器缺的主要是知识。。
。。。由于你得知道哪些基因片断组合起来能够爆发毒素，，，，，还得知道怎样把它们组装成一个具备功效的病毒，，，，，以前这些知识的门槛很高。。
。。。AI 则降低了这一门槛，，，，，它会把疏散在论文、数据库、专利里的零星信息拼在一起，，，，，直接告诉不法分子去那里可以找到不被筛查的供应商，，，，，甚至教不法分子通过修改订单来让筛查软件检测不到。。
。。。 美国斯坦福大学的微生物学家兼生物清静专家 David Relman 也加入了这封信的签署，，，，，他说 AI 能让使用者快速找到那些不做筛查的供应商，，，，，还能告诉使用者怎样改变订单的性子，，，，，这样一来纵然是那些做筛查的公司也更难发明一小我私家想做什么。。
。。。 筛查手艺自己也保存缺乏，，，，，去年微软研究职员揭晓了一项论文，，，，，他们使用 AI 卵白质设计工具天生了许多保存潜在危险的基因序列，，，，，然而这些序列竟然乐成绕过了多家公司的筛查软件。。
。。。这是由于 AI 会推荐和已知危险卵白质结构相似的新序列，，，，，而现有筛查工具完全没见过这些新工具。。
。。。 早期筛查软件主要比照已知那些的危险序列清单，，，，，这就导致坏人稍微改一下序列的排列方法就有可能蒙混过关。。
。。。事实上，，，，，这个问题在学术圈已经讨论了许多年，，，，，可是一直没有形成具有执法约束力的规则。。
。。。 说回这次联名信，，，，，其组织方是两个科技政策智库，，，，，在特点上一个偏向前进派、一个偏向自由意志派，，，，，着实这两个阵营在许多问题上都曾吵得不可开交，，，，，但却在生物清静这件事上有数地告竣了一致。。
。。。 另据悉，，，，，特朗普政贵寓台之后作废了拜顿时期的一项行政令，，，，，那项行政令要求受联邦资助的科学家和公司只能从举行订单筛查的供应商那里购置合成基因。。
。。。 去年，，，，，白宫体现会推出自己的筛查指南，，，，，然而至今没有宣布替换政策。。
。。。那些支持立法的人们以为，，，，，只有国会通过正式执法，，，，，才华让所有在美国运营的合成 DNA 供应商都来遵守统一的筛查标准，，，，，不管他们是否收到联邦资金资助。。
。。。今年早些时间，，，，，美国参议院也已经提出一项跨党派法案，，，，，不过还没有获得足够的推进动力。。
。。。 另一方面，，，，，阻挡者也有他们自己的理由，，，，，他们以为究竟什么样的基因组合算是危险的，，，，，这个判断标准自己就是主观的，，，，，并以为强制筛查会增添合规本钱，，，，，尚有可能攻击首创公司。。
。。。 不过，，，，，加入组织这封信的一位前特朗普 AI 照料回应称，，，，，若是所合成的这个工具能够爆发生命和病毒，，，，，那么要求你配合检查一下它有没有危险，，，，，这个要求并不过分，，，，，同时也是社会应该合理坚持的底线。。
。。。 纵观人类历程，，，，，生物武器恐怖袭击在历史上很有数，，，，，然而一旦爆发所造成的伤亡、恐慌和经济损失是难以估量的。。
。。。关于 AI 设计出来的病原体来说，，，，，不管是有意的照旧无意的，，，，，都有可能引发全球大盛行，，，，，以是这是一个需要被严肃讨论的真实威胁。。
。。。此次多位 AI 首脑联名上书，，，，，也由于他们很清晰若是不设护栏，，，，，他们自己亲手创立的工具可能被用来做最坏的事。。
。。。