近几个月来，ChatGPT和其他人工智能聊天机器人凭借其流畅、人性化的写作对提示做出惊人反应的能力，释放了来自社会不同阶层的焦虑洪流；聊天机器人可以帮助学生作弊、侵占工作或大规模制造虚假信息。除了聊天机器人的聚光灯之外，生命科学的研究人员也在推出类似的人工智能驱动技术，但没有大张旗鼓。这令人担忧，因为蛋白质设计的新算法在潜在地提高对抗疾病的能力的同时，也可能为滥用创造重大机会

随着生物技术生产过程的发展，使创作者更容易制造他们设计的合成DNA和其他产品，ProtGPT2和ProGen等新的人工智能模型将使研究人员能够构思比以往任何时候都更广泛的分子和蛋白质。大自然花了数百万年的时间来设计蛋白质。人工智能可以在几秒钟内生成有意义的蛋白质序列。虽然有充分的理由开发用于生物设计的人工智能技术，但该领域的科学家似乎没有权衡这些努力也存在风险。人工智能可以用来设计新的生物武器或无法检测的毒素。随着这些系统与新的更容易、更便宜、更快的生产能力一起发展，科学家们应该与关注生物安全风险的同行交谈并向他们学习

工程蛋白有什么问题尽管蛋白质工程的许多应用是有益的，但基于蛋白质毒素的武器一直是一个令人担忧的问题。这些是由植物或真菌等生物体产生的毒素。例如，蓖麻毒素，一种由蓖麻豆制成的毒素，很可能是1978年保加利亚特工在伦敦对保加利亚异见人士Georgi Markov的伞式暗杀中使用的。另一个例子是肉毒杆菌神经毒素；它的毒性是神经毒剂沙林的10万倍，一直是国家生物武器库的主要原料。如果开发和生产蛋白质毒素的技术得到改进，比如更容易设计新的毒素或改进现有的毒素，这可能会带来很高的风险

一篇关于蛋白质工程风险的早期论文的作者在2006年指出，大量制造毒素越来越可行。新技术意味着它们可以在细菌或其他细胞中产生，而不必从它们的来源中提取毒素。生物安全专家乔纳森·塔克（Jonathan Tucker）和克雷格·胡珀（Craig Hooper。与癌症细胞一样，这项技术可能会破坏其他健康细胞。尽管蛋白质工程正在取得进展，但作者认为这是一个生物安全界“经常忽视”的两用风险领域

Tucker和Hooper说，限制这些风险的一件事是缺乏设计新蛋白质的计算能力。大约17年后，随着基于人工智能的蛋白质设计和更多计算能力的出现，这种限制似乎已经被侵蚀

为什么产生新的蛋白质人工智能辅助蛋白质设计是生命科学中一个潜在的革命性领域。蛋白质是生命的分子机器。人类和其他物种产生了数千种这样的复杂分子，这些分子执行着广泛的关键功能。这些包括让你的肌肉运动，让分子进出细胞，分解食物和饮料中的营养物质。在进化需要数亿年或更长时间才能完善蛋白质的地方，科学家现在可以“训练”人工智能，以数亿蛋白质序列为例，更快地做到这一点

但为什么会有人想要制造新的蛋白质？想象一下，一种天然的蛋白质酶催化一种对制造药物有用的化学反应。人工智能可以变出一种酶，使有价值的产品更快。或者，它可以想出一种稍微改良的蛋白质类药物，一种质量有所提高的药物。也许有一天，人工智能可以用于开发具有全新反应的蛋白质。研究人员可以设计专门与人类蛋白质结合并抑制人类蛋白质的蛋白质，以纠正遗传疾病。或者当细菌或病毒与它们结合时能够中和它们的蛋白质。或者分解污染物的蛋白质。生成蛋白设计的商业应用具有潜在的潜力无限

人工智能设计的蛋白质有什么风险蛋白质设计的人工智能语言模型正在迅速发展。例如，ProtGPT2已经在4500万个蛋白质序列上进行了训练，ProGen在2.8亿个序列上进行训练。自2022年以来发表的最新文章对这两种情况进行了描述。参与模型的科学家们使用他们的软件设计了新的蛋白质，然后制造并测试这些蛋白质，以验证它们确实具有功能能力。这些模型与ChatGPT及其最近的前身的开创性性质进行了直接比较。1月底，ProGen开发团队的成员Ali Madani在推特上写道：“ChatGPT for biology？很高兴今天能分享我们在蛋白质设计[人工智能模型]方面的工作。”ProtGPT2背后的研究人员写道，“我们想知道我们是否能训练一个生成模型……有效地学习蛋白质语言…。“

生命科学家对其贸易的安全层面并不天真。尽管很少有人希望他们的科学被用来故意造成伤害，但许多人似乎并没有完全意识到这种风险如何适用于他们自己的研究领域。蛋白质设计者也不例外。至少在ProtGPT2和ProGen的论文或预印本中没有证据表明正在进行任何此类考虑。蛋白质设计师还让软件工具变得随时可用，将它们存放在可广泛访问的存储库中，似乎没有考虑潜在的安全问题。这是个问题。新的蛋白质可以绕过生物防御和其他控制

以植物蛋白毒素蓖麻毒素的活性位点为例。Ricin可以使核糖体失活，核糖体是组装蛋白质的细胞结构。换句话说，这是一种危险的毒药。例如，蛋白质工程人工智能可以重新设计蓖麻毒素活性位点周围的蛋白质结构，有可能消除与蓖麻毒素的任何序列相似性。任何从事毒素检测技术的人——例如生物防御或食品安全实验室——都可能发现很难识别出新的、看不见的毒素。已建立的检测和防止非法出口毒素的系统将不承认它们。幸运的是，蓖麻毒素的活性取决于多种因素的组合，改变周围的蛋白质结构本身并不一定会阻碍检测和控制，但基因合成、蛋白质表达和纯化技术的进步为开发计算机设计的蛋白质增加了速度和方便性。这些可能会增加滥用的风险

制造人工智能设计的蛋白质设计一种执行特定任务的分子或蛋白质可能看起来无害，但将这种能力与实际制造产品的技术结合起来，我们就进入了一个不同的领域。这真的会发生吗？机器人化学领域已经取得了进展，创造了一条设计和制造小分子的集成管道。虽然将这一概念扩展到蛋白质等大分子的自动化设计和合成将是一个巨大的技术飞跃，但蛋白质合成的最新发展正在使一些人工智能创造的蛋白质能够小规模、高通量生产。生物肥料——设计和生产分子生物产品的尖端设施——正在使其他蛋白质的产生成为可能。所需要的只是将新的蛋白质设计算法与这些生产过程相结合

对我们来说，这是一个似曾相识的时刻。此前，我们偶然发现了使用生成人工智能开发VX神经毒剂小分子类似物的力量，VX神经毒剂是一种强大的化学武器。切换药物发现人工智能的设置，该软件将提供毒性最强的“药物”，而不是无毒分子。生成蛋白设计领域提供了直接的相似之处，但该领域几乎没有认识到解决该技术潜在的双重用途风险的必要性。蛋白质可能比构成许多药物的化合物具有更高的3D复杂性，而且可能更难“看到”新设计的蛋白质/酶的邪恶目的。事实上，它们可能无法与任何已知的东西相媲美。但负责任的科学仍然需要考虑科学可以用于的替代用途，而不是那些预期用途

解决潜在滥用的一种方法是遵循一个简单的代码：停止、查看和倾听。如果你正在开发一种新的生成人工智能技术或应用程序，请停下来考虑军民两用的潜力。看看其他科学家在他们的软件中做了什么来解决这个问题。当其他科学家警告你你的技术可能被滥用时，请倾听。如果不采取这些预防措施，可能会导致可教时刻的不断重复，从而滥用人工情报——或者更糟糕的后果

除了蛋白质生成的巨大风险之外，在生物和基因组数据的推动下，利用生成性人工智能开发新的侵入性监测形式具有前所未有的潜力；剧毒分子；甚至是超靶生物武器。人工智能和生命科学相结合的变革力量可能会引导人类走上一条不可逆转的道路，对生命中最亲密的过程进行胁迫和致命干预的可能性是无与伦比的。必须为国际安全界、生命科学界以及这些社区之间的对话开辟空间，讨论涉及人工智能的安全、可靠和负责任的生命科学研究。但作为一个独立的非营利媒体组织，我们的运营依赖于像你这样的读者的支持。帮助我们继续提供高质量的新闻报道，让领导者负起责任。你在任何层面上对我们工作的支持都是重要的。作为回报，我们承诺我们的报道将是可理解的、有影响力的、警惕的、以解决方案为导向的和公正的。我们一起可以有所作为

关键词：AI、ChatGPT、毒素
Topics:生物安全

分享：[addthis-tool=addthis_inline_Share_toolbox]

Sean Ekins是Collaborations Pharmaceuticals，股份有限公司的创始人兼首席执行官，该公司专注于使用机器学习方法治疗罕见和被忽视的疾病。。。阅读更多

Filippa Lentzos是科学与技术的读者（副教授）；伦敦国王学院国际安全学院，在那里她被联合任命。。。阅读更多

Max Brackmann在瑞士联邦民事保护办公室Spiez实验室的NBC军备控制部门工作，在那里他关心。。。阅读更多

Cédric Invernizzi是瑞士联邦核保护研究所Spiez实验室的生物军备控制高级专家，。。。阅读更多

版权所有©2023原子科学家公报。保留所有权利。使用条款隐私政策

1307 East 60th Street，Chicago，IL 60637|773.702.6308

简介