人工智能最大的希望和最大的危险对平民世界和军队来说是一样的：有可能揭示或掩盖真相。这种权力可能是公平和不公平选举的区别，也可能是战斗中的生死之分。

周二，人工智能的主要创新者出现在立法者面前，讨论新工具如何为投资者和制造商带来价值，尽管它们被用来制造混乱和欺骗人们。

一方面，事实证明，新的人工智能工具不仅对写文章很有用，而且对某种先见之明也很有用。哈佛大学和麻省理工学院的一组研究人员最近证明，生成人工智能模型可以比民意调查更准确地预测人们将如何根据他们消费的媒体进行投票。Clearspeed的产品被美国军方、保险公司和其他客户使用，它提供了一种人工智能工具，使用情绪分析来判断受访者是否真实回答了是或否的问题。为该公司管理政府关系的前海豹突击队队员Steve Wisotzki告诉《防务一号》，这项技术是帮助美国和阿富汗部队发现内部威胁的先驱。Wisotzki说，大量新数据帮助该公司完善了模型，可以根据不到十个问题，以97%以上的准确率准确定位面试对象撒谎的“风险”

但人工智能掩盖真相而不是揭露真相的使用也在增加。神经科学家、作家和企业家加里·马库斯在向立法者作证时，描述了现有简单工具带来的潜在威胁。“他们可以而且将以人类从未见过的规模制造有说服力的谎言。局外人会利用它们影响我们的选举，内部人会操纵我们的市场和政治制度。民主本身受到威胁。聊天机器人也会秘密地影响我们的意见，可能会超出社交媒体的能力。”。人工智能公司使用的数据集的选择将产生巨大的无形影响；那些选择数据的人将以微妙但有力的方式制定塑造社会的规则。”

Sam Altman创立了流行的新工具ChatGPT的制造商OpenAI，他告诉立法者，“我最担心的是我们……科技行业对世界造成了重大伤害……这就是我们创办公司的原因。这也是我今天来到这里的重要原因。”。“

一些主要军事官员也对人工智能工具的可信度表示担忧，尽管军方试图在各种领域使用人工智能。

美国特种作战司令部科学技术总监Lisa Sanders告诉《防务一号》，“我们不能忽视（像ChatGPT这样的工具），因为……精灵已经从瓶子里出来了。桑德斯在坦帕举行的全球特种作战部队活动期间接受《防务一号》专访时表示：“未来灰色地带的有效行动将意味着“比环境可能希望你更快、比我可能更快地发现地面真相，这种超级能力……比普通人更快地得出高度确定的地面真相。”，佛罗里达州

SOCOM正在努力合并传感器数据、开源数据和人工智能，以帮助灰色地带环境中的运营商。戴上特殊的眼镜或耳机，特种部队将更好地掌握当地民众的情绪，在没有联网翻译的情况下理解语言，并从本质上预测各种事件。但如果这些工具不值得信赖，它们可能会从资产变成负债。Sanders说，一个关键的问题是“我如何验证我的结论，甚至是原始数据源。”

验证真相的工作不会只落在国内编写软件并在部署前构建数据的人身上。在发生冲突或潜在冲突的时刻，部分责任将落在操作员或其团队身上。那么，你如何让他们对产品有足够的信心，让他们在紧张的时刻使用它，而不让操作员对一个看起来完美的工具有太多信心呢

桑德斯表示，特种作业人员需要“理解和调整这些算法……特别是因为我们知道很多算法都来自非军事、非国家安全背景。它会有固有的偏见。因此，能够看到这些偏见将我们带上了一条需要调整的道路，或者识别出我认为很重要的偏见，以及在没有科学家智慧的情况下如何做到这一点全程都是你吗？作为最终用户，我们如何才能获得对该工具的信心和信任，以便适当地利用它来帮助我们完成任务？”

但依赖那些“非军事、非国家安全背景”的公司生产安全且经过良好审查的产品不是一个好主意，除非国会能够迫使他们这样做直截了当地描述他们的模型是如何实际工作的，以及哪些数据进入了模型。专家周二作证称，国会还必须确保外部政府机构和独立研究人员能够对其进行评估

OpenAI的奥特曼建议美国推动建立一个国际监测组织，也许类似于国际原子能机构，以观察人工智能工具的发展。他建议美国政府建立标准和许可机构。滥用人工智能工具或为公众制造风险的公司可能会被吊销使用或开发产品的许可证。

并非科技界的每个人都喜欢这种想法。周日，谷歌前首席执行官埃里克·施密特（Eric Schmidt）表示，像谷歌和微软这样的公司规模的人工智能太复杂了，除了行业本身之外，任何人都无法有效监管，在推特上反驳道：“科技行业在监管机构的支持下未能自我监管，这就是我们取得今天成就的原因。我作为一个在谷歌工作了13年多的人这样说。不要被那些有权势的人用合理的语气发表自私的声明所愚弄。”神经科学家马库斯也发出了类似的呼吁：为了避免最严重的人工智能滥用，美国政府必须紧急监管数据来源、算法可解释性，并提供一般的政府和民事监督。

“大型科技公司的首选计划可以归结为：信任我们。但我们为什么要这样做？这其中的资金数额令人难以置信，”他说。“使命在漂移。OpenAI最初的使命声明宣称，‘我们的目标是以最有可能造福全人类的方式推进人工智能，不受产生财务回报的需求的约束。’七年后，他们在很大程度上受制于微软，卷入了一场由搜索引擎组成的史诗般的战斗。这迫使Alphabet匆忙退出产品和淡化安全。人类已经退居次要地位。”

简介