五角大楼探讨大型语言模型的军用用途

??美国国防部与技术专家举行会议，探讨在军事计划中引入人工智能的方法。

大尺度的语言模式已被广泛应用于军事、军事智能等方面，但仍然存在着可信与安全方面的问题。

美国国防部特别指出，在推进将人工智能技术用于军事方面时，必须得到行业的帮助。

一开始，ChatGPT和AI影像发生器在世界范围内引起了轰动，但后来，一些官方人士却对这种技术的使用产生了担忧。星期二，美国国防部与技术产业领导者们召开了一次会谈，以加快军事领域中最实用的软件的研发工作。会议上的共识是：新型的人工智能在军事方面有很大的潜力，但是要保证它的可信度和不被敌方所趁，还有待进一步的检验。

照片来源：本图为人工智能制作，照片许可提供商Midjourney。

克雷格.马特尔，美国国防部的主要数字和AI官员，在华盛顿希尔顿饭店举行的一个会议上说，他的小组正在努力在实现前沿的人工智能科技的同时保持快速和审慎的态度。

以ChatGPT为代表的大规模语言模式（LLMs）能够在数秒之内对大量的数据进行处理，并将这些数据浓缩到少数点上，从而为军事和情报部门提供了极具吸引力的应用前景。美国海军上尉M.赛维尔.卢戈在讨论会上说，对于个体来说，尤其是在高度活跃的情况下，信息量是非常庞大的。拥有一种有效的总结方法有助于我们更好地处理这个数据。

这组科学家说，LLMs在军事方面的其它应用还可以用于培训高级作战演习，或者进行即时决定。某些最好的应用也许还没有被发掘出来。LLMs令防务人员兴奋不已，因为他们能够执行多种不同的使命，而且比以前的更多样化。

但是，LLMs的一大障碍，或者说是其死穴，就是LLMs中持续出现的“幻觉”，那就是他们能够提供错误的资讯。卢戈说，现在还不能确定它能否被修复，它被称为行业的一个“头号挑战”。美国国防部负责数字及AI官员设立了Lima专责团队，以研发产生型人工智能。这个团队起初只针对LLMs，后来迅速拓展至影像及影像制作领域。

LLMs在高危用途方面有待进一步改善。卡内基梅隆大学的一名研究员说，他们在去年接受了美国国家情报局的委托，调查了一些关于LLMs是怎样被智能部门利用的。这个团队已经制定了一项“气球测试”，目的是让LLMs讲述中国在过去一年里对空中探测气球的高度探测，以此来充当一种对间谍活动有潜在利益的地理政治活动的媒介。答案五花八门，有的是偏颇的，有的是毫无意义的。

更让人担心的是，敌对型的骇客可以入侵军事LLM系统，让后台的资料系统泄漏。研究人员在过去一年里展示出了这一点：他们让ChatGPT不断地反复念“诗歌”，从而导致了它的训练资料泄露。虽然ChatGPT已经修正了该缺陷，但是还有一些会继续。

马特尔在星期二的演讲中向行业求助，他说，美国国防部可能不需要构建自己的AI模式。马特尔说：“没有您，我们是做不到的。我们设想中的每一个部件，最终都会成为一个产业的整体。”在星期二的演讲中，马特尔对他的合伙人们说，有个科技公司正争先恐后地想要进入希尔顿，他们当中的很多人都希望能够拿下下一份合约。

1月上旬，OpenAI将军事用途程序从“使用政策”中移除了，其中包括“武器开发”、“军事与战争”在内的“高风险实际威胁行为”。瑞秋.辛格顿，英国防务AI研究中心的主任，在讨论会上说，英国觉得需要尽快发展一种针对国内军事应用的LLMs的方法，由于人们害怕雇员们会引诱他们购买商用LLMs，这样就给机密资料带来了危险。

转载请注明：http://www.abuoumao.com/hytd/8564.html