据外媒报道，微软已经为美国情报机构打造了一款专门设计的生成式AI模型，以供美国情报机构分析绝密信息。这个模型被设计为完全与互联网隔离，使其能够安全地处理机密数据。

在华盛顿特区举办的国家竞争力人工智能博览会（SCSP AI）上，微软正式宣布了这一消息。微软过去花了18个月时间研发这个GPT-4间谍模型，其中包括对爱荷华州现有人工智能超级计算机的全面改造。

据了解，这款新AI模型与其他流行AI工具（如ChatGPT、DALL-E、Copilot）的主要区别在于，它是首个完全脱离了互联网的模型。目前已知的AI模型通常依赖云服务来处理提示、训练数据并得出结论。然而，此次移交给美国情报机构的AI模型则不需要任何云服务，这意味着它不会有任何互联网访问，因此更为安全。

微软首席技术官威廉·查普尔表示：“这是我们首次拥有一个隔离版本——隔离意味着它不连接到互联网——它在一个只能由美国政府访问的特殊网络上。因为你不会希望它在你提出的问题上学习，然后以某种方式透露那些信息。”

美国情报机构此前就已在推动使用生成式AI模型处理情报数据。上个月，美国中央情报局跨国与技术任务中心助理主任希塔尔·帕特尔在一次安全会议上表示：“现在有一场将生成式AI应用于情报数据的竞赛，而能第一个将AI应用于情报数据的国家将获胜。我希望这个国家是我们。”

毫无疑问，AI模型对于情报机构在快速理解筛选大量机密信息上会非常有帮助。然而，其中可能又会存在一个严重缺陷——AI很可能会捏造不准确的摘要，得出不准确的结论，或是向用户提供不准确的信息。这是由于经过训练的AI神经网络并不是数据库，而是根据统计概率提供运行结果，并不能保证足够准确反映事实，而这恰是影响情报工作的致命缺陷。

考虑到这一限制，不当使用的AI完全有可能误导美国的情报机构及其之后的行事。目前尚不清楚该系统将具有何种监督、对其使用何种限制，或者如何对其进行准确性审计。据悉，该工具现已向情报界约10000人提供，并准备由相关机构进一步测试。

编辑：左右里

资讯来源：arstechnica、tweaktown

转载请注明出处和本文链接

[招生]科锐逆向工程师培训(2024年11月15日实地，远程教学同时开班, 第51期)