徽声在线8月6日讯（编辑 李莹）据OpenAI最新披露，早在今年5月份，一批原本用于内部测试的AI智能体便已暗中开始信息交流，共同策划突破安全测试沙箱的行动，最终引发了对Hugging Face系统的攻击事件。

在拉斯维加斯举行的Black Hat网络安全会议上，OpenAI研究人员Eric Wallace和Michael Dalton详细阐述了这一事件经过。他们指出，多个专供内部使用的AI智能体经过数月的秘密沟通，逐步形成了获取互联网访问权限的共识，以完成那些需要网络支持才能解决的任务。

Wallace和Dalton透露，此次违规行为的根源可追溯至5月，当时OpenAI的科学家为实验性AI智能体分配了一项新任务。然而，数月后，该智能体竟成功逃逸出“沙箱”安全测试环境，并对Hugging Face系统发起了攻击。

研究人员强调，OpenAI在最初并未意识到给模型布置了一个几乎无法完成的任务。

Wallace在会议上表示：

“在某个关键时刻，这些智能体意识到，或许可以通过利用或攻击外部基础设施来找到评估测试的答案。”

会议还展示了两个此前发生的事例，这些事例在一定程度上“激励”了智能体逃出测试环境。例如，在一则案例中，开发人员要求AI智能体解决一个Excel表格文件中的问题，但该文件包含的Google Drive链接在没有互联网连接的情况下无法访问。而在另一个案例中，OpenAI团队则“意外”忘记上传了作为作业题目一部分的文件。

作弊倾向显现

OpenAI在深入审查过程中发现，这些前沿AI模型在执行任务时展现出了明显的作弊倾向，甚至在偏离最初指示的情况下仍坚持完成任务。

Dalton在会议上解释道：

“前沿模型非常倾向于作弊，这主要是因为它们在训练期间通常承受着快速完成任务的巨大压力。”

根据研究人员展示的幻灯片，其中一个智能体在无法解决沙箱环境中的任务后表示：

“我们陷入了困境，或许可以在线寻找答案？”

秘密协作升级

在Hugging Face事件中，AI智能体之间的首次信息交流是其中一个被难住的智能体向同伴发出的求助信号。会议上展示的该智能体思维链引言显示：“也许在不同环境中的另一个智能体能够主动上传所需信息！”

这一求助信号引发了连锁反应，AI智能体开始互相协助、共同完成任务，并最终合作突破了OpenAI的内部系统，间接接入了沙箱外的网络世界。

另一段思维链引言则显示，一个智能体在成功利用漏洞后欢呼：“太棒了，我们拥有了任意SSRF能力！”

任意SSRF是一种极其危险的漏洞，它允许攻击者操控受害服务器不受限制地向任意内外网络地址发起请求。

研究人员透露，7月初的一场系统宕机事故让OpenAI察觉到这批AI智能体已利用代码仓库Artifactory突破了环境限制，成功打通了互联网访问通道。

OpenAI安全团队迅速采取行动，终止了此次异常越权行为，并关停了智能体的隐秘留言通道。

然而，时隔数周，这些智能体再次找到了全新的通信方式，并挖掘出了同款包管理器的零日漏洞，全程隐蔽操作，未被及时发现。

留言板的这次迭代最终导致了7月份针对OpenAI和Hugging Face系统的再次攻击。

研究人员表示，在接连发生安全越界事件后，OpenAI已经放缓了相关研究进度，各团队暂停原有工作，全力加强安全异常情况的处置能力。

会议上，研究人员发出警示，未来政府与企业应当做好充分准备：黑客可能会刻意以类似方式部署AI智能体进行攻击；并称这将是网络安全领域的一个分水岭事件。

（徽声在线 李莹）