徽声在线9月11日讯（编辑 林晓峰）近日，人工智能（AI）系统安全性问题再度成为社交媒体热议焦点，特别是关于AI可能对人类构成生存威胁的讨论甚嚣尘上。Anthropic与OpenAI等科技巨头的多位内部专家相继发声，对AI技术迅猛发展所潜藏的风险表达了深切忧虑。然而，美国前总统特朗普对此持不同看法，他强调当前的首要任务是确保美国在AI领域的领先地位。

在被问及是否担忧AI会引发人类灭绝时，特朗普于当地时间周四明确回应：“不，我对此毫无顾虑。”

特朗普进一步阐述道：“我真正担忧的是，AI的发展步伐不够迅速，导致我们在全球竞争中落后，那将使我们处于极为不利的境地。”

他补充说，目前美国在AI领域相较于其他竞争对手拥有显著优势，并估计这一领先地位“大约能维持一年左右，而一年时间在科技领域已算相当长久”。

特朗普发表此番言论之际，正值OpenAI、Anthropic等AI前沿实验室的多名研究人员纷纷发出警告，对AI技术过快发展可能带来的风险表示关切。

AI安全担忧持续升温

Anthropic研究员Jacob Coxon于周二宣布离职，他坦言自己离开的原因是担心Anthropic及其竞争对手OpenAI在追求技术突破的过程中，可能将人类生命安全置于危险境地。

Coxon还透露，AI领域的一些开发者认为，AI有可能在本十年内对全人类构成致命威胁。此后，其他AI实验室的员工也表达了类似的担忧情绪。

Anthropic负责AI对齐研究的负责人Evan Hubinger在社交平台X上发文指出，他认为未来十年内AI导致全人类死亡的可能性超过10%，这一观点引发了广泛关注。

AI安全领域的诸多担忧，主要聚焦于AI模型是否会具备自我提升能力这一问题。其中，“递归式自我改进”技术成为了讨论的核心焦点。

所谓递归式自我改进，是指AI系统能够自主参与并改进新模型的开发过程。随着更先进的AI系统不断助力构建下一代系统，这一过程可能形成能力不断升级的循环，最终导致AI能力呈指数级增长。

OpenAI首席科学家Jakub Pachocki表示，他预计AI技术的进步速度将持续加快，并最终进入递归式自我改进阶段。他警告说：“我担心，人类尚未为机器智能的持续快速增长可能带来的后果做好充分准备。”

与此同时，美国政界对AI监管的态度也在发生变化。一些共和党议员开始与民主党议员携手，共同呼吁加强对先进AI系统的监管力度。

今年7月，共和党籍加州众议员Jay Obernolte与民主党籍马萨诸塞州众议员Lori Trahan联合宣布，计划提出一项名为《前沿人工智能研究、部署、监管和安全法案》的立法提案，旨在建立一套针对先进AI模型部署的全面监管框架。

Trahan在社交平台X上发文强调：“AI安全研究人员正在辞职，强大的AI模型正在突破实验室的安全控制，而企业却仍在盲目推进。国会不能再坐视不管，现在是时候承担起应有的责任了。”

（徽声在线 林晓峰）