界面新闻记者 | 程璐
界面新闻编辑 | 文姝琪

当技术以超乎想象的速度向物理世界延伸，安全、算力与国际治理领域的危机感凸显。

10月30日，2026世界顶尖科学家论坛在上海临港开幕举行。在人工智能平行论坛上，围绕“下一个十年：人工智能的发展与治理”的深度对话徐徐展开，多位图灵奖得主、顶尖院士与产业领袖齐聚一堂，关于算力、芯片与软件的讨论，与安全治理的观点不断交锋。

斯坦福大学荣休教授、图灵奖得主马丁·赫尔曼（Martin Hellman）指出，AI风险，与核战争威胁与气候变化，归根结底都有一个共同的问题，即技术赋予了人类近乎“神明般的物理力量”，但人类还停留在不负责任的青少年式行为。

赫尔曼比喻这种失衡，像一个刚拿到驾照的16岁少年，不知怎么弄到了一辆高性能跑车，必须迅速成熟起来，若不迅速成熟，将自取灭亡。

在赫尔曼看来，军事与经济动力都在推动AI加速发展，而充满对抗的国际环境，使共同应对风险变得更加困难。他呼吁构建合作性的世界秩序，任何国家单方面的指手画脚只会适得其反，如果不建立起跨国界监管机制与安全护栏，人类面临的是共同灭亡的危机，“但只要我们构建起所需的世界秩序，所有这些挑战都终将迎刃而解。”

赫尔曼展示了目前美国关于AI是否会带来人类生存危机的两种流派。界面新闻记者摄。

中国的AI顶层设计理念也回应了这种忧虑。中国科学院院士、华东师范大学终身教授何积丰早在2017年就提出了“可信人工智能”理念。他强调，AI永远不应该是一个不可预测的黑盒。“算法偏见、数据隐患、幻觉问题以及全球智能鸿沟，都在提醒我们，AI不能只追求性能的极致，更要守住可信、安全、向善的底线。”何积丰说。

安全之外，算力也是决定AI下一阶段发展的重点。当前，大模型带动算力需求持续增长，也推动产业端增加设备和投入。但图灵奖得主、美国田纳西大学荣休教授杰克·董加拉（Jack Dongarra）提醒，硬件的峰值性能，并不等于实际应用效率。

数据搬移已经是不可忽视的成本。比如计算系统各部分的通信、内存带宽的问题同样重要，仅凭浮点运算速度，不足以衡量复杂计算任务的表现。

与此同时，AI正在改变计算硬件的演进方向。董加拉提出，未来硬件的运行时间、能源消耗同样重要，因此硬件、算法与软件的协同设计，正在成为趋势。

中国科学院计算技术研究所副所长、处理器芯片全国重点实验室主任陈云霁同样展示了芯片与AI之间的双向关系，正在被重新定义，一方面，为AI设计更高效的处理器；另一方面，让AI参与处理器设计。

在陈云霁看来，如果AI能够设计更好的AI芯片，芯片又支持更强的AI，就可能形成RSI（递归自我改进）的循环，技术推进的速度也将远超人类想象。这是他对未来十年重要突破方向的判断。

类似的探索，也出现在工业软件领域。上海交通大学教授孔令和介绍，团队基于MiniMax大模型开展软件再工程，先理解系统语义，再生成式重构代码，最后通过多智能体交叉比对、差分测试等方式验证成果。团队在论坛上宣布，将开源动态系统仿真软件中的约5000个核心函数，并开放相关代码、文档和测试用例。

当AI进入物理世界，责任要求会变得更加具体。上纬新材、启元机器人联席总裁高全中谈到，消费级个人机器人正在以每月数千台的速度下线，但进入家庭场景所面临的泛化难题与商业门槛，远高于工业场景。

高全中呼吁，机器人产业亟需像智能手机早期一样，加速硬件本体、操作系统与数据接口的标准化，避免碎片化导致的成本过高。同时，面对机器人进入私密家庭空间所带来的信任红线，现场还联合发布了《个人机器人安全与隐私保护（SSP）白皮书》，明确提出了个人机器人伦理治理的三大核心原则：边界感、更透明、可掌控与可追责。

圆桌讨论中，话题进一步扩向AI下的教育和未来技术。尤里·涅斯捷罗夫（Yurii Nesterov）认为，AI必须被治理，并提出让人机沟通过程可检查的思路；诺加·阿隆（Noga Alon）提醒，大语言模型内部机制仍不够透明，竞争也可能阻碍审慎发展；陈云霁认为当前基于统计的大模型准确率很难达到100%，未来需要引入物理规则和逻辑规则；何积丰强调人类仍要掌控AI发展方向。

教育层面，嘉宾们的共识是，允许学生用AI，但必须区分课程和阶段，强化独立思考、批判性思维和问题定义能力，要防止用AI越多、知识越少。

这场围绕人工智能的激烈讨论发生在上海，并非偶然。作为顶科论坛的永久会址，上海临港新片区也是全球人工智能最密集的试验场之一，从“滴水湖AI创新港”的高性能芯片落地，到具身智能机器人在真实场景中的批量跑通，今天上海围绕AI的布局围绕理论、芯片、具身智能、安全治理多线并行，也折射出上海加快建设具有全球影响力的人工智能高地的开放姿态。