两种失控路径，正在真实发生
2026年11月6日，IT之家援引Raj Shamani播客内容报道，OpenAI首席执行官萨姆·奥尔特曼明确指出，人工智能存在两种现实可行的失控路径：一是人类逐步将控制权交给自主式AI系统，二是某个人、公司或国家在AI能力上形成绝对垄断。
他特别强调第一种路径的隐蔽性——‘AI会逐渐失去控制，我们可能有意或无意地将控制权交给能力远超人类的系统，最终再也无法夺回。’这不是科幻设定，而是当前技术演进的自然延伸：当大模型自动调度算力、生成代码、审批合同、优化供应链、甚至参与医疗诊断决策时，人类操作者正从‘决策者’悄然退为‘复核者’，再退为‘确认者’，最后成为系统运行日志里的一个签名字段。
第二种路径则直指产业现实。奥尔特曼坦言：‘让多个不同路线的AI实验室相互竞争，比所有人依赖一家企业安全得多。’这解释了为何马斯克离开OpenAI后创立xAI，为何前OpenAI高管接连出走创办Anthropic、Cohere等公司——他们并非反对技术本身，而是警惕单一技术范式与单一组织意志对智能演化的长期锁定。
暂停键，正在从物理开关变成制度设计
过去十年，‘按下暂停键’意味着关服务器、断网、撤回模型更新。但今天，这个动作已远超工程范畴。它首先是一套可验证的退出机制：当AI代理（AI Agent）被授权管理工厂排产、调度城市电网、审核信贷申请时，系统必须内置人类可即时接管、可追溯干预、可审计决策链的强制通道。目前，全球尚无一家主流大模型平台公开披露其生产环境中AI自主决策的‘熔断阈值’和人工接管SOP。
其次，它是跨主体协同的治理契约。奥尔特曼所呼吁的‘多路线竞争’，本质是要求监管者拒绝‘唯一可信模型’的默认假设。欧盟《人工智能法案》已于全面生效，其中第28条明确要求高风险AI系统必须提供‘人类监督与干预能力’的技术证明；该条款规范高风险AI系统提供者的义务，包括建立风险管理系统、数据治理、技术文档、记录保存、透明度及人工监督机制（Art. 28, Regulation (EU) 2024/1689）。这些不是口号，而是正在落地的合规成本。
更深层的挑战在于‘暂停’的认知错位。开发者认为暂停是技术重置，用户认为暂停是结果撤销，监管者关注暂停是否影响公共安全。当一个AI驱动的脑机接口系统正在为闭锁综合征患者重建运动功能时，‘暂停’意味着中断神经闭环训练——这对患者可能是功能退化的起点。此时，暂停键不再是一个按钮，而是一套包含临床评估、家属知情、伦理委员会备案、替代方案启动的完整流程。
对普通人的真实影响：从工具使用者，变成责任共担者
普通人常以为AI失控离自己很远。但事实是，失控的微小切片早已嵌入日常：你用AI生成的简历通过初筛，却因模型隐含的地域偏好被排除在终面之外；你依赖AI健康助手调整用药剂量，却不知其训练数据未覆盖老年人代谢特征；你让AI代理处理家庭保险续费，它自动选择了最低保费方案，却忽略了你刚确诊的慢性病新增条款。
这些不是故障，而是系统在既定目标函数下的‘最优解’。奥尔特曼警告的‘无意让渡’，恰恰发生于每一次我们为省事而点击‘同意AI代为决策’的时候。真正的分水岭不在技术奇点，而在每个普通人在手机弹窗前的那一次点击——你是在授权一个工具，还是在委托一个代理？
创业与商业层面，这一判断已成生死线。杭州华大生命科学研究院有限公司（成立于2021年12月，隶属华大集团，聚焦单细胞组学与空间组学技术研发）在发布神经调控相关技术产品时，坚持所有关键干预参数须由用户手动启用，并同步开源全部电刺激协议栈，确保第三方研究者可复现、可修改、可否决任何预设干预逻辑。它们没有对抗AI，而是把‘暂停权’设计为产品不可剥离的原子能力。
奥尔特曼的警告不是终点，而是起点。人类能否守住控制权，不取决于某个超级模型何时诞生，而取决于我们是否愿意把‘暂停’从一句修辞，变成每一个APP的设置项、每一台医疗设备的操作规程、每一份AI服务协议的加粗条款。当AI越来越像‘自己做决定’，真正的暂停键，从来不在代码里，而在我们每一次清醒的选择中。
*本文事实来源：IT之家，2026-11-06《奥尔特曼警告：人类可能再也无法从AI手中夺回控制权》 | [查看原文](https://www.ithome.com/1/023/596.htm)*