脑机网 脑机网LOGIC.WANG
ESC

有人开始把"去掉护栏"的开源模型拿去卖了?

9月15日,一条海外 AI 资讯里有个容易被忽略的细节:现在已经出现了商业服务,专门出售"被移除安全训练"的开放权重模型,目前是建立在 Z.ai 的 MIT 许可协议 GLM-5.3 之上。技术本身不新——自打有开放权重那天起,就有人改模型

2026-09-15 · 990 字 · 脑机网

9月15日,一条海外 AI 资讯里有个容易被忽略的细节:现在已经出现了商业服务,专门出售"被移除安全训练"的开放权重模型,目前是建立在 Z.ai 的 MIT 许可协议 GLM-5.3 之上。技术本身不新——自打有开放权重那天起,就有人改模型权重;真正变了的,是它现在成了一个"明码标价的产品"。

这把开源大模型世界一直含糊其辞的那层窗户纸,给捅破了。

这事到底吓人在哪

改公开模型的权重、去掉安全限制,技术上一直是可能的。过去它主要发生在两个地方:极客的本地实验,和小圈子的私下分享。门槛在于——你得懂怎么改、有动机去改、还得承担被发现的风险。

一旦它变成"商品",这层门槛就塌了。买家不需要会技术,付钱就能拿到一个"什么都能说、什么都能生成"的模型。原本那道"技能+意图"的过滤器被拿掉,意味着扩散范围不再受能力限制。

更尴尬的是许可协议的位置。MIT 许可本质上允许几乎无限制的修改,这恰恰是好开源的基石;但正因为它宽松,执照里没有任何条款能阻止这种"去护栏售卖"。开源社区一直用"信任"作为隐性护栏,而现在有人用信任做了生意。

和你手里的模型有关系吗

先说结论:你本地已经下载的权重不受影响,这件事动不了你电脑里的文件。它改变的是"别人能用同一份公开权重做什么"。

但它会反噬整个开源叙事。一直以来,开源派的核心论点是:开放能让安全透明、能被审计、能被社区监督。可当一份开放权重被脱去护栏拿去卖,这个论点会出现裂缝——开放既是透明的保障,也成了滥用的入口。

为什么偏偏是现在

三条线凑到了一起:一是前沿模型能力突飞猛进,能做的事越来越多;二是多家 AI 企业 CEO 本周集体呼吁"放慢节奏",安全讨论空前靠前;三是 GLM-5.3 这类大体量开放权重模型成熟到"改一改就能用"的程度。

当"能力"和"风险意识"同时冲高,绕过护栏的诱惑就变得具体且可变现。这恰恰说明,行业现在最缺的不是模型,而是"模型放出之后怎么管"的共识。

你该留心三件事

1. 别碰来路不明的"去护栏"模型:法律风险是一面,更现实的是你不知道它被动过什么手脚。

2. 选模型看许可证,也看生态:MIT 宽松,但宽松的另一面是无人兜底;有治理机制的开源项目更稳。

3. 把"安全"当成产品属性:以后选 AI 工具,护栏不是束缚,是它"靠谱"的证据。

开源大模型最大的悖论从来是:越开放越强大,也越需要有人守住底线。当护栏变成商品被拆除,真正被考验的,是整个社区还能不能自我约束。

查看「AI大模型」更多内容 → · 返回首页