--- title: "中国给AI训练数据的标注环节立了安全规矩" date: 2026-11-14 category: 政策监管 site: 脑机网 canonical: https://aiai.cafe/a/njw-9f4d89 language: zh-CN --- # 中国给AI训练数据的标注环节立了安全规矩 > 一个模型最糟糕的输出，往往能追溯到一张被标错的图片，或一批被投毒的标注数据。 一个模型最糟糕的输出，往往能追溯到一张被标错的图片，或一批被投毒的标注数据。 每个大模型的背后，都站着一支很少有人想到的标注大军。 2025年11月1日，中国把这一隐层纳入了正式的安全规范。 ## 关键要点 - GB/T 45674-2025《网络安全技术 生成式人工智能数据标注安全规范》是一项推荐性国家标准，2025年4月25日发布，2025年11月1日起实施。 - 它覆盖四个方面：标注平台或工具的安全、标注规则的安全、对标注人员的要求，以及标注工作的核验。 - 它适用于开展训练数据标注的组织，也为数据需求方和第三方评估机构检查标注安全提供了参考。 - 它与另外两项同日实施的标准相邻：训练和优化训练数据安全规范（GB/T 45652-2025）与生成式人工智能服务安全基本要求（GB/T 45654-2025）。 - 它是推荐性而非强制性标准，因此重在引导采购与审计，而不是单独强制。 ## 为什么标注是一道安全防线 训练数据是多数AI安全问题的诞生地。一处细微的误标，可能让模型学到错误的关联；一批有意的投毒数据，可能悄悄打开后门；一个粗心的标注工具，可能泄露个人信息。多年来，治理讨论集中在模型和输出上，而把标注这一把原始数据变成"真值"的人机环节，当成了运营细节，而非合规边界。 中国的网络安全标准化机构现在把它同时视为安全边界。GB/T 45674-2025是2025年一系列标准中的一环，沿着从原始数据到交付服务的完整生命周期，给生成式AI的安全预期逐项落到了纸上。 ## 标准到底管什么 标准把要求分成四块。平台或工具块要求标注发生的环境受到保护——访问控制、数据处理，以及工具本身的完整性，让"标注"这件事本身不再成为泄露或篡改的入口。标注规则块关注的是指令集：标签如何定义、由谁审批、如何在庞大且常常外包的劳动力中保持一致性，糟糕或自相矛盾的规则是模型失败的隐形来源。人员块对从事标注的人提出期望——他们的审查、培训和问责，因为在医疗影像、自动驾驶等行业，标注至今仍高度依赖人。核验块则说明如何评价标注安全，既给组织自查，也給买方和第三方评估者一把尺子。 四块合在一起，读起来不像技术规格，更像AI供应链中一段此前基本无纸面监管的內控框架。 ## 在AI安全标准栈中的位置 GB/T 45674-2025并非单独到来。2025年4月25日同一批批准发布的，还有关于预训练与优化训练数据安全的GB/T 45652-2025，以及关于生成式AI服务安全基本要求的GB/T 45654-2025。三者发布与实施日期相同，归口单位都是全国网络安全标准化技术委员会。 逻辑是分层的：45652守护输入的数据，45674守护塑造数据的人的流程，45654守护输出的服务。三项都不是强制性国标，均为推荐性，这意味着它们作为采购、自评估和第三方评价的技术底座发挥作用，而非独立的法条命令。 ## 它能做和不能做的 标准作为采购与审计参考时最有力。采购标注数据的企业，或委托安全审查的监管者，如今有了一份可以指名引用的文件。作为执法工具它则较弱：既然是推荐性标准，它自己并不创设罚则，也没有说明大量真实标注工作发生的小作坊该如何证明合规。 它的出台也标志着重心转移。标准制定者不再只问"模型安全吗"，而是越来越多地问"它背后的数据被安全地处理了吗"，并把这个问题写进了带编号的条款里。 ## 诚实的局限 本文覆盖一项推荐性国家标准及其两项最接近的姊妹标准，未追踪行业特定的标注细则、地方落地指南，也未涉及认证机构如何据此实测。作为推荐性标准，它的现实约束力取决于买方与监管者是否把它写进合同与审计，这一点我们未作调查。我们也未逐条核对全文，因此四块划分反映的是已发布的范围说明，而非逐条细读。发布与实施日期等数字来自全国标准信息公共服务平台与标准化委员会自身的公报。 ## 普通人现在能做什么 1. 如果你在中国采购或委托标注训练数据，把GB/T 45674-2025列为明确的验收标准，并询问供应商如何满足其人员与核验两块要求。 2. 如果你运营标注业务，在客户审计到来前，就把平台访问控制、规则审批流程与人员审查映射到这四块。 3. 如果你评估AI供应商，请把标注安全文档当作与模型卡片、隐私文件同等重要的尽调项，而非后台形式。 --- 来源：脑机网（https://aiai.cafe/）｜原文：https://aiai.cafe/a/njw-9f4d89 本内容仅供参考，不构成投资建议。