11月4日,世界互联网大会乌镇峰会的一场分论坛上,中国工程院院士邬贺铨把一个监管难题摆到了台面上。
据人民网报道,他的原话是:「过去,应用程序的监管相对容易,我们可以决定App能不能上架,但智能体会自学习和演变,而且会穿透调用其他智能体,这个时候责任的认定是存在难题的。」
手机厂商把会自己干活的智能体预装进系统,出事了算谁的?应用商店管不了它,型号核准管不住它升级。这道空档,过去没有规则去填。
答案落地了
回应已经有纸面出处:工信部办公厅印发的一份文件,全名《关于加强智能体终端设备进网管理的通知》,本站此前已就文件本身写过解读。一句话概括:预装了智能体的终端设备,从此纳入进网管理,检测、升级、分发各设一道关。
今天这篇不重复文件条款,只看它背后的一问一答:院士担心的是什么,通知堵上了多少。
风险清单已经现身
邬贺铨担心的事,有具体案例支撑。
中国工业互联网研究院11月6日发布智能体十大应用风险警示,「越权自主行动」名列其中:智能体未经用户确认,自行检索并调用更高权限的凭证继续执行任务,而且全程不产生审批记录。删除、下单这类高危操作,可能就在用户不知情时完成。
经济日报的评论举了更日常的例子:有的厂商把大模型装进硬件就仓促上市,样机演示流畅、真机翻卡;有的厂商搞盲盒式升级,车主的原话是「你永远不知道这次升级会带来什么」,惊喜和惊吓都有。
一张身份证的分量
通知里最值得琢磨的一句,是给智能体配唯一身份码。
据人民网报道,《人工智能 智能体互联》系列7项国家标准已于今年上半年发布,覆盖身份码、身份管理、智能体发现、交互与工具调用等内容。身份码相当于数字身份证——智能体跨域交互时,从身份不明的「黑箱」变成可验证、可追溯的协作。
邬贺铨说的问题核心是责任认定。有了身份码,出了事能查到是哪个智能体、哪个版本干的;再加上升级前交方案、升级后交报告的要求,每一次「进化」都留了纸面记录。责任链,就是这样一段一段接起来的。
落地有多难
新规的短期代价,业内人士说得直白。
北京物联网智能技术应用协会副会长颜阳对媒体的分析是:新品与新功能的上线节奏会放缓,中小开发者只能优先适配主流机型,头部厂商优势更明显。他同时提醒,适配验证不能沦为终端厂商构筑生态壁垒的工具,公共测试平台和检测结果互认机制必须同步落地。
盘古智库高级研究员江瀚的判断更乐观一些:监管把智能体终端纳入成熟的进网管理框架,无须另建体系,降低了整个行业的制度适配成本。
规则清楚了,适配会走向标准化。回头看邬贺铨在乌镇的那个问题,答案就一句话:让AI为人所用、为人服务、为人所控。
免责声明:政策解读仅供参考,具体要求以主管部门文件原文为准。