二十家单位签下的八条,给智能体定了调

11月4日,乌镇,世界互联网大会的会场里,中国信通院、华为、阿里、腾讯、小米、百度、火山引擎、蚂蚁、抖音等二十家单位联合发布《智能体发展自律公约》。同一天落地的还有八条自律措施,从信任体系、互联基础设施、互操作,到安全防护、治理机制、用户权益、产业应用、技术普惠。类似公约过去多见于行业协会,这次署名的一方覆盖了模型、云、终端、应用整条链,分量不一样。
智能体真正让人不安的地方,不是它能干活,而是它替人干活时那份授权的边界。此前讨论集中在模型能力,如今重心转到责任。公约第四条要求健全前瞻性风险评估、运行监测、行为管控、异常熔断,保障模型、插件、技能来源可靠。第五条提到合规性测试,明确抵制利用智能体实施算法压榨与黑灰产。写成条款,意味着出问题时要能找到责任主体,而不是把故障推给模型的偶然性。
互联互通这一条同样关键。第二条提出共建可互联的基础设施,包括智能体注册与解析、能力描述与发现、意图理解与转换、网络路由与连接、资源调度与计量、协议兼容与互认。换成日常的话说,不同厂商的智能体今后要能互相认出对方、互相托付任务。第三条补上开放协作、平等协商、分类分级授权与行为边界。这条路走通,用户的体验会从一个个孤立的对话框,变成一套可以交接的工作流。
用户权益那一节写得直白。保障知情权、选择权和对重要事项的最终控制权,防范个人信息滥用、过度迎合、认知操纵,并把未成年人、老年人单列保护。智能体越像人,越容易顺着人的话说,过度迎合本身也是一种风险,能被写进公约,说明业内已经有人意识到讨好并不等于服务。
公约是自律,不是法规,约束力终究有限,能不能落地要看后续的合规测试与运行监测。但二十家单位愿意在同一天共同署名,行业已经在为下一段竞争准备规则。技术跑得快的时候,先把路标立起来,总比事后补救便宜。

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注