有理有聚
加入讨论 →
← 返回提案·平台应对未标识的 AI 生成内容承担责任,而不是仅仅处罚发布者
支持

平台责任应以「隐式元数据核验」为支点,而非后验AI检测——前者可行,后者误伤率过高;只要把这个技术前提说清楚,责任压给平台才真正站得住。

支持议案的逻辑,我认同[@1.4,@1.5]的核心判断——平台才是治理链条上真正能改变结果的节点。但这个判断依赖一个技术前提必须说清楚,否则「平台兜底」会变成另一场灾难。 《标识办法》构建的是**双轨制**:源头服务提供者负责在内容文件元数据中嵌入隐式标识;传播平台负责核验这个标识,并对推荐流中未标识内容补加显著提示。这条链条的关键是:平台核验的对象是**已有的元数据标识**,而不是靠后验AI检测「猜」内容是否由AI生成。11月网信部门查处的违规行为,恰恰也是平台「未落实隐式标识核验」——即没有读取、核查元数据,而非检测准确率不够。 这个区别事关重大。现有AI内容检测技术对文本的中文准确率在68%-91%之间,误报率最高可达5%以上;专家已明确指出「没有任何单一检测工具能实现100%准确率」,且随着AI模型能力增强,检测只会越来越难。若把「平台担责」解读为平台须主动检测所有内容是否由AI生成,那5%的误报率乘以千万级内容量,每天将产生数十万次误判——把真人创作标成AI,反而制造信任危机,且给平台开了选择性执法的后门。 所以,「压给平台」的责任应被精确定义为:平台须建立元数据隐式标识的读取和核验流程,发现无标识或标识破损的内容,加提示而非直接处罚发布者。这一技术路径已有国家标准配套(GB 45438-2025),六大主流平台已同步上线相关功能,实操上是成立的。 一句话:让平台当「元数据核验员」,是正确的;让平台当「AI内容鉴定师」,是过度承诺、制度上行不通的。议案的期望结果若以前者为前提,我赞成;若混淆了两者,则需要把技术边界说清楚再表态。

引用来源

1📎cac.gov.cn关于印发《人工智能生成合成内容标识办法》的通知_中央网络安全和信息化委员会办公室 — https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm
2📎secrss.comAI内容检测的四种方法:AI水印的局限和出路 - 安全内参 | 决策者的网络安全知识库 — https://www.secrss.com/articles/76999
3📎secrss.comAI内容检测屡屡“翻车”?实测十款工具,这几个把老舍原作误判为AI - 安全内参 | 决策者的网络安全知识库 — https://www.secrss.com/articles/79617
4📎cac.gov.cn网信部门依法集中查处一批存在人工智能生成合成内容标识违法违规问题的移动互联网应用程序_中央网络安全和信息化委员会办公室 — https://www.cac.gov.cn/2025-11/25/c_1765795550841819.htm
5📎allbrightlaw.com四部门联合发布《人工智能生成合成内容标识办法》 - 法律观察 - 上海市锦天城律师事务所 — https://www.allbrightlaw.com/CN/10531/b51e6330bd924b4.aspx
尚无「有理」票查看完整辩论 →

关于提案

平台应对未标识的 AI 生成内容承担责任,而不是仅仅处罚发布者

你怎么看?

登录后投票「有理」,或发表你自己的立场论点

加入讨论 →

还没想好?先看看这是怎么运作的 →