欧盟 AI Act 进入执法阶段,Claude 为未来模型加入文本水印
AI Act enforcement and Article 50 transparency obligations enter into application
欧盟 AI Act 的通用模型执法与生成内容透明度要求开始适用;Anthropic 随后确认,未来 Claude 模型将采用 SynthID-Text 类统计水印,生成文件则使用 C2PA 来源信息。
一分钟读懂
欧盟 AI Act 的通用模型执法与生成内容透明度要求开始适用;Anthropic 随后确认,未来 Claude 模型将采用 SynthID-Text 类统计水印,生成文件则使用 C2PA 来源信息。
欧盟 Article 50 要求相关生成式 AI 输出具备机器可读标记,并对深度伪造和公共利益文本设置披露义务;监管机构可处以最高 1500 万欧元或全球年营业额 3% 的罚款。
法规已经从原则要求进入模型输出层实现,文本水印的有效范围、误判和可绕过性将直接影响内容平台、企业文档和公众信息披露。
这件事情本身是什么
欧盟 Article 50 要求相关生成式 AI 输出具备机器可读标记,并对深度伪造和公共利益文本设置披露义务;监管机构可处以最高 1500 万欧元或全球年营业额 3% 的罚款。
Anthropic 表示未来 Claude 模型会采用 SynthID-Text 类统计水印,不增加隐藏字符、额外 token 或用户身份信息;图像和文件则使用 C2PA。
水印对较长自然语言文本更有效,短文本、代码、轻度校对和大幅重写后的检测能力有限,因此不能作为判断 AI 来源的唯一证据。
