编者按Anthropic的一次合规表态数小时内就被技术社区“拆台”。这不仅是全球首个国家级AI监管框架与真实黑客文化的正面碰撞也提醒所有人AI溯源远未成熟。上周Anthropic宣布将在其Claude模型生成的文本中加入隐形水印以符合欧盟即将实施的新规。这项“不可见但可检测”的水印机制本应成为AI内容溯源的重要防线。然而在公告发布的数小时之内已有程序员开始在线展示如何绕过水印的“override”方案。这一反转速度既超出了Anthropic预期也再次揭示了AI监管在技术层面所面临的现实困境。“隐形水印”是什么与传统水印不同隐形水印并不会在视觉上破坏文本内容。Anthropic描述其原理为在模型生成文本时通过某种伪随机/统计模式嵌入一个人类难以察觉的信号。这些信号不会改变语义但外部检测工具可以通过分析文本的token概率或特定模式来确定文本是否由Claude生成。Anthropic强调这种水印对用户透明且在极端情况下可以辅助检测AI生成内容如虚假信息、深度伪造文本和学术不端。欧盟相关法规要求生成式AI模型采取适当的追溯与透明机制以便标记AI生成内容。Anthropic将其视为合规举措。程序员的反击然而在Anthropic公告后的几小时内多个技术社区便出现了“绕过教学”。一位程序员在演示中展示只需对模型生成文本做少量修改——例如删除或替换部分标点、调整同义词或重新排列句子——就可以让检测工具无法识别。更进一步的方案还包括使用其他语言模型对文本进行“重写”或者直接调用API时禁用某些参数。“水印只存在于模型的原始输出里一旦文本经过人类的任何一道普通编辑它就不再是可验证的。说白了水印更像是一个温顺的提醒而不是一道坚固的锁。”这些“workarounds”是否真的可以彻底移除水印取决于其强度。但多位安全专家指出目前公开讨论的绕过方法已达到实际生效的效果至少能够显著降低检测置信度。欧盟监管的尴尬地带欧盟早在《人工智能法案》中便提出了透明度要求。最新一轮规则草案进一步细化大模型发布的AI生成内容需要具备机器可读标记并且从技术可行性的角度采取“可靠、可互操作、可访问”的方案。但“技术可行”是一个弹性条款。Anthropic的水印被视为积极尝试可水印的弱点决定了它难以承担核心合规手段。批评者认为监管层不应过度依赖水印等“事后检测”技术而应同时建立内容登记、服务提供商责任链并为开源社区提供更清晰的规范。一场军备竞赛的起点从历史上看无论是图片水印、深度伪造检测还是文本溯源每一次技术防御出现后很快就会出现新的绕过手法。真正的问题是监管规则能否快速迭代并且激励企业持续更新水印技术Anthropic对此回应称“我们的水印方案并不是为了成为万能药其目标是在当前技术条件下提供一种可靠的溯源方式。我们会把打补丁常态化。”但这意味着AI生成内容的水印或许永远不会成为“不可破解”的绝对标记而是转变为一场漫长猫鼠游戏中的持续变量。对行业与用户的启示对开发者而言如果想认真处理AI内容合规就不能把水印当作唯一防线。对普通用户而言看到水印检测结果还要多一份警惕。对监管者而言应当在技术标准之外加入对使用场景与责任人的考量。回到本文最初的一幕Anthropic的公告尚在新闻热度中程序员就用实际行动证明了“互联网抗拒监管”的本能。这种张力并不会消失只会跟随AI技术的发展不断演化。本文编译自WIRED本文首发于赢政天下https://www.winzheng.com获取更多深度技术内容与资源欢迎访问官网。
