Anthropic 希望让 AI 生成的文本更容易被识别,但一些软件开发者已经开始开发专门用于消除这些标记的工具。
这家 AI 公司上周表示,部分 Claude 模型生成的文本会带有一种“不可感知的水印”。由于这种水印是通过 Claude 的选词方式形成的统计模式,因此即使用户粘贴文本,水印也会随之保留下来。
一些人认为,AI 水印能够提高内容透明度,是一项值得欢迎的举措。不过,这一做法也引发了科技行业从业者的担忧:即使用户只是利用 Claude 对文本进行
这种反弹也促使一些人开始寻找绕过水印的方法。在美国,Google Trends 上“AI watermark remover”的热度环比上涨了 60%。一些开发者和创业者甚至开始自己动手开发工具,用于从文本和文件中移除 AI 水印。
Anthropic 表示,引入水印是为了履行其在欧盟
Meyer 表示,该工具会删除隐藏字符和元数据,然后在保持原文含义的同时重新改写文本,从而破坏可能携带水印的统计性选词模式。
他透露,第一版工具大约花了 5 个小时开发完成。目前该项目在 GitHub 上已经获得超过 1.4 万个 Star,这是衡量开发者社区项目受欢迎程度的一项指标,类似于社交媒体上的“点赞”。不过,该工具并不能保证一定能够彻底移除水印。
Meyer 对 Business Insider 表示:“我完全支持内容归属标注,但我反对这种水印技术,这两者之间存在非常重要的区别。”
Meyer 认为,问题在于水印技术“把
对于给 AI 生成文本添加水印的做法,Meyer 认为:“我认为这是对一个真实问题采取了错误的解决方案。”
本周,面向创业者提供 AI 教育服务的 Sabrina Ramonov 在 X 上表示,她开发了一款免费的浏览器端“Watermark Remover”。该工具宣称可以从文本、PDF、Word 文档、网页、以及数据文件中“清除隐藏的 AI 标记”。
与此同时,常驻东京的软件开发者 Ansh Aneja 表示,Anthropic 宣布推出这一功能当天,他就开发了一款专门针对 Claude 的水印移除工具。之后,他又发布了一个名为 MarkScrub 的本地开源版本。
Aneja 上周在 X 上表示,该工具在一天之内就从 0 名用户增长到 8500 名用户。不过,Business Insider 无法独立核实这一数字。
这些项目目前仍处于早期阶段,Business Insider 也无法独立评估它们的实际效果。包括 Google 和 OpenAI 在内的其他公司同样在等内容中使用水印,而目前也已经有大量工具声称能够移除这些水印。
不过,苏黎世联邦理工学院安全、可靠与智能系统实验室研究员 Thibaud Gloaguen 表示,这些工具再次体现了水印技术长期以来存在的局限性。
他告诉 Business Insider:“总会有办法移除水印。”他举例称,用户可以对整篇文本重新措辞,从而破坏原有的水印模式。
AI 水印移除工具目前处于法律上的灰色地带。欧盟要求 AI 公司为生成内容添加持久性标记,但并没有明确规定第三方是否可以主动移除这些标记。
欧盟委员会一名发言人告诉 Business Insider,欧盟相关指导方针要求 AI 服务提供商的内容标记系统能够抵御常见的修改方式以及针对标记系统的对抗性操作。
这名发言人还表示,欧盟的透明度规范明确将移除、重新生成、和修改列为 AI 服务提供商应当评估的潜在威胁。
不过,这些要求针对的是 AI 服务提供商。斯特拉斯克莱德大学计算机与信息科学系高级讲师 Dmitri Roussinov 表示,
但他告诉 Business Insider,如果水印移除工具本身利用 AI 重新生成文本,那么该工具的提供商可能也需要根据欧盟法律,为重新生成的 AI 内容添加相应标记。
马斯特里赫特大学法律与科技实验室助理教授 Konrad Kollnig 表示,无论是欧盟
不过,如果用户利用这类工具,将 AI 生成的内容伪装成人类创作,就可能面临问题。Anthropic 的使用政策禁止用户通过将模型生成结果声称为人类生成内容的方式冒充人类。
随着 Anthropic 计划在下一代模型发布时同步推出文本检测 API,这一问题可能会变得更加突出。目前 Anthropic 尚未公布具体上线 日及之后发布的新模型,同时 Anthropic 也计划将这一功能逐步应用到旧款模型。
Kollnig 表示:“所有这些水印技术都有一个共同的大问题:一旦水印检测工具公开,任何人都可以利用检测器检查 AI 生成的内容,包括文本和,并进一步开发用于移除水印的工具。”
特别
毛主席逝世当天,广播出现“重大失误”,32年后当事人披露线月燃油轿车销量榜,凯美瑞丢冠,轩逸第9,思域仅第38
性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列
女孩被外籍男教师搂在怀中,一对一上口语课,母亲拍下发到网上感慨:满满的松弛感!网友看了提醒母亲,这种举动恐怕不合适










