按 Enter 搜索 · ESC 关闭

AI × Crypto

OpenAI 在欧盟上线隐形水印,却承认其容易被绕过

OpenAI 为满足欧盟《人工智能法案》,开始在 ChatGPT 输出中嵌入隐形水印,并配套开发检测器。但内部测试显示,简单替换同义词即可绕过水印,引发对统计式溯源可靠性的质疑,也让链上密码学存证方案重新受到关注。

OpenAI 为 ChatGPT 加装欧盟合规水印

OpenAI 已开始在面向欧盟用户的 ChatGPT 输出中嵌入隐形水印,以配合欧盟《人工智能法案》的透明度要求。公司同时开发了内部检测器,用于识别自家模型生成的内容。但 OpenAI 在测试中坦承,只需替换几个同义词、调整句子顺序,或用改写工具处理一遍,水印信号就可能被完全抹除。

该水印作用于模型的词元采样环节,通过微调用词概率留下统计痕迹,读者无法察觉,官方称不影响输出质量。配套检测器则通过分析用词模式,判断一段文字是否来自其模型。

为何这与加密行业高度相关

这一进展正落在 AI 内容溯源与真实性 这一核心议题上——而这正是加密领域多年来试图用链上方案解决的问题。去中心化身份、可验证凭证与内容存证类项目一直主张:只有加密签名与区块链时间戳,才能提供防篡改的来源证明。

OpenAI 的路径截然不同:一种概率性、统计性的信号,没有公共账本,也没有密码学证明。这带来三重结构性张力:

  • 可检测性与可否认性: 同义词替换即可破坏的水印,是较弱的溯源保证;而加密签名一旦被篡改会明确失效。
  • 中心化验证: 只有 OpenAI 能可靠运行检测器,信任集中于单一公司,与 Web3 去中心化验证理念相悖。
  • 监管先例: 欧盟 AI 法案的透明度要求可能成为其他司法辖区的模板,影响媒体、金融与链上应用中 AI 内容的标注方式。

对链上 AI 与数据市场的影响

随着 AI 代理越来越多地在链上活动——生成报告、执行交易、为代币化数据市场发布内容——“谁创作了什么”开始具备直接的经济意义。若水印被证明不可靠,市场可能转向混合模式:以水印做软性归属,以密码学存证应对高风险场景,如 DeFi 研究、预言机输入或 RWA 文档。

去中心化算力与推理网络可定位为中立存证层,在生成端对模型输出签名,为下游消费者提供不依赖单一 AI 厂商检测器的可验证声明。

后续观察要点

三个信号值得关注:其一,OpenAI 是否公开水印鲁棒性的技术细节,还是保持检测器专有;其二,欧盟监管是否接受统计水印作为合规标准,还是要求更强的密码学方案;其三,加密原生的溯源工具能否作为补充甚至替代方案获得采用。

就目前而言,结论并不轻松:首轮由监管驱动的大规模 AI 水印落地,伴随着一项被官方承认的缺陷。而合规与真正可验证性之间的这道鸿沟,或许正是区块链存证下一个真实用例的入口。

查看原文

分享本文
风险提示 本站内容为币圈、区块链与 Web3 行业资讯的整理与呈现,仅供参考,不构成任何投资建议或收益承诺;虚拟货币相关业务在中国境内属非法金融活动,数字资产价格波动剧烈,据此操作风险自担。本站不提供交易、代币发行融资或相关导流服务。

相关阅读

最新快讯

TREE NEWS 分享卡片
长按上方图片 → 保存到相册 / 转发分享
寻求报道 加入社群 意见反馈