Wired AI

Authors Can Defend Against AI Allegations With ‘Paper Trail’ Tools. Is It Enough?

7.2内容质量
Authors Can Defend Against AI Allegations With ‘Paper Trail’ Tools. Is It Enough?

TL;DR · AI 摘要

AI检测工具与作者防御手段的争议持续升级,但行业仍缺乏统一标准。新工具试图通过追踪写作过程证明人类创作,但效果存疑。

核心要点

  • AI检测工具Pangram判定《Shy Girl》78%文本为AI生成,引发出版业信任危机
  • Anthropic因版权问题赔偿15亿美元,凸显AI训练数据争议
  • Workings等工具通过加密指纹技术记录写作过程,但尚未形成行业标准

结构提纲

按章节快速跳转。

  1. 出版业面临AI生成内容与作者原创性之间的信任危机

  2. 《Shy Girl》事件暴露AI检测工具的争议性与行业应对不足

  3. Workings等工具通过加密指纹技术记录创作过程

  4. 作者面临AI指控时缺乏统一的法律辩护标准

  5. AI检测可能引发对作者的系统性误判与声誉损害

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI与出版业的版权争议
    • 核心案例
      • 《Shy Girl》事件
      • Anthropic诉讼
    • 防御技术
      • 写作过程追踪
      • 加密指纹技术
    • 行业挑战
      • 标准缺失
      • 法律风险

金句 / Highlights

值得收藏与分享的关键句。

#AI版权#出版业#法律争议#写作工具
打开原文

作者可使用“纸面证据”工具应对AI指控,但这是否足够? | WIRED

Miles Klee

文化

2026年11月9日 6:00 AM

作者可使用“纸面证据”工具应对AI指控,但这是否足够?

当出版行业对稿件来源产生强烈疑虑时,作家们陷入了两难境地。

照片插图:WIRED编辑部;Getty Images

保存此故事

Andrea Bartz是一位高产小说家,拥有令人印象深刻的履历。自2019年以来,她出版了五部惊悚小说,成为《纽约时报》畅销书作家,其作品被Netflix和Hulu等平台选中,还获得了Reese Witherspoon影响力书俱乐部的推荐。

她还有一项法律成就:Bartz是针对Anthropic公司的集体诉讼的主要原告,指控该公司从盗版网站下载数百万本受版权保护的书籍,作为其模型的训练数据。去年,Anthropic同意支付15亿美元,创下美国历史上最大的版权和解金额。

但当Bartz和其他许多作家警惕着作品被掠夺的风险时,另一种AI威胁正在酝酿。当作者本身被指控依赖人工智能时会发生什么?

今年3月,出版行业找到了答案:在社交媒体上广泛流传《害羞的女孩》这部恐怖小说主要由AI生成的猜测,以及《纽约时报》对此的报道后,Hachette Book Group取消了该小说在美国的即将出版计划,并在已发布该小说的英国市场停售。根据Pangram这一强大但并非万无一失的AI检测工具的分析,该书约78%的文字为AI生成。

《害羞的女孩》作者Mia Ballard否认使用AI撰写该小说的指控,声称是编辑负责对先前自出版版本进行AI辅助修改。她还表示正在寻求法律行动。自该丑闻曝光以来,还有多位其他小说家因涉嫌AI使用而陷入麻烦,其中一位在赢得短篇小说奖后,另一位则在出版商为其犯罪小说竞标数百万美元后遭遇质疑。两人均否认了这些指控。

但Bartz指出,一旦指控开始,损害就已造成。当《害羞的女孩》丑闻爆发时,她说:“我立刻感到这可能会引发一场潜在的猎巫行动。”她解释称,AI在出版业的不可避免的出现将“产生意想不到的效果,使任何人都能指控他人使用AI”,而目前作者在应对这些指控时几乎没有防御手段。“在证明人类作者身份方面,目前还没有公认的统一标准,”Bartz表示。

一系列新软件工具的开发者希望改变这一现状。包括Workings、Blindproof、Wintertext、Human Ink和ObraVera在内的平台承诺提供追踪和记录作者写作过程的手段,某些情况下甚至会通过加密和指纹识别技术,或使用唯一代码记录写作节奏,以生成作者身份记录(无论是完全由人类创作还是AI辅助创作)。这一想法不仅是为作家提供一个可指证的“纸面证据”,以应对他人质疑其是否使用了大型语言模型(LLM),更重要的是在文本被刮取用于AI训练集而未标注来源或其他识别元数据时,能够证明文本的来源。

玛丽·拉森伯格(Mary Rasenberger)是作者协会(Authors Guild)的首席执行官,这是一个专注于言论自由和版权保护的专业组织。她表示,协会无法推荐某一种工具优于其他工具,但希望作家们知道这些工具的存在,它们在某种程度上可以作为安全网。(据协会政策与倡导主任乌马尔·卡齐(Umair Kazi)称,许多公司都曾主动向作者协会推销他们的服务。)

与此同时,拉森伯格告诉《WIRED》杂志,这种“必须跳过这些繁琐步骤”的要求令人感到“侮辱”且“是一种负担”,并表示“我们不认为作者为了保留收据必须这样做是合理的”。

拉森伯格表示:“如果你出售的是自己的文字、声音和想象力,使用AI就没有意义。”她指出,作者对自己作品的自豪感意味着AI生成的内容在出版界远不如人们想象的那样常见。“我曾与一些文学非虚构和小说编辑交流过,”拉森伯格说,“其中一些人表示,‘我从未见过AI生成的投稿,如果有的话,我一定能识别出来。’”

拉森伯格担心,作者正面临一个不信任的环境——她表示:“作者应避免对其他作者提出指控,因为这不利于构建健康的文学社区。”她还指出,人们对AI检测工具的过度自信可能会带来问题,这些工具可能被欺骗并产生误报。尽管Pangram声称在创意写作中使用时,其误报率仅为行业领先的0.01%,但拉森伯格表示,作者协会“听说过许多案例,人们将自己创作的人类内容输入Pangram后,却收到AI生成的检测结果”。她补充说,有许多因素可能导致AI检测工具误判非AI生成的内容为AI生成。

同样地,追踪写作过程的应用程序也不是万能的;AI军备竞赛意味着双方都在不断循环漏洞和修复措施。

Pangram的联合创始人兼首席执行官Max Spero表示:“我们的产品可以在Google Docs中追踪写作,许多用户发现这很有帮助。”但他也指出,“纸面追踪”工具并非完美的解决方案。例如,有人可以手动输入AI生成的文本,或使用自动打字工具。Spero指出,写作本身的杂乱性也带来了更多问题。“普通作者并不会坐下来直接打字写一本书,”他说,“他们通常会处理多个文件,来回发送草稿,在外出时使用语音备忘录。并非所有这些内容都会被写作过程工具捕捉到。”

与此同时,这些工具可能更侧重于版权保护,而非确认作者是人类还是AI。ObraVera的技术创始人布拉迪·里奇韦(Brady Ridgway)表示,他的平台可以使用密码学技术对写作中的模式以及音频语音记录进行“指纹”识别。他解释说,平台的设计目的是追踪已注册的人类用户存储在数据库中的内容的重复使用。通过时间戳和加密哈希,如果内容“之后出现在不应出现的地方,或被其他人声称是他们的作品,我们可以在数据库中搜索并指出‘这些文字是在这个时间由这个人创作的’。”

一些人认为,试图建立人类作者身份的审核系统本身就是不切实际的——而且很快可能就变得无关紧要了。出版行业专家简·弗里德曼(Jane Friedman)在她的行业通讯《底线》(The Bottom Line)中指出,随着Pangram等检测工具的改进,AI丑闻的时代可能很快就会结束。她写道,作者们现在已经看到了如果试图将AI生成的内容冒充成自己的作品会发生什么。

弗里德曼告诉《WIRED》杂志,代理商和出版商不太可能实施任何需要“额外费用或额外时间”的验证人类作者身份的方法,尤其是因为要让他们承诺采用统一标准几乎不可能。她预测:“要在这个问题上达成一致将像赶猫一样困难,因为出版行业对新技术的采纳速度很慢,尤其是那些由行业外部人士开发的新技术。”

即使不同资源和需求各异的出版商围绕某种理论上的认证形式达成共识,仍然存在障碍。弗里德曼提到了将这一标准整合到现有生产模型中的物流问题,更不用说“伪造或篡改”的认证问题仍然存在。“如果任何这些步骤都需要额外费用或额外时间,那就别指望了,”她总结道。虽然作者可能愿意为安心支付费用,但弗里德曼表示,他们无法信任代理商和出版商会接受任何特定应用程序提供的作者身份证明。

在没有明确解决方案的情况下,作家们只能自行应对。巴茨表示,她对读者对被AI欺骗的可能性表现出的热衷感到震惊。“我听说有人因为某个陌生人觉得某本书听起来像AI,其他人就纷纷跟风,在Goodreads上对这本书进行差评轰炸,”她说。“我看到有读者表示:‘我不会再读2022年之后出版的任何书,因为这样我就能确定里面没有生成式AI的内容。’这是一下子摧毁整个行业的好方法。”

巧合的是,巴茨即将于2027年出版的新书《Delete Your Account》(注销你的账户)直接面对生成式人工智能问题。她的主角是一位陷入写作瓶颈的作家,选择了一个不幸的捷径,让AI聊天机器人模仿她最喜欢的惊悚小说——结果发现自己被困在那个原始故事中,面临死亡。

巴茨想知道,选择讽刺AI是否让自己陷入了危险境地。“我写了一些明显听起来像大型语言模型(LLMs)的内容,”她说。“我编写的对话记录,以及这家虚构AI公司令人讨厌的、具有AI风格的营销材料。我不知道——如果这些内容被误认为是AI生成的,我该怎么办?”