AI 检测器的原理是什么？困惑度、突发性与分类器

AI 检测器的工作原理，是衡量一段文字有多好预测。大多数检测器会把文本交给一个语言模型，根据前面的词，检查每个词出现的可能性有多大。始终很容易预测的文字，看起来像机器写的。用词更出人意料、更不均匀的文字，看起来像人写的。许多商业工具还会在此基础上加一个训练好的分类器，它从大量带标签的样本中学会了两者的区别。

这就是核心思路。细节则解释了检测器为什么有用，以及为什么会出错。

检测器问的基本问题

检测器并不理解你的论点，不核查你的事实，也不知道你是谁。它只看文字的表面，也就是用了哪些词、怎么排列，然后问一个统计学问题：这段文字更像语言模型的产出，还是更像人的产出？

为了回答这个问题，检测器会用到几类信号。大多数现代工具会把几种结合起来。

信号 1：困惑度

困惑度是对“意外程度”的衡量。拿一个语言模型，把你的文本一个词一个词地喂给它，每一步都问：实际出现的下一个词，原本的可能性有多大？

看这句话：“猫坐在___上。”模型会很有把握地预测“垫子”“地板”或“沙发”。如果下一个词是“垫子”，困惑度就低。如果是“手稿”，困惑度就高。

语言模型生成文字时会挑可能性高的词。所以用类似的模型来衡量，它们的输出往往从头到尾困惑度都很低。人选词的理由则五花八门：习惯、幽默、某段具体的记忆、一个自己偏爱的略显古怪的说法。这些都会把困惑度推高。

一些早期检测器很依赖这一个数字。问题在于，很多真人写的文字也很好预测。一份实验报告、一份法律摘要，或者一篇照着评分标准写的五段式作文，都可能仅仅因为体裁套路化而得到很低的困惑度。

信号 2：突发性

突发性看的是困惑度在全文中如何变化。一个人可能先写两句平淡的话，接着一句用了不寻常的比喻，然后是半句话。可预测程度上下跳动。AI 输出则往往从头到尾保持在稳定水平。

同样的思路也体现在更简单的指标上，比如句子长度的变化幅度。真人写的段落里，30 字的长句和 4 字的短句常常混在一起。模型写的段落则往往把句长控制在很窄的范围内。

GPTZero 在 2023 年初上线时，让“困惑度 + 突发性”这对组合广为人知，这两个术语也一直沿用下来。它现在的模型用到的指标远不止这两个，但它们仍然是理解检测器在找什么的好办法。

信号 3：训练好的分类器

如今商业检测器最常见的做法是分类器：一个在大量标注为“人类”和“AI”的文本上训练出来的机器学习模型。它会学习任何能把两组区分开的特征，包括一些人根本想不到去命名的特征。

分类器通常基于和聊天机器人本身相同的 Transformer 技术。对于和训练数据相似的文本，它们可以相当准确。遇到不相似的文本就会吃力，例如：

• 分类器没见过的较新模型写的文字
• 训练集中少见的语言或方言
• 训练数据覆盖不足的体裁，比如诗歌或技术文档
• 混合文本，即部分由人写、部分由 AI 写

这就是为什么厂商要定期重新训练检测器，也是为什么同一段文字隔几个月在同一个工具里会得到不同的分数。

信号 4：水印

水印是另一种思路。运营模型的公司不是事后去猜，而是在生成时按某种隐藏的统计模式微调模型的用词。配套的检测器随后就能检查是否存在这种模式。

如今，三大聊天机器人都至少会给自己的一部分文本这样做。自 2024 年起，Google 就用 SynthID 标记 Gemini 应用的文本（SynthID 的工作原理）。Anthropic 从 2026 年 8 月开始为 Claude 的文本加水印（Anthropic 是怎么说的），OpenAI 则从 2026 年 10 月起为欧盟境内的 ChatGPT 文本加入 textGrain 水印（它在哪里生效）。有水印时，它可以相当可靠。问题在于，只有开发该模型的公司才持有检测水印的密钥，现实中大量文本根本没有水印，而且大幅修改或翻译会削弱这个信号。

所以就目前而言，你会遇到的几乎所有检测器，包括学校里用的，依靠的都是上面那些统计方法，而不是水印。

这些信号如何变成一个分数

不同工具呈现结果的方式不同：

• 一个百分比，通常描述为文本中可能由 AI 生成的比例。
• 按句子或段落高亮，显示是哪些部分推高了分数。
• 分类，例如完全 AI、经 AI 润色或真人撰写。RealWrite AI 检测器采用四个类别，让你看到混合创作的情况，而不是只得到一个结论。

不管什么形式，这个数字都是概率估计，而不是事实认定。80% 的分数并不意味着 80% 的字是机器打出来的，而是说模型相当确信这段文字和它见过的 AI 样本很像。

AI 检测器为什么会出错

一旦了解了检测器的原理，就很容易预料到它们会在哪里失手。

套路化的体裁看起来像 AI

正式、结构化的写作，困惑度天生就低。摘要、求职信、产品描述和标准化作文都遵循固定的写法，下一个词很容易猜到。在这些体裁里，真人作者更常被误判。

非英语母语者更容易被标记

用第二语言写作的人，往往用词范围更小、更保险，句式也更规整。而这恰恰是检测器与 AI 联系在一起的特征。2023 年，由 Weixin Liang 领导的一项斯坦福研究发表在期刊 Patterns 上，发现几款流行的检测器把非英语母语者写的托福（TOEFL）作文中很大一部分误判为 AI 生成，而对美国学生作文的判断则准确得多。我们在 AI 检测器误判一文中对此有深入介绍。

短文本提供的信号不够

统计指标需要数据。一段 100 字的文字，根本没有足够的词来做可靠的估计。很多工具因此设定了最低字数，而接近这个下限的结果最不稳定。

修改让界限变得模糊

现实中的写作越来越混合。有人用 AI 起草，再改写一半。有人手写，再用语法工具润色。检测器主要是在两类“纯净”样本上训练的，所以混合文本会落在不确定的中间地带。

翻译会搅乱信号

用一种语言写成、再机器翻译成另一种语言的文字，会带上翻译模型的一些规整感。由 AI 写成再翻译的文字，则会失去部分原有特征。无论哪种情况，检测器面对的都已不是它被训练去判断的那种文字，结果也就更难让人信任。

语法工具可能把文字推向“AI”

激进的语法和风格建议往往会让文字更流畅、更均匀。接受得够多，你原本自己写的文字在统计上也可能开始和模型输出相似。

检测器适合用来做什么

这一切并不意味着检测器没用。用得好，它是一个快捷的第二意见。草稿得了高分，正好提醒你重读一遍：句子是不是都一样长？是不是每段都有套话？里面有没有任何具体的东西？

我们建议这样使用任何检测器，包括我们自己的：提交前检查草稿，看看哪些部分分数高，然后修改这些部分，让它们更像你写的。工作原理页面展示了在 RealWrite 里的这个流程。

检测器不应该成为评判一个人作品的唯一证据。就连开发它们的公司也这么说。例如，Turnitin 明确告诉老师，它的 AI 分数不应作为对学生采取行动的唯一依据。我们的 Turnitin 详解介绍了它的报告到底显示了什么。

简短总结

• 检测器衡量的是可预测性，而不是意思。
• 困惑度是词层面的意外程度。突发性是这种意外程度的起伏大小。
• 大多数商业工具在此之上还使用训练好的分类器，需要不断重新训练。
• 水印前景不错，但实际中很少见。
• 正式体裁、非母语作者、短文本和修改过的文本，是检测器最容易出错的地方。

如果你想看看自己的文字会得多少分，可以用 RealWrite 免费检测一下。如果你在权衡不同工具，我们的最佳 AI 检测器对比把几个主要选项放在一起做了比较。