ChatGPT“克星”：用AI识别AI生成的文本，英语论文阅读条记都能测出

萧箫 发自 凹非寺

量子位 | 公家号 QbitAI

ChatGPT的呈现，让很多人看到了交期末高文业的曙光 （手动狗头）。

无论是英语论文、仍是阅读条记，只要在ChatGPT的常识范畴内，都能够奉求它帮手完成，写出来的内容也有理有据。

不外，有没有想过你的教师也筹办用“ AI文本检测器”一类的工具来避免你做弊？

像如许输入一段看起来没弊端的条记，颠末它一番检测，认为那段文字“由AI编写” （Fake）的可能性为 **.*8%！

△文本由ChatGPT生成

换个数学论文尝尝？ChatGPT的输出看起来没啥问题，却仍然被它准确识破了：

△文本由ChatGPT生成

那可不是靠瞎蒙或推测，究竟结果对方同样是个AI，仍是个训练有素的AI。

看到那有网友调侃：用魔法打败魔法？

用AI写的工具来训练新AI

那个AI检测器名叫 GPT-2 Output Detector，是OpenAI吉印通哈佛大学等高校和机构一路打造的。 （没错，OpenAI自家做的）

但即使是专门检测GPT-2的模子，用来检测其他AI生成文本效果也同样不错。

做者们先是发布了一个“GPT-2生成内容”和WebText （专门从国外贴吧Reddit上扒下来的）数据集，让AI理解“AI语言”和“人话”之间的差别。

随后，用那个数据集对RoBERTa模子停止微调，就得到了那个AI检测器。

RoBERTa （Robustly Optimized BERT approach）是BERT的改良版。原始的BERT利用了1*GB大小的数据集，但RoBERTa利用了包罗6*00万条英文新闻的160GB数据集。

△文字来源Medium@Megan Ng

当然，那个检测器也并不是100%准确。

同时，模子生成成果随机性越高，AI生成内容被检测出来的概率也会更低。

但即使将模子调整到生成随机性更高 （Temperature=1，越接近0生成随机性越低），1.24亿参数模子被检测出的概率仍然是88%，1*亿参数模子被检测出的概率仍然有*4%。

那是OpenAI两年前发布的模子，其时对GPT-2生成的内容就“一打一个准”。

如今面临晋级版的ChatGPT，检测英文生成内容的效果照旧能打。

AI检测器给出是人写的概率为**.*6%……

当然话说回来，ChatGPT也能检测本身生成的文本。

One More Thing

值得一提的是，ChatGPT暗示本身其实不能拜候互联网来搜刮信息。

显然，它还意识不到GPT-2 Output Detector那个AI检测器的存在：

所以能不克不及像网友所说，让ChatGPT生成一段“不被AI检测器测出来的”内容呢？

很遗憾不克不及：

所以高文业仍是本身写吧……

— 完—

「人工智能」、「智能汽车」微信社群邀你参加！

欢送存眷人工智能、智能汽车的小伙伴们参加我们，与AI从业者交换、商讨，不错过最新行业开展手艺停顿。

PS. 加老友请务必备注您的姓名-公司-职位哦 ~

点那里 👇存眷我，记得标星哦～

一键三连「分享」、「点赞」和「在看」

科技前沿停顿日日相见~