雷竞技-他们用“水印”鉴别AI生成文章—新闻—科学网

英国谷歌深度思惟公司的科学家开辟了一种能为年夜说话模子生成的文本添加水印的东西，能提高对合成内容的辨别和追溯能力。相干研究近日颁发在《天然》。

年夜说话模子（LLM）是普遍利用的人工智能（AI）东西，能为聊天机械人、写作撑持和其他目标生成文本。不外，人们很难辨认并追溯AI生成文本的来历，使信息的靠得住性成疑。水印被认为能解决这一问题，但出产系统对证量和计较效力的严酷要求阻碍了其范围化利用。

深度思惟公司的Sumanth Dathathri、Pushmeet Kohli和同事开辟了一个操纵一种全新采样算法给AI生成文本添加水印的系统，称为SynthID-Text。该东西操纵一个采样算法对LLM的辞汇选择进行奇妙偏移，插入一个能被相干检测软件辨认的签名。这既可以经由过程一种“扭曲”路径实现——该路径能提高水印质量但会稍微影响输出质量，或是经由过程一种能保存文素质量的“非扭曲”路径。

研究者在多个公然模子上评估了这些水印的可检测性，发现SynthID-Text的可检测性优在当前其他方式。他们还用Gemini LLM的近2000万次在线对话回覆评估了这些文本的质量，成果显示非扭曲水印情势不会下降文素质量。最后，SynthID-Text的利用对LLM运行所需算力的影响可疏忽不计，削减了利用上的障碍。

研究者提示道，编纂文本或改写输出就可以避免呈现文本水印。但该研究证实，一个为AI生成内容的生成式文本添加水印的东西是可行的，继而有望晋升LLM利用的责任制和透明度。

相干论文信息：

https://doi.org/10.1038/s41586-024-08025-4

版权声明：凡本网注明“来历：中国科学报、科学网、科学新闻杂志”的所有作品，网站转载，请在正文上方注明来历和作者，且不得对内容作本色性改动；微信公家号、头条号等新媒体平台，转载请联系授权。邮箱：shouquan@stimes.cn。