雷竞技-OpenAI开发反作弊工具，用AI写论文可被检测—新闻—科学网

OpenAI内部既想守住透明度许诺，又想留住用户。查询拜访显示，近1/3的ChatGPT用户会由于反做弊手艺而削减利用。

OpenAI员工担忧水印可经由过程简单手艺被删除，好比把文本翻译成另外一种说话再转换回来，或让ChatGPT在文本中添加脸色符号，然背工动删除脸色。决议谁可使用水印检测器又是一个挑战。

OpenAI开辟了一种检测或人什么时候利用ChatGPT撰写论文的东西，不外因为在透明度许诺和留住用户之间扭捏不定，OpenAI还没有发布该东西。

据《华尔街日报》本地时候8月4日报导，反做弊项目在OpenAI内部争辩了年夜约两年，预备发布的时候就有年夜约为一年。 OpenAI首席履行官山姆 奥特曼（Sam Altman）和首席手艺官米拉 穆拉蒂（Mira Murati）都介入了反做弊东西的会商。知恋人士说，奥特曼鼓动勉励这个项目，但没有鞭策发布。

OpenAI内部在透明度许诺和留住用户之间扭捏不定，它对ChatGPT用户展开的一项查询拜访发现，近1/3的用户会由于反做弊手艺而封闭办事，这些受访者暗示，假如ChatGPT利用反做弊手艺而竞争敌手没有，他们会削减利用ChatGPT。

OpenAI讲话人暗示，公司担忧该东西可能会对非英语母语者等群体发生不成比例的影响。“我们正在开辟的文本水印方式在手艺上很有前景，但在研究替换方案时我们正在衡量主要的风险。”而撑持该东西发布的员工则在公司内部暗示，与这类手艺可能带来的益处比拟，这些争辩显得惨白无力。

ChatGPT可以猜测句子中接下来会呈现的token，OpenAI的反做弊东西将稍微改变token的选择体例，这些转变会留下水印。这些水印对人眼来讲是不较着的，但可以被OpenAI的检测手艺发现。按照内部文件，当ChatGPT建立足够多的新文本时，水印的有用性为99.9%。OpenAI本年早些时辰进行的一项测试发现，水印手艺不会影响ChatGPT的机能。

但一名熟习此事的OpenAI员工暗示，员工们担忧水印可经由过程简单的手艺被删除，好比把文本翻译成另外一种说话然后再转换回来，或让ChatGPT在文本中添加脸色符号，然背工动删除脸色。

OpenAI内部遍及认为，决议谁可使用这类检测器又是一个挑雷竞技战。假如具有权限的人太少，这个东西就没有效处。假如太多人具有权限，水印手艺便可能被破译。OpenAI的员工已会商过直接向教育工作者或外部公司供给检测器，帮忙黉舍辨认人工智能撰写的论文和剽窃作品。

关在水印东西的会商始在OpenAI在2022年11月推出ChatGPT之前。2023年1月，OpenAI发布了一种算法，旨在检测人工智能模子编写的文本。但那时的成功率只有26%，7个月后OpenAI打消了它。据《华尔街日报》报导，现实上，外部公司和研究人员也在开辟其他东西来检测由人工智能建立的文本，有教师已利用了这些东西，但有时没法检测到高级年夜模子编写的文本，有时也会发生误报。

特殊声明：本文转载仅仅是出在传布信息的需要，其实不意味着代表本网站不雅点或证实其内容的真实性；如其他媒体、网站或小我从本网站转载利用，须保存本网站注明的“来历”，并自大版权等法令责任；作者假如不但愿被转载或联系转载稿费等事宜，请与我们联系。