化工仪器网手机版
移动端访问更便捷
OpenAI开发反作弊工具 效用如何引发质疑
2024年08月07日 10:16:33
来源：化工仪器网 点击量：6571
《华尔街日报》消息显示，反作弊项目在OpenAI内部争论了大约两年，准备发布的时间就有大约为一年。
【化工仪器网 时事热点】《华尔街日报》消息显示，反作弊项目在OpenAI内部争论了大约两年，准备发布的时间就有大约为一年。 OpenAI首席执行官山姆·奥特曼(Sam Altman)和首席技术官米拉·穆拉蒂(Mira Murati)都参与了反作弊工具的讨论。知情人士说，奥特曼鼓励这个项目，但没有推动发布。
OpenAI内部在透明度承诺和留住用户之间摇摆不定，它对ChatGPT用户开展的一项调查发现，近1/3的用户会因为反作弊技术而关闭服务，这些受访者表示，如果ChatGPT使用反作弊技术而竞争对手没有，他们会减少使用ChatGPT。
ChatGPT可以预测句子中接下来会出现的token，OpenAI的反作弊工具将略微改变token的选择方式，这些变化会留下水印。这些水印对人眼来说是不明显的，但可以被OpenAI的检测技术发现。根据内部文件，当ChatGPT创建足够多的新文本时，水印的有效性为99.9%。
首先，从技术角度来看，OpenAI的反作弊工具利用了一种类似“水印”的方法，在文本中嵌入不可见的标记。这些水印对人眼来说是不明显的，但可以被OpenAI的检测技术发现。据称，当ChatGPT创建足够多的新文本时，水印的有效性高达99.9%，且不会影响ChatGPT的性能。然而，内部员工担心这些水印可能通过简单的技术被删除，比如将文本翻译成另一种语言再转换回来，或者在文本中添加表情符号后手动删除。此外，如何决定谁可以使用这种检测器也是一个挑战。
其次，从用户角度来看，OpenAI对ChatGPT用户进行了多次调查，发现近三分之一的用户表示，如果ChatGPT使用反作弊技术，他们会减少使用ChatGPT。这些用户担心，如果ChatGPT使用反作弊技术而竞争对手没有，他们可能会转向其他工具。此外，该工具还可能对非英语母语的用户产生不成比例的影响，这进一步增加了OpenAI在发布该工具时的顾虑。
因此，尽管OpenAI在技术上已经取得了显著的进展，但在是否发布和使用这一反作弊工具上仍然存在诸多争议和未解决的问题。目前，OpenAI尚未正式对外公开这一工具，但已有一些外部公司和研究人员正在开发类似的检测工具，并尝试在教育和学术领域中使用。
相关阅读 Related Reading
查看更多+-
690亿元！今年第三期消费品以旧换新超长期特别国债已下达完毕
今年第三批 690 亿元支持消费品以旧换新的超长期特别国债资金已下达完毕，10 月份将按计划下达第四批 690 亿元资金，届时全年...2025-08-01 18:51:54 -
AI助力基因“暗物质“探索：ShortStop解锁疾病治疗新靶点
美国索尔克研究所最新开发的ShortStop机器学习框架，带领科学家们深入这片基因“暗物质”区域。2025-07-29 10:06:53 -
宁德时代2025上半年成绩单：总营收1788亿，动力电池业务增长16.8%
动力电池系统营收1315.7亿元(占比约73.5%)，同比增加16.80%，增速放缓。2025-08-01 14:40:44 -
会议中提出：“将更大力度推动科技创新和产业创新融合发展，提升产业核心竞争力?！辈⒚魅?025年下半年重点工作。2025-08-01 11:58:15
-
中国科协发布了2025重大科学问题、工程技术难题和产业技术问题
十大前沿科学问题包括流形的拓扑和几何分类、希格斯粒子性质和质量起源等。2025-08-01 11:53:36 -
为做好项目的立项和资助工作，化学科学部面向科技界征集2026年度化学化工领域重大项目立项建议。2025-08-01 11:15:49
版权与免责声明
- ①凡本网注明“来源：化工仪器网”的所有作品，均为浙江兴旺宝明通网络有限公司-化工仪器网合法拥有版权或有权使用的作品，未经本网授权不得转载、摘编或利用其他方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：化工仪器网”。违反上述声明者，本网将追究其相关法律责任。
- ②本网转载并注明自其他来源（非化工仪器网）的作品，目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时，必须保留本网注明的作品第一来源，并自负版权等法律责任。
- ③如涉及作品内容、版权等问题，请在作品发表之日起一周内与本网联系，否则视为放弃相关权利。
