ChatGPT Maker 离线识别工具不准确

本文最后更新于 26 7 月, 2023

ChatGPT Maker 离线识别工具不准确

介绍

ChatGPT 的开发商 OpenAI 因缺乏准确性而决定撤回最近推出的识别工具。该工具旨在帮助教师识别人工智能 (AI) 编写的文本。不过，OpenAI 承认系统存在缺陷，并致力于根据用户反馈开发未来更可靠的解决方案。

识别人工智能生成内容的挑战

OpenAI 的决定凸显了建立一个可靠的系统来识别人工智能生成的内容的难度，即使对于其创作者来说也是如此。当该工具在一月份推出时，该公司已经承认其缺陷。在 9% 的情况下，它错误地将人类编写的文本识别为人工智能生成的内容，这表明需要改进。 OpenAI 指出，分析较长文本时可靠性会提高。

该工具在教育中的用途

该识别工具的主要目的是为面临识别学生使用文本生成器的挑战的教育工作者提供支持，例如 聊天GPT， 用于作业。今年早些时候，教师们对这个问题表示了担忧，称他们无法区分学生编写的文本和计算机生成的文本。许多学生报告在使用 ChatGPT 时避免了检测。

未来发展计划

尽管该工具存在缺陷，OpenAI 仍然致力于开发可靠的系统，使用户能够验证文本、音频或视频内容的真实性。该公司计划迭代用户反馈并进行重大改进，以确保未来能够准确识别人工智能生成的内容。

结论

OpenAI 决定将其识别工具离线，这表明创建可靠的系统来区分人工智能生成的内容所面临的挑战。该公司承认该工具的不准确性并致力于解决用户反馈，这反映出该公司致力于开发增强对人工智能生成文本的信任的解决方案。通过不断迭代其技术，OpenAI 旨在为用户（特别是教师）提供可靠的工具来识别真实内容并有效管理人工智能在各个领域日益增长的影响力。

聊天GPT