ChatGPT的制造商正试图通过一种新工具遏制其作为随心所欲的作弊机的声誉，该工具可以帮助教师检测是学生还是人工智能写了家庭作业。
OpenAI周二推出的新AI文本分类器是在学校和大学进行了为期数周的讨论之后，人们担心ChatGPT编写任何命令的能力可能会助长学术不诚实并阻碍学习。
OpenAI警告说，它的新工具 - 就像其他已经可用的工具 - 并非万无一失。检测人工智能书面文本的方法“并不完美，有时会出错，”OpenAI协调团队负责人Jan Leike说，该团队的任务是使其系统更安全。
“正因为如此，在做出决定时不应该仅仅依赖它，”Leike说。
Chat GPT
青少年和大学生是11 月 30 日在 OpenAI 网站上作为免费应用程序推出 ChatGPT 后开始试验的数百万人之一。虽然许多人找到了创造性和无害地使用它的方法，但它可以轻松回答带回家的测试问题并协助完成其他作业，这引发了一些教育工作者的恐慌。
到新年学校开学时，纽约市、洛杉矶和其他大型公立学区开始阻止在教室和学校设备上使用它。
西雅图公立学校区发言人蒂姆·罗宾逊（Tim Robinson）说，西雅图公立学校学区最初在12月在所有学校设备上阻止了ChatGPT，但随后向希望将其用作教学工具的教育工作者开放了访问权限。
“我们不能忽视它，”罗宾逊说。
罗宾逊说，该学区还在讨论可能将ChatGPT的使用扩展到课堂，让教师用它来训练学生成为更好的批判性思考者，并让学生将该应用程序用作“个人导师”或在完成作业时帮助产生新的想法。
全国各地的学区表示，他们看到围绕ChatGPT的对话正在迅速发展。
“最初的反应是'天哪，我们将如何阻止ChatGPT发生的所有作弊行为，'”马里兰州卡尔弗特县公立学区技术专家Devin Page说。他说，现在人们越来越意识到“这是未来”，阻止它不是解决方案。
“我认为如果我们没有意识到这个工具带来的危险，我们会很天真，但如果我们禁止他们和我们使用它的所有潜在力量，我们也将无法为我们的学生服务，”佩奇说，他认为像他这样的地区最终会解锁 ChatGPT，特别是一旦公司的检测服务到位。
OpenAI在周二的一篇博客文章中强调了其检测工具的局限性，但表示除了阻止抄袭之外，它还可以帮助检测自动虚假信息活动和其他滥用AI来模仿人类的行为。
Bard AI
一段文本越长，该工具就越能更好地检测人工智能或人类是否写了什么。输入任何文本——大学入学论文，或者对拉尔夫·埃里森（Ralph
Ellison）的《隐形人》（Invisible
Man）的文学分析——该工具会将其标记为“非常不可能，不太可能，不清楚它是否，可能或可能”是人工智能生成的。
但就像ChatGPT 本身一样，它接受了大量数字化书籍、报纸和在线著作的培训，但经常自信地吐出虚假或胡说八道，很难解释它是如何得出结果的。
“我们从根本上不知道它关注什么样的模式，或者它在内部是如何工作的，”Leike说。“在这一点上，关于分类器的实际工作原理，我们真的无话可说。
“像许多其他技术一样，可能是一个地区决定它不适合在课堂上使用，”OpenAI政策研究员Lama Ahmad说。“我们并没有真正以一种或另一种方式推动他们。
