学生が課題をする際に、ChatGPTなどの生成型AIプラットフォームを利用することは珍しくありません。しかし今回の例では、ある大学教授がChatGPTに論文のAI判定をさせ、散々な事態となっています。
*Category:
ChatGPTに論文のAI判定をさせた大学教授
海外掲示板「Reddit」の投稿によると、テキサスA&M大学の教授が、ChatGPTを使って論文を生成したとして、15人の学生を落第にしたとのこと。影響を受けた学生たちは、大学の調査が終わるまで一時的に卒業証書の交付が保留となりました。
教授の判定方法は、それらの論文がAIによって生成されたのかを、ChatGPTに判定させるというものでした。共有された教授からのメールのスクリーンショットの一部には、こう記されています。ちなみに教授は「ChatGTP」と書いていますが、これはChatGPTのスペルミスです。
あなたの最後の3つの課題を採点するために、私はChat GTPの自分のアカウントを開設しました。私はこのアカウントで皆さんの回答をコピー＆ペーストし、Chat GTPはプログラムがコンテンツを生成したかどうかを私に教えてくれます。私はみんなの最後の3つの課題を、2つの独立したセッションにかけました。
— 出典：Reddit
しかし、ChatGPTに文章がAIによって生成されたものかどうかを正確に判断する能力が無いことは、複数のテストで実証されています。テックメディア「Android Authority」によれば実際、ChatGPTは同教授が2021年に書いた研究論文さえ「AIが書いた」と主張したそうです。
当然ながら、この15人には実際にはChatGPTを使ってない学生も含まれていたとのこと。この酷い判定方法を知った学生のガールフレンドが、Redditにこれを共有した形です。
テックメディア「PCMag」に対し、大学は「この問題の結果、クラスを落第したり、卒業できなかった学生はいない」と述べており、最終的に問題は解決されたようです。この投稿はReddit上で1900件のコメントが付くなど非常に注目を集めており、投稿者は大学側がこの炎上に気づいたことで、積極的に容疑を晴らそうとしてくれたと感謝を述べています。
ただし大学側からは、少なくとも2人の学生が名乗り出て、学期中にChatGPTを使用したことを認めたという報告もあったとのこと。ChatGPTの使用を完全に禁止することは難しいですし、このようなAIの問題をどう扱うかは大学などの教育機関にとって大きな課題となりそうです。
実際に「ChatGPT」に文章のAI判定をさせるとどうなるのか？
実際に、ChatGPTに過去記事の一部を、AI判定させてみました。その結果がこちら。
勝手にAI、しかも「ChatGPTが書いたものです」と断定してきました。
同じ質問を何度かテストしてみたところ「AIが書いた」「人間が書いた」「判定することはできない」という回答がランダムに返ってきました。論文のような硬い文章の場合、特にAIの文章だと誤判定されやすいかもしれません。
なおOpenAIは、ChatGPTのようなAIが生成した文章を見破る「AI Text Classifier」を公開しているので、判定する場合はこちらを使ったほうが良いでしょう。とはいえこちらも関西弁であれば突破できたり、AIの文章だと誤判定することがよくあるので、あくまで参考程度にとどめておくべきです。
