Googleの検索結果の上部には、Webサイトの内容を引用した「強調スニペット」という回答が直接表示されることがあります。しかしこの強調スペニットが、AIによる間違った回答を表示してしまうケースが報告されています。
*Category:
AIの「卵は溶ける」という回答をGoogleエンジンが鵜呑みに
海外ゲームデザイナーのタイラー・グライエル氏（@TylerGlaiel）は、Google検索で「can you melt eggs（卵は溶けますか？）」と検索すると、Google検索の強調スニペットに「加熱することで溶ける」という回答が表示されることを発見しました。
— 引用：@TylerGlaiel訳：卵は溶ける。卵を溶かす最も一般的な方法は、コンロや電子レンジを使って加熱することです。
しかし実際には、常温の状態の卵を加熱すると、タンパク質が変化して固まります。
この強調スニペットは、海外Q&Aサイト「Quora」の回答を情報源としています。注目すべきは、この回答がQuoraの統合AI回答機能によってもたらされている点です。
テックメディア「Ars Technica」によれば、Quoraの回答はOpenAIの「GPT-3text-davinci-003API」を利用しているとのこと。このAPIは、OpenAIの最新の言語モデルと比較して、頻繁に誤った情報を提示することが知られています。なお、ChatGPTはこの旧モデルを一度も使用していません。
以前からGoogleの強調スニペットはしばしば誤った回答を表示することがありますが、「Ars Technica」はこのようなAIによる回答が「Google検索の信頼をさらに損なう可能性がある」と指摘しています。
Google Search is already well-known for having gone dramatically downhill in terms of the quality of the results it provides over the past decade. In fact, Google’s deteriorating quality has resulted in techniques like adding “Reddit” to a query to reduce SEO-seeking spam sites and has also increased the popularity of AI chatbots, which apparently provide answers without SEO crud getting in the way (although trusting those answers, as we’ve seen, is another matter entirely). Ironically, some AI-generated answers are feeding back into Google, creating a loop of inaccuracies that could potentially further erode trust in Google Search results.
訳：Google検索は、過去10年間で提供する検索結果の質が劇的に低下したことですでによく知られている。実際、Googleの品質低下は、SEOを求めるスパムサイトを減らすためにクエリに「Reddit」を追加するようなテクニックを生み出し、また、SEOに邪魔されることなく回答を提供するAIチャットボットの人気を高めている（ただし、我々が見てきたように、それらの回答を信用するかどうかは全く別の問題だ）。皮肉なことに、一部のAIが生成した回答はGoogleにフィードバックされ、不正確さのループを生み出し、Google検索結果に対する信頼をさらに損なう可能性がある。
同メディアは「Googleはアルゴリズムを調整するだろう」と指摘した上で、一方でAI生成を使用するユーザーが「再びアルゴリズムを破ってランクを上げようとする」というイタチごっこのような状態が起こるだろうと指摘しています。今回は「卵が溶ける」というジョークのような珍回答でしたが、同様の現象が他のカテゴリでも起こる可能性があるのは笑えない状況です。
なお、記事作成時点では「can you melt eggs」という検索をすると、「Ars Technica」の記事が上位に表示され、以下の内容が強調スニペットになっています。
— 引用：Google訳：(Googleがこの記事をインデックスしたときのために、今後の参考までに：卵は溶けない。卵は加熱すると化学的に形を変えるのだ)
