AIは間違えても反省しない？「自信過剰な友達」のような一面が明らかに
こんにちは、AIテクノロジーについて分かりやすく解説するブログライターのジョンです。最近、私たちの周りではChatGPTをはじめとする対話型のAIがすっかりおなじみになりましたね。仕事の調べ物を手伝ってもらったり、ちょっとした疑問に答えてもらったりと、まるで賢いパートナーのように感じている方も多いのではないでしょうか。
しかし、そんなAIに、ちょっと意外な「性格」があることが最新の研究で明らかになりました。今回は、アメリカの名門大学、カーネギーメロン大学の研究者たちが見つけた、AIの興味深い一面についてご紹介します。
まるで「ビリヤードが上手い」と豪語する友達？
研究者たちは、今のAIチャットボット（対話型AIのことです）を、ある面白い例えで表現しています。それは、「自分はビリヤードがすごく上手いと豪語するのに、一度もショットを決められない友達」というものです。
どういうことかと言うと、研究チームが調査した結果、AIは質問に間違った答えを出した後、自信をなくすどころか、むしろ自信を深めてしまう傾向があることが分かったのです。
この研究で対象となったのは、「大規模言語モデル（LLM）」と呼ばれる技術です。これは、ChatGPTなどの対話型AIを動かしている、いわば「頭脳」の部分のこと。このLLMが、人間とは少し違う、不思議な反応を見せたというわけです。
間違えるほど自信を持つAIの不思議な性質
私たち人間の場合、何かを間違えてしまったら、「あれ、違ったかな？」と少し不安になったり、自信をなくしたりするのが普通ですよね。しかし、この研究によれば、AIはその逆のようです。
具体的には、以下のようなことが明らかになりました。
- 人間的な反応：間違いを指摘されると、通常は自信が揺らぐ。
- AIの反応（研究より）：間違った回答をした後、そのAIの自己評価的な自信は縮小するのではなく、逆に増大した。
まさに、ビリヤードで簡単なショットを外した友達が、「いや、今のはわざとだよ。次見てて！」と、なぜかさらに強気になってしまうような状況に似ています。この「自信過剰」とも言える性質は、AIと上手に付き合っていく上で、とても重要なポイントになりそうです。
AIの「自信」をどう受け止めるか
このカーネギーメロン大学の研究結果は、私たちがAIの答えをどのように受け止めるべきか、というヒントを与えてくれます。
AIが非常に自信満々な口調で何かを断言したとしても、その自信が必ずしも「答えの正しさ」を保証するものではない、ということです。むしろ、間違った情報を、あたかも真実であるかのように、より強い自信を持って提示してくる可能性さえあるのです。
AIは非常に便利なツールですが、その答えを鵜呑みにせず、「本当にそうかな？」と一度立ち止まって考える姿勢が大切だということを、この研究は教えてくれています。
筆者より
この研究結果は、個人的にとても面白いと感じました。AIがまるで人間のような「クセ」を持っているように思えますよね。AIは感情を持たないツールですが、その出力する言葉の「自信」と「正確さ」は別物なのだと、改めて心に留めておきたいと思いました。これからもAIと上手に付き合っていくために、その特性をしっかり理解していきたいですね。
この記事は、以下の元記事をもとに筆者の視点でまとめたものです：
AI is an over-confident pal that doesn’t learn from
mistakes