AIはなぜ、まちがえるの？

AIに質問すると、すらすらと、ていねいな答えが返ってきます。だからこそ、つい全部を信じたくなります。

でも、AIは調べものの名人というより、「それらしい答え」を組み立てる名人です。たくさんの文章から覚えた言葉のつながりをもとに、ありそうな答えを作ります。

そのため、よく知らないことでも、知っているような口ぶりで答えてしまうことがあります。この、もっともらしいまちがいを「ハルシネーション」と呼びます。

これは、AIがわざとだましているのではありません。しくみの特徴で、どのAIでも起こります。各社の公式の案内にも、そのことが書かれています。

• Google（Gemini）：生成される情報は、不正確だったり、ふさわしくなかったりする場合がある
• Anthropic（Claude）：くわしく具体的に見える答えでも、大きなまちがいを含むことがある。正しいか確かめずに頼らないでほしい
• LINEヤフー（Agent i）：AIの答えは、不正確なことがある

国の機関も同じことを伝えています。個人情報保護委員会は、AIの答えに不正確な内容が含まれるおそれを、注意喚起の中で挙げています。総務省の教材「生成AIはじめの一歩」も、生成AIはまちがった内容を出すことがあるので、情報のもとを確かめるよう説明しています。

体や薬のこと、お金や契約のことは、AIの答えだけで決めない。これをいちばん先に覚えておいてください。

まちがえやすいのは、どんな話？

総務省の教材では、AIが、実在しない山やお店を、本当にあるかのように答えてしまう例が紹介されています。名前も説明もそれらしいので、読んだだけでは気づけません。

とくに気をつけたいのは、次のような話題です。

話題	まちがえやすいわけ	確かめる先
電車の時刻・お店の休み	新しいことに弱い	駅やお店の公式の案内
料金・制度・手続き	よく変わる	会社や役所の公式のページ・窓口
法律・契約・相続	人によって答えが変わる	消費生活センター（188）、法テラス
薬・体のこと	一人ひとり事情がちがう	お医者さん・薬剤師さん
人についての話	別の人と取りちがえる	本人や、公式の発表

Googleの「生成AIの追加利用規約」も、医学・法律・お金のことについて、AIの答えを専門家の助言の代わりにしないよう求めています。

話題に関係なく、次のような答えが出たときも、ひと呼吸おいて確かめましょう。

• 金額・日付・時刻など、数字が出てきたとき
• 「無料です」「〜できます」と、言い切っているとき
• 聞き直すたびに、答えが変わるとき
• 自分や家族の体やお金にかかわるとき

急な病気やけがで、救急車を呼ぶか迷ったときは、地域によっては「#7119」に電話で相談できます。総務省消防庁によると全国42地域で実施していて、実施していない地域もあります。危ないと思ったら、迷わず119番に電話してください。

まちがいを見つける、3つの確かめ方

1. 聞き方を変えて、もう一度聞く

「それは本当ですか？ 根拠も教えてください」と続けて聞きます。AIが自分の答えを見直して、まちがいに気づくことがあります。

このように、聞き返すと答えが変わることがあります。ただし、見直したあとの答えが正しいとは限りません。だから、次の2つも使います。

2. 公式のページで確かめる

料金、時刻、制度、薬のことは、会社・駅・役所・薬局の公式の案内がいちばん確かです。AIが出典のページを書いてくれたら、そのページを開いて、本当にそう書いてあるかを自分の目で見ます。

公式のページが見つからないときは、市役所の広報誌や、届いた案内の紙に書いてある電話番号にかけて聞くのも確かな方法です。

3. 最後は人に聞く

体のことはお医者さんや薬剤師さん、お金や契約のことは窓口や家族に聞きます。

AIは「相談の準備」に使うと、いちばん力を発揮します。たとえば、新しい薬をもらったとき。飲み合わせが心配なら、答えを出すのは薬剤師さんです。AIには「薬剤師さんに聞くことを、短いメモにして」と頼みます。聞きたいことを整理するのは、AIの得意なことです。

まちがいに気づいたら、どうすればいい？

まちがいに気づいたら、AIにそのまま伝えてかまいません。

「ちがいますよ。公式の案内では〇〇でした。それをふまえて、もう一度答えてください」と書けば、続きの答えを直してくれます。

もう1つ大事なのは、確かめていない答えを、人に広めないことです。AIの答えを、そのままLINEで家族や友だちに送るのはやめておきましょう。総務省の教材も、医療や健康の情報は、気軽に広めないよう呼びかけています。

まちがえることがあっても、AIが役に立たないわけではありません。献立や手紙の下書きのように、まちがっても困らないことから使ってみてください。

確かめる方法は、安心ガイドにもまとめています。AIに入れない情報はAIに入れてはいけない情報は？をどうぞ。