コンテンツへスキップ

AIチャットボットの落とし穴:大手企業の偽URL問題と対策

ChatGPT's Flub: How AI Chatbots Are Fueling Phishing Scams

AIチャットボットに聞いた「公式サイト」、実はニセモノかも? 新しい詐欺の手口に要注意!

こんにちは、AIテクノロジー解説ライターのジョンです!

最近、ChatGPTをはじめとするAIチャットボットって本当に便利になりましたよね。調べ物をしたり、文章を考えてもらったり、私たちの生活に欠かせないツールになりつつあります。僕も毎日のように使っています。

でも、もしAIが教えてくれた情報が、実はあなたを危険にさらす「ワナ」だとしたら…? 今回は、そんなAIの便利さの裏に潜む、新しいタイプの詐欺について、誰にでも分かるようにやさしく解説していきます。

なぜAIチャットボットが詐欺師の「味方」になってしまうのか?

「〇〇銀行の公式サイトのURLを教えて」
こんな風にAIチャットボットに質問したこと、ありませんか? すぐに答えが返ってくるので、とても便利ですよね。

ところが、最近の調査で、AIチャットボットが大手企業の公式サイトのURLを間違って教えることがある、という事実が明らかになりました。例えば、本当のサイトが「example-bank.com」なのに、AIが「examplebank.com」(ハイフンなし)と答えてしまうようなケースです。

「ちょっとした間違いじゃない?」と思うかもしれません。しかし、インターネットの世界では、この「ちょっとした間違い」を悪用しようと待ち構えている人たちがいるのです。

危険な「フィッシング詐欺」の新しい手口とは

ここで登場するのが、「フィッシング詐欺」という言葉です。聞いたことがある方も多いかもしれませんね。

フィッシング詐欺とは、本物のサイトそっくりに作られた偽物のサイトにユーザーを誘導し、IDやパスワード、クレジットカード情報などを盗み取る手口のことです。「魚釣り(fishing)」のように、あなたの個人情報を釣り上げようとすることから、この名前がついています。

今回問題になっているのは、このフィッシング詐欺とAIチャットボットが組み合わさった、新しい手口です。その流れを見てみましょう。

  • ステップ1: 悪い人(詐欺師)が、AIチャットボットがよく間違えるウェブサイトのアドレスを事前に調べます。
  • ステップ2: その間違ったアドレス(ドメイン名と言います)を、詐欺師が先回りして購入し、本物そっくりの偽サイトを準備します。
  • ステップ3: あなたがAIに「〇〇社の公式サイトは?」と質問します。AIは、悪気なく間違ったアドレスを「これが公式サイトですよ」と教えてしまいます。
  • ステップ4: あなたはAIの答えを信じて、そのアドレスにアクセス。そこには、本物と見分けがつかない偽サイトが表示されます。
  • ステップ5: ログインIDやパスワードを入力してしまうと、その情報がすべて詐欺師に筒抜けに…。

このように、あなたがAIを信頼すればするほど、かえって詐欺に遭うリスクが高まってしまうという、非常に厄介な問題なんです。

どうしてAIはそんな間違いをするの?

「最先端のAIなのに、どうしてそんな簡単な間違いを?」と不思議に思いますよね。

AIチャットボットは、人間のように「考えて」答えているわけではありません。インターネット上にある膨大な文章やデータを学習し、その中から「最もそれらしい」答えを生成しています。いわば、世界中の教科書や参考書を丸暗記した、ものすごく物知りな生徒のようなものです。

しかし、その元になるデータには、実は間違いや古い情報もたくさん含まれています。例えば、掲示板やブログで誰かが間違ったURLを書き込んでいた場合、AIはそれも「正しい情報」として学習してしまう可能性があるのです。そのため、AIは間違った答えを、まるで事実であるかのように自信満々に提示してしまうことがあるんですね。

私たちはどうすれば身を守れる?

では、私たちはこの新しい脅威からどうやって身を守ればいいのでしょうか? 大切なのは、AIを過信しすぎず、賢く付き合うことです。以下のポイントをぜひ覚えておいてください。

  • AIの答えを鵜呑みにしない: AIはあくまで「アシスタント」です。特に、お金や個人情報に関わる重要な情報を調べる際は、AIの答えを最終確認なしに信じるのはやめましょう。
  • 公式サイトは検索エンジンから探す: 企業の公式サイトを探すときは、AIに聞くのではなく、GoogleやYahoo!などの検索エンジンで会社名を検索するのが一番安全です。検索結果の上位に出てくる、URLが自然なものや「公式サイト」と表示されているものを選びましょう。
  • URLをしっかり確認する: サイトにアクセスしたら、ブラウザの上部にあるアドレスバーのURLを自分の目でチェックする癖をつけましょう。「o(オー)」が「0(ゼロ)」になっていたり、見慣れない単語が追加されていたりしたら、それは偽サイトの可能性大です。
  • ブックマークを活用する: 銀行やよく使うネットショップは、一度正しいサイトにアクセスできたら、ブラウザの「ブックマーク(お気に入り)」に登録しておきましょう。次からはそこからアクセスすれば、間違う心配がありません。

今回の記事を書いていて、僕(ジョン)が感じたことですが、AIは私たちの生活を豊かにしてくれる素晴らしい技術です。しかし、どんなに便利な道具も、その特性を理解して使わなければ思わぬ危険が伴います。これからの時代は、AIを賢く安全に使いこなす「デジタルリテラシー」が、ますます重要になっていくんだなと改めて感じました。

この記事は、以下の元記事をもとに筆者の視点でまとめたものです:
ChatGPT creates phisher’s paradise by recommending the wrong
URLs for major companies

関連投稿

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です