生成AIの回答に表示されたURL、本当に安全ですか？危険サイトへ誘導される事例に注意
ChatGPTやGeminiなどの生成AIチャットボットは、調べものや文章作成、アイデア出しなど、日常のさまざまな場面で使われるようになりました。
知りたいことを質問すれば、短時間でそれらしい答えを返してくれるため、検索エンジンの代わりに利用している方も増えているのではないでしょうか。
しかし、生成AIの回答に含まれる情報やURLが、必ずしも正しいとは限りません。場合によっては、AIの回答をきっかけに偽サイトや詐欺サイトへ誘導されてしまう可能性もあります。
本記事では、トレンドマイクロ株式会社が公開したセキュリティブログ「生成AIチャットボットの回答から危険サイトへ誘導される事例を確認」を参考に、生成AIを安全に使うための注意点をわかりやすく解説します。
出典：トレンドマイクロ株式会社｜ウイルスバスター関連情報「生成AIチャットボットの回答から危険サイトへ誘導される事例を確認」
生成AIの回答から危険サイトへ誘導される事例が確認されている
トレンドマイクロの調査によると、生成AIチャットボットの回答に含まれる外部サイトへのURLや、URLに付与されたパラメータ、アクセス元情報などを分析した結果、生成AIの回答を経由して危険サイトへ誘導される事例が確認されています。
特に注意したいのは、AIが提示したURLを「公式サイトだろう」「AIが出した情報だから正しいだろう」と思い込んでしまうことです。
生成AIは、もっともらしい文章を作るのが得意です。そのため、実際には正しくない情報であっても、自然で信頼できそうな表現で回答してしまうことがあります。
これを「ハルシネーション」と呼びます。
確認された危険サイトの種類
トレンドマイクロの調査では、ChatGPTやGeminiを経由して、少なくとも422件の危険サイトへの誘導が確認されたとされています。
危険サイトには、次のようなものが含まれていました。
- 偽ショッピングサイト
- 詐欺サイト
- フィッシングサイト
- 不正プログラム配信サイト
- 違法または禁止されたコンテンツを扱うサイト
特に偽ショッピングサイトは、見た目だけでは本物と見分けにくい場合があります。
正規のオンラインショップに似せたデザインを使っていたり、公式の商品画像を流用していたりすることもあるため、利用者が気づかないまま注文してしまう危険があります。
その結果、商品が届かない、個人情報を抜き取られる、クレジットカード情報を悪用されるといった被害につながるおそれがあります。
AIが偽サイトを紹介してしまう理由
生成AIが偽サイトや危険サイトを紹介してしまう理由のひとつとして、検索結果の汚染が考えられます。
悪意のある第三者は、偽サイトを検索結果の上位に表示させるために、インターネット上の情報を操作することがあります。これは「SEOポイズニング」と呼ばれる手法です。
生成AIがインターネット上の情報を参照する際、こうした汚染された情報をもとに回答してしまうと、利用者に危険なURLを案内してしまう可能性があります。
つまり、AIが悪意を持っているわけではなく、参照した情報自体に問題がある場合もあるということです。
「AIによる概要」に表示されるサイトにも注意
最近は、検索エンジンでも「AIによる概要」が表示されることがあります。
これは、検索したキーワードに関する情報をAIがまとめてくれる便利な機能です。短時間で要点を把握できる反面、紹介されているサイトがすべて安全とは限りません。
トレンドマイクロの調査では、検索結果に表示されるAIの概要から、偽ショッピングサイトへ誘導される事例も確認されています。
AIがまとめた情報であっても、最終的には利用者自身がURLや運営者情報を確認することが大切です。
公式サイトや連絡先は必ず確認する
生成AIに「公式サイトを教えてください」「問い合わせ先を教えてください」と質問することは便利です。
しかし、AIが表示したURLや電話番号が必ず正しいとは限りません。
特に、次のような情報は慎重に確認しましょう。
- 公式サイトのURL
- 商品購入ページ
- ログインページ
- 問い合わせ先
- 電話番号
- 決済ページ
- 個人情報を入力するページ
少しでも不安がある場合は、AIの回答から直接アクセスするのではなく、公式の検索結果や企業の正式な案内から確認するほうが安全です。
被害に遭わないためのポイント
生成AIを安全に使うためには、次の3点を意識することが大切です。
1. AIの回答をそのまま信じない
生成AIは便利ですが、誤った情報を回答することがあります。
特に、URLや連絡先、料金、制度、契約内容など、正確性が重要な情報については、必ず公式情報で確認しましょう。
2. URLをよく確認する
AIが提示したURLをクリックする前に、ドメイン名を確認しましょう。
本物の公式サイトに似せた偽サイトでは、文字の一部が違っていたり、不自然な単語が含まれていたりすることがあります。
違和感がある場合は、アクセスしないことが大切です。
3. 買い物や個人情報の入力は慎重に行う
ショッピングサイトで購入する場合は、会社情報、特定商取引法に基づく表記、問い合わせ先、支払い方法、口コミなどを確認しましょう。
価格が極端に安いサイトや、日本語表記が不自然なサイトにも注意が必要です。
セキュリティ対策ソフトの活用も有効
危険サイトへのアクセスを防ぐためには、利用者自身の注意に加えて、セキュリティ対策ソフトを活用することも有効です。
トレンドマイクロの「ウイルスバスター トータルセキュリティ」には、不正Webサイトへのアクセスをブロックする「Web脅威対策機能」があります。
また、スマートフォン向けには、詐欺対策に特化した「トレンドマイクロ 詐欺バスター」も提供されており、詐欺サイトなどの不正サイトへのアクセス防止に役立ちます。
生成AIを使う機会が増えている今、AIの回答を確認する習慣と、セキュリティ対策の両方を意識することが重要です。
まとめ
生成AIは、調べものや文章作成を効率化してくれる便利なツールです。
しかし、AIが提示する情報やURLが、常に正確で安全とは限りません。実際に、生成AIチャットボットの回答から危険サイトへ誘導される事例も確認されています。
特に、公式サイト、ショッピングサイト、問い合わせ先、ログインページ、決済ページなどにアクセスする際は注意が必要です。
AIの回答はあくまで参考情報と考え、重要な情報は必ず公式サイトで確認しましょう。
便利なツールだからこそ、過信せず、安全確認をしながら使うことが大切です。
辰巳地所のご紹介｜市原市・千葉市の不動産売買をもっと賢く、もっとお得に
辰巳地所では市原市・千葉市を中心に、新築一戸建てやリノベーションマンションの「仲介手数料最大無料」での購入、そして「相場の半額」での売却をトータルでサポートします。
【購入】仲介手数料が最大無料！
SUUMOやアットホームで見つけた「気になる物件」はございませんか？他社サイト掲載物件も、原則当社で取り扱い可能です。
・購入時の仲介手数料：最大無料（※）
・仲介手数料無料の査定：公式LINEから物件URLを送るだけで、無料対象か回答します。
・サポート：住宅ローンアドバイザー・FPによる専門的な資金計画相談
（※）仲介手数料無料の仕組み：売主様から当社へ手数料3％が支払われる物件は、お客様の手数料を無料に。それ以外の物件も、一般的な相場の半額（1.5%＋3万円）で承ります。
【売却】一般的な相場（3%＋6万円）の半額で承ります。
・売却時の仲介手数料：物件価格の1.5%＋3万円（税別）
まずは、お問い合わせフォームまたは公式LINE、InstagramのDMからお気軽にご相談ください。無料判定をスピーディーに行います！
お問い合わせ
※正確なご提案（査定や手数料の診断など）を行うため、仮名・偽名・イニシャル等でのお問い合わせには対応いたしかねる場合がございます。
※当サイトでは、Hotmailのメールアドレスはご利用いただけません。恐れ入りますが、別のメールアドレスをご入力ください。
※特定電子メール法に基づき、営業・広告宣伝など、お客様からのご相談以外のメール送信は固くお断りいたします。
