GoogleのAI統合検索がマルウェアサイトにユーザーを導いている

masapoco
投稿日
2024年3月26日 10:07
FireShot Capture 061 Search Labs labs.google.com

Googleは、“生成AIによる検索エンジン最適化(SGE)”をこれまでテストへの参加を希望していた一部ユーザー向けに限定的に提供していたが、先日、米国においては一般ユーザー向けにもランダムに提供を開始したことが明らかになった。だが、ここで新たな問題が浮上した。このAI検索は、一部ユーザーをマルウェア満載のスパムサイトに誘導しているというのだ。

この問題は、マーケティング会社AmsiveのSEO戦略・調査担当副社長であり、検索エンジン最適化(SEO)の専門家Lily Ray氏の報告により明らかになった。同氏は先週、Xに、GoogleのSGEが、”pitbull puppy for sale craigslist”というクエリに対して多数のスパムページを返したことを示した。

「sgeは回答の一部としてスパムサイトまで推薦してくる」と、Ray氏はこの問題をスクリーンショットと共に報告している。

SGEはまだ実験的な物であるとは言え、まだ有用な検索結果と完全なSEOスパムを確実に区別できていない事からも、到底使い物にならない事は明らかだろう。だが、使い物にならないだけならまだしも、SGEは有害な検索結果も返すのだという。

BleepingComputerのスタッフがSGEが推奨するスパムサイトにアクセスしてみると、詐欺まがいの偽キャプチャやYouTubeのページが大量に表示され、訪問者を騙して、不要な広告(中にはユーザーの個人情報を求めるものもある)や、検索クエリをハイジャックするブラウザ拡張機能で溢れかえるスパムブラウザ通知に登録させるよう仕向けられたという。つまり、GoogleのSGEはマルウェアをインストールさせようとするサイトにユーザーを導いたのだ。

この結果を受けて問い合わせたBleepingComputerに対し、Googleは「検索からスパムを排除するため、高度なスパム対策システムを更新し続けており、SGEを保護するためにこれらのスパム対策を活用している」と述べている。同社の広報担当者は、Googleが「一般的でないクエリに対して表示されていた、共有された例を削除するために、我々のポリシーの下で行動を起こした」と付け加えている。

ただし、こうしたスパムやマルウェアに導くサイト自体はこれまでも検索結果に登場しており、(それ自体も問題ではあるが)検索エンジンはそれを排除する方向に努力はしている。

今回の問題点はBleepingComputerが指摘するように、こうした本来は有害なコンテンツに対し、SGEが説得力があり、正当性を強調するような言い換えを行った上でスニペットに統合させることで、ユーザーはGoogleが安全なサイトであると“お墨付きを与えた”様に捉え、こうしたサイトを訪れてしまう危険性が上がってしまう。今回Ray氏とBeepingComputerの検索で表示されたスパムサイトは、URL自体が怪しい物であり、本来であれば検索ユーザーは避けられたであろう物であるにも関わらず、SGEによって編集され、統合され、危険性が排除されてしまったのだ。

Googleのスパムとの戦いが、新たな技術の登場によって彼らに与する形になってしまっている現状は誠に皮肉な物であるが、今一度Googleが本来の“検索”と言う事業に注力し、これを安全にユーザーに提供する方向に舵を切ってくれることを願わずにはいられない。


Sources



この記事が面白かったら是非シェアをお願いします!


  • origin quantum
    次の記事

    EU21カ国、欧州を「クオンタムバレー」にするために「量子技術に関する欧州宣言」に署名

    2024年3月26日 11:02
  • 前の記事

    NVIDIAのAI市場支配からの脱却を目指しGoogle、Intel、Qualcommらが協力

    2024年3月26日 7:12
    UXL logo
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事