AmazonがChatGPTより安全だとしていたAIチャットボット「Q」に機密情報を漏洩してしまう不具合があると報じられる

masapoco
投稿日 2023年12月4日 9:56
a27c87369abefaf32a0a2ea1c00633a1

Amazonの機密情報を取り扱うための“ガードレール”を有し、ChatGPTよりも安全であるとの主張と共に登場したAIチャットボット「Q」が、発表からわずか数日後に「重度の幻覚」を経験し、機密データを漏洩している事がPlatformerによって報じられている。

Platformerが入手したリークされた内部文書によると、QはAWSのデータセンターの場所、未発表の機能、社内の割引制度など、社内の機密情報を次々に暴露しているという。

従業員はこの事件を「sev 2」と呼んでおり、エンジニアによる緊急の対応が求められているという。

「一部の従業員は、Amazonの標準的な慣行である社内チャネルやチケットシステムを通じてフィードバックを共有しています。その結果、セキュリティ上の問題は確認されませんでした。我々は、すでに受け取ったすべてのフィードバックに感謝し、それがプレビュー中の製品から一般的に利用できるように移行するにつれて、Qを調整し続けます」と、Amazonの広報担当者はPlatformerへの声明で述べている。また、「機密情報の漏洩はない」と、Platformerの記事に対し反論も述べている。

Amazonは現在、生成AI市場でMicrosoft(OpenAI)やGoogleと競合しており、同社のAIチャットボット「Q」はChatGPTのようなコンシューマーグレードのツールよりも安全だとの大胆な主張と共に登場したため、この記事の内容が事実であれば同社としては看過できない問題だろう。

ただし、今回指摘される“幻覚”に関しては、大規模言語モデルすべてに典型的なものであり、根本的な対策が見つかっていないのが現状だ。


Source



この記事が面白かったら是非シェアをお願いします!


  • 19642e46b05e3be2d338fc3bd9d2cb68
    次の記事

    ビットコインは1回の取引でプール一杯分という莫大な量の淡水を消費する

    2023年12月4日 11:15
  • 前の記事

    Microsoft Rewardsが変更、ポイントが獲得しにくくなりユーザーが困惑

    2023年12月4日 7:21
    edge bing skype

スポンサーリンク


この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事