オンライン診療のために撮影した子供の写真に性器が写っていたとしてGoogleアカウントがロックされてしまう

Androidを使っている人も、iPhoneを使っている人も、スマートフォンを使っているほとんどの人が、知ってか知らずか、Googleアカウントを持っているのではないだろうか。

情報化社会、そしてGoogleが生活に欠かせない存在になっている現代において、Googleアカウントは我々のデジタルライフの柱になるものだ。そしてそれは、Googleのサービスを利用するのに使われるが、GoogleドキュメントやGoogleフォトなど、クラウド上にデータを保存している場合、その生殺与奪の権利はGoogleにある事を忘れてはならない。

今回、医療支援を受けるために撮影した息子の写真に性器が写っていたことが原因で、児童虐待の疑いがあるとしてGoogleにアカウントからロックされ、ひどい目に遭っている親がいるとのことで、ネット上では論争を巻き起こしている。

The New York Timesは今週、Markという名の親が、幼児の息子が診断を必要とする疾患にかかっており、医療関係者との情報のやりとりの中で写真を使った写真が問題となり、Googleとの間でトラブルが起きている状況を報じている。

Markは、Androidスマートフォンを使って自分の息子の股間を撮影し、感染症の大きさや進行状況を把握した。これは、2021年初頭、まだ新型コロナウイルス感染症のパンデミック真っ只中の状況だ。直接医療機関を受診する事がはばかられる状況の中、Markはオンライン診療で息子の診察をしてもらうことになった。息子の疾患の状況を把握するために、看護師の依頼で写真撮影をし、医師に送った。医師はビデオ診察の前に写真から状況を把握でき、抗生物質の処方につながり、感染症の完治に繋がったという。

写真を撮った2日後、父親はGoogleから通知を受け、“Googleのポリシーに著しく違反し、違法である可能性がある有害なコンテンツ”のためにアカウントがロックされたことが判明した。Googleは、AIを活用してCSAM(Child Sexual Abuse Material:児童性的虐待のコンテンツ)画像を積極的に特定するContent Safety APIを開発しているが、これを使って、有害なコンテンツであることを認識したという。その後、コンテンツを審査し、確認された場合は、NCMEC(National Center for Missing and Exploited Children)に報告し、当該アカウントはロックされ、さらなる審査が行われるのだ。

Markの場合、これらの写真がGoogleフォトのアカウントにバックアップされていることが、Googleが画像をスキャンするために必要な「肯定的行動」としてカウントされた。そして、Googleは連邦法によって、この画像を報告することが義務付けられたというわけだ。

その結果、MarkはGoogle Fi(Googleが米国で提供するMVNOサービス)を利用すること、メール、連絡先、写真、電話番号へのアクセスさえも失ってしまった。Googleは、サンフランシスコ警察が犯罪は発生していないと判断した後も、マークのアカウント再開の訴えを拒否しているという。サンフランシスコ警察は、その判決に関してMarkと連絡を取ろうとしたが、Markが持っていた電話番号がGoogle Fiの管理する電話番号で、既にロックされた状態であったため、連絡が取れなかったという。

MarkはGoogleに対して訴訟も検討したが、裁判には約7000ドルかかると見積もられ、諦めたとのことだ。

The New York Times誌は、Markのケース以外にも、同時期に発生したほぼ同じようなケースで、Googleが状況を把握しながらも放置しているケースを発見したという。

この事態を巡って、The VergeはGoogleに質問を行ったが、GoogleはThe Vergeへの声明の中で、自分たちの行動を支持する姿勢を示している。

児童性的虐待素材(CSAM)は忌まわしいものであり、私たちはプラットフォーム上での拡散を防止することに尽力しています。私たちは、米国の法律に従ってCSAMを定義し、ハッシュマッチング技術と人工知能を組み合わせて、CSAMを特定し、プラットフォームから削除しています。さらに、子どもの安全の専門家チームが、フラグを立てたコンテンツの正確性を確認し、小児科医と協議して、ユーザーが医療上の助言を求めている可能性がある事例を確実に特定できるようにしています。

Googleの言い分も理解できるが、子供の診察のために医師の依頼の下に行われた行為で、このような事態に発展してしまうというのは、悪夢だろう。だが、その後に犯罪が起きていないことが確認されたのちもGoogleが何もアクションを起こさなかったという、同社の対応には、明らかに誠意が感じられず、怠慢のそしりを受けても仕方がないのではないだろうか。

これは日本においても対岸の火事ではないだろう。だが、このことは1つの会社に全てを依存することの危険性を気付かせてくれる。

自分自身とその思い出を守るためには、一方的にサービスに任せきりにするのではなく、常日頃からバックアップを取ることを忘れないようにすることが必要かも知れない。

Googleアカウントですべての情報を管理するのは確かに便利だが、Googleがアカウントをロックした際、そしてその後の対応を考えると、この自己防衛は必要な手段だろう。

TEXALでは、テクノロジー、サイエンス、ゲーム、エンターテインメントなどからその日の話題のニュースや、噂、リーク情報、レビューなど、毎日配信しています。最新のニュースはホームページで確認出来ます。GoogleニュースTwitterFacebookでTEXALをフォローして、最新情報を入手する事も出来ます。記事の感想や、お問い合わせなども随時受け付けています。よろしくお願いいたします。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

TEXAL管理人。学校の授業でMS-DOSを使っていたくらいの年代。Windows95の登場で衝撃を受け、テクノロジー業界に興味を持つ。以来ガジェット・ゲーム情報を追い続けてうん十年。大学では物理を専攻していたこともあり、物理・宇宙関係の話題も大好き。

コメント

コメントする