Twitterは、SNSの老舗として既に15年を越えてサービスを続けているが、ライバルに比べて収益性の低いことから、投資家からの収益性向上を求める声に押される形で、新たにアダルトコンテンツの提供を検討していたことが、The Vergeの報道で明らかになった。

The Vergeのレポートによると、Twitterは、アダルトクリエイターがプラットフォーム上で有料コンテンツの販売を許可するもので、OnlyFansが行っているサービスと同様の物だ。

OnlyFansは、イギリスのロンドンに拠点を置くソーシャルメディアサービスで、クリエイターは、自分の登録者または「ファン」専用のコンテンツを提供することができ、その際に有料での配信も行えるようになっている。OnlyFansは、アダルトコンテンツに特化しているわけではないが、そのサービスの特性から特にアダルト分野での人気が高く、この分野で多くのシェアを獲得している。Twitterは、ポルノを投稿してもガイドラインに違反しない唯一の主要なプラットフォームの一つであるため、一部のアダルトクリエイターは既にOnlyFansのアカウントを宣伝する手段としてTwitterを利用しているのである。OnlyFans自体が、もともとTwitterのコンテンツを模倣した物と見られていたが、それを逆輸入する形を検討していたようだ。

しかし、Twitterは、セキュリティ上の欠陥がないか製品をテストするために作られた84人の従業員の「チーム」が、Twitterが児童性的虐待素材（CSAM）と同意を得ていないヌードを検出できないことを発見したため、このプロジェクトを保留にしたようだ。加えて、Twitterは、アダルトコンテンツのクリエイターとユーザーが18歳以上であることを確認するツールの用意もなかった。The Vergeによると、TwitterのHealthチームは2021年2月から、プラットフォームのCSAM問題について上層部に警告していた。

TwitterはCSAMなどのコンテンツを検出するため、PhotoDNAと呼ばれるMicrosoftが開発したデータベースを使用しており、プラットフォームが既知のCSAMを迅速に識別して削除できるようにしている。しかし、まだデータベースに含まれていないようなCSAMの場合、この検出を回避することが出来てしまう。

Twitterの年間収益（2021年には約50億ドル）は、昨年2570億ドルの収益を上げたGoogleのような企業に比べれば、小さなものだ。Googleは、CSAMを特定するためのより高度な技術を開発する資金力を持っており、実際に自社でCSAMの検出を行う技術の開発をしているが、Googleに比べて年間の収益が2桁違うTwitterにとって、こうした高度な技術の開発をする資金の余裕はあまりない。だが、その機械学習を利用したメカニズムも確実ではない。

最近の事例では、ある父親が幼児の性器が腫れて痛むことに気づき、息子のかかりつけの医師に連絡した。オンライン診療に先立ち、父親は“医師の指示で”息子の感染症の写真をスマートフォンで撮影し医師に送った。GoogleのCSAM検出システムは、これらの医療画像をCSAMと判定し、父親はすべてのGoogleアカウントからロックされたとのことだ。結局この件は正当な物だったと警察も認め、父親に連絡を取ろうとしたが、この父親は携帯電話番号もGoogle Fiを使っていたため、これもロックされて繋がらなくなっており、警察は父親と連絡を取ることができなかったという。Googleはアカウント再開の訴えを拒否しているという。

この種の技術は、子供を搾取から守るために展開されているが、批評家たちは、この保護のために行われている大量の監視と個人データのスキャンは代償が高すぎることを懸念している。Appleは昨年、NeuralHashと呼ばれる独自のCSAM検出技術を展開する予定だったが、セキュリティ専門家やプライバシー保護団体が、この技術が政府当局によって容易に悪用される可能性があると指摘したため、同製品は廃止された。

とはいえ、これらの事例は、ソーシャルプラットフォームが子供を性的搾取から守るためにこれ以上の対策がないということではない。そもそもTwitterは、今年の2月まで、ユーザー自身がCSAMを含むコンテンツにフラグを立てる方法を用意していなかった。つまり、プラットフォーム上の最も有害なコンテンツの一部は、ユーザーが報告した後も野放しにされる恐れがあったわけだ。昨年、2人の人物が、10代の性犯罪被害者を撮影したビデオで利益を得たとしてTwitter社を提訴し、この訴訟は米第9巡回区控訴裁判所に持ち込まれている。この訴訟で原告側は、Twitterが動画について通知を受けても削除しなかったと主張している。動画は16万7000回以上再生されている。

Twitterは難しい問題に直面している。プラットフォームが大きいため、すべてのCSAMを検出することはほぼ不可能だが、より強固な安全対策に投資するほど儲かっていないのである。The Vergeの報道によると、Elon Musk氏によるTwitterの買収の可能性も、同社の安全衛生チームの優先順位に影響を及ぼしていたという。先週、Twitter はスパムアカウントの特定に集中するため、Healthチームを再編成したと言われている。Musk氏は、Twitter がプラットフォーム上でのボットの普及について嘘をついていると熱心に主張し、これが 買収を打ち切った理由であるとしている。