UbisoftとライアットゲームズがAIによって有害チャットを検出するために提携

UBbisoft(ユービーアイソフト)Riot Games(ライアットゲームズ)は、機械学習データを共有し、マルチプレイヤーゲームにおける有害なチャットをより簡単に検出できるようにするために提携したことを発表した。

UbisoftとRiot Gamesは、“Zero Harm in Comms”リサーチプロジェクトを通じて、将来的な業界内の協力関係および本取り組みの倫理とプライバシーを保証する枠組みを構築するために、技術的な土台を築く方法を追求する。Riot Gamesの非常に競技性が高いゲームとUbisoftの多様性に富んだコンテンツによって、データベースはあらゆるタイプのプレイヤーやゲーム内の言動をカバーしたものになり、2社のAIシステムにさらに良質な訓練を施すものになるとしている。

Ubisoft La ForgeのエグゼクティブディレクターであるYves Jacquier氏は、以下のように述べている。

私たちはプレイヤーの悪質な言動を非常に深刻な問題であると捉える一方で、解決するのが極めて困難なものでもあると認識しています。Ubisoftでは、安全で楽しい体験を保証する具体的な施策に取り組んでいますが、業界で一致団結することが問題解決への近道になると考えています。私たちのコミュニティーと直結するゲーム環境のデザイナーとして、今回のライアットゲームズとの技術提携を通して、ゲーム内での悪質行為をさらに排除する方法を模索していきます。

Riot Gamesテクノロジーリサーチチーム代表 Wesley Kerr 氏は次のように述べている。

悪質な言動はゲームに限った問題ではありません──オンラインソーシャルプラットフォームを持つすべての企業がこの難しい分野に取り組んでいます。だからこそ私たちは、オンライン空間で安全なコミュニティーを作り、ポジティブな体験を育むことを信条とするUbisoftのような業界パートナーと協力することに専念しているのです。このプロジェクトは、私たちのゲームに健康的で安全かつ包括的な交流を実現するシステムを開発するためにライアット全体で行っている取り組みの一例に過ぎません。

これは、機械学習データの共有を伴う異業種間の研究イニシアチブとしては初の試みだ。基本的に、両社はディープラーニングのニューラルネットワークを独自に開発している。これらのシステムは、AIを使ってゲーム内のテキストチャットを自動的に調べ、プレイヤーがお互いに罵倒し合っている場合はそれを認識する。

ニューラルネットワークは、データを追加投入すればするほど改善される。しかし、1つの会社が自社のゲームから得られるデータをシステムに送り込むことは、それほど多くはない。そこで、今回の提携が実現したわけだ。この研究プロジェクトでは、両社は非公開のプレイヤーのコメントを互いに共有し、ニューラルネットワークの品質を向上させ、それによってより高度なAIをより早く手に入れることができるようになる。

他の企業もこの問題に取り組んでいる – ActiveFence、Spectrum Labs、Roblox、MicrosoftのTwo Hat、GGWPなどだ。Fair Play Allianceも、有害性の問題を解決したいゲーム会社を集めている。しかし、大手ゲーム会社がMLデータを共有するケースは、これが初めてだ。

企業が互いに共有したくない有害なものがあるのは想像がつく。一般的な有害行為の1つは、プレイヤーの「Doxing」、つまり、居住地などの個人情報を提供することだ。誰かがプレイヤーのDoxingに関与した場合、ある企業はその有害メッセージのテキストを他の企業と共有すべきではない。個人情報保護法に違反することになるからだ。そのため、企業はデータの共有にあたっては、どのようにそれら重要な情報を共有するかについても考える必要があるだろう。

この研究イニシアチブは、ゲーム内データを収集する業界横断的な共有データベースとラベリングエコシステムの構築を目的としており、これによりAIベースの先制モデレーションツールをよりよく訓練し、破壊的な行動を検出・軽減することができるようになる。

UbisoftとRiot Gamesは、フェアプレイアライアンスの正会員として、ゲームにおける安全で有意義なオンライン体験の創造は、集団行動と知識の共有によってのみもたらされると固く信じている。そのため、今回の取り組みは、より充実した社会体験を促進し、有害な相互作用を回避するゲーム構造の構築という、両社の大きな歩みを継続するものだ。

企業はまた、言動の攻撃性に関して、誤った報告や偽陽性に注意する事を学ぶ必要もある。例えば、戦闘ゲーム『レインボーシックス シージ』で「お前をやっつける」と言った場合、それは単にゲーム内の文脈に合致する発言である可能性もある。ただ、同じ発言が、別の文脈では非常に脅威となりうる場合もある為、そういった見極めが必要になるのだ。

UbisoftとRiot Gamesは、将来の業界コラボレーションのための技術的基盤を構築し、この取り組みの倫理とプライバシーを保証するフレームワークを作成する方法を模索している。Riot Gamesの競争力の高いゲームとUbisoftの多様なポートフォリオにより、Riot GamesとUbisoftのAIシステムをより良く訓練するために、あらゆるタイプのプレーヤーとゲーム内の行動を網羅したデータベースが完成するはずだ。

まだ初期段階だが、“Zero Harm in Comms” リサーチプロジェクトは、将来的にプレイヤーコミュニティ全体に利益をもたらすことを目的とした、業界横断の野心的なプロジェクトの最初のステップとなるものとなる。最初の研究探査の一環として、UbisoftとRiot Gamesは、結果がどうであれ、来年には初期段階の実験の学びを業界全体と共有することを約束している。

TEXALでは、テクノロジー、サイエンス、ゲーム、エンターテインメントなどからその日の話題のニュースや、噂、リーク情報、レビューなど、毎日配信しています。最新のニュースはホームページで確認出来ます。GoogleニュースTwitterFacebookでTEXALをフォローして、最新情報を入手する事も出来ます。記事の感想や、お問い合わせなども随時受け付けています。よろしくお願いいたします。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

TEXAL管理人。学校の授業でMS-DOSを使っていたくらいの年代。Windows95の登場で衝撃を受け、テクノロジー業界に興味を持つ。以来ガジェット・ゲーム情報を追い続けてうん十年。大学では物理を専攻していたこともあり、物理・宇宙関係の話題も大好き。

コメント

コメントする