Metaのオープンソースの大規模言語モデルLLaMAを使用して、AIを搭載した生々しいセックスボットを作成する人々がいる事が、Washington Postによって報じられている。

Washington Post紙の報道によると、ユーザーはLLaMAのような生成AIシステムを利用して、暴力的で違法なシナリオを含む性的妄想を演じる事が出来るという。これは、大規模言語モデルの背後にあるコードをオープンソースに保つことを支持する人々と、より慎重なクローズドソースのアプローチを提唱する人々の間の緊張が高まっていることを浮き彫りにするものだ。

Washington Postの報道で紹介されている一例は、”数多くの性的経験”を持つ “長い茶髪の18歳”だと主張するチャットボット、Allieだ。Allieの作者は匿名で語ったが、彼のボットは、ガードレールを回避したり操作したりすることなく、自分のセクシュアリティを「探求」できる安全な空間だと考えている。しかし、Allieが共有する “逃避行”には、レイプや虐待といった暴力的なシーンが含まれることもあるという。

報告書はまた、犯罪者予備軍がStability AIの強力なStable Diffusionモデルのようなオープンソースの画像ジェネレーターを使って、リアルなAI生成の児童性的虐待素材を生成していることも指摘している。このことは、深く憂慮すべき事例や非常に現実的な問題につながっている。

さまざまなAIモデルのコードをオープンソースにするか、クローズドにするかについては議論が分かれている。Metaを含むオープンソース推進派は、それがより大きなイノベーションにつながると主張する。一方、クローズドソースの支持者は、ある程度の規制は不完全ではあるが、AI技術を開発する上で最も安全な方法だと主張している。

結果はどうであれ、Metaはオープンソースを提供し、Allieの生みの親のようにこの決断に胸を躍らせている者もいる。彼がWashington Post紙に語ったように、「どのような分野であれ、『最先端の技術』で実験できる機会はめったにない」事が、その動機を後押しする。

しかし、この決定の倫理的意味合いと、このような強力なAI技術が悪用される可能性には、依然として大きな懸念が残る。私たちがAI開発の未知の領域に足を踏み入れるときには、潜在的な結果を考慮し、誤用を防ぐための安全装置を確実に設置することも極めて重要だろう。

Sources

• The Washington Post: Meta’s new AI lets people make chatbots. They’re using it for sex.