Metaは2024年の発表を目標に、これまで同社が発表している人工知能モデルを越えるものを開発していることが、Wall Street Journalの取材で明らかになった。同紙によると、Metaの新たなAIモデルはOpenAIが作成した、現在最も強力なAIモデルである「GPT-4」に匹敵するものと言われている。

WSJがこの件に詳しい匿名の人物から入手した情報によると、新しいモデルは、Metaが7月に発表し、MicrosoftのCloud Azureサービスで配布されているオープンソースの大規模言語モデル「Llama 2」よりも2倍高度なものになるという。LLaMa 2は、Metaが2月に発表した「LLaMa」に比べて40％多い700億のパラメータで学習された。

OpenAIは、GPT-3.5とGPT-4が学習したデータの規模を明らかにしていないが、GPT-4に関しては約1兆8,000億のパラメータがあると推定されている。

Metaは引き続きオープンソースに注力する

LLaMa 2と同様、この新モデルは、他の企業や開発者が高度なテキストや分析、その他の出力を生成するサービスを構築するのを助けるためにも使われるだろう。このMetaの新たな新AIモデルもオープンソース化されるだろうと噂されている。

このモデルを構築しているグループは、MetaのMark Zuckerberg CEOによって厳選されたメンバーで構成されているようだ。チームの焦点は、人間のような感情を作り出すことができる生成AIツールの開発にある。Metaは、2024年初頭までに新しいAIシステムのトレーニングを開始する予定だ。

そしてMetaは、この新しいモデルはGPT-4と同じくらい強力なものになると考えている。

競争力の維持

Metaは、Google、OpenAI、Microsoft、Appleのような、最新の人工知能モデルの開発に資源と資金を投入し、深い競争を繰り広げている企業と競合している。

このような洗練されたツールを構築するために、企業はAIトレーニング用の非常に強力なチップを必要としている。Metaは現在、データセンターを構築し、モデルを訓練するために世界で最もパワフルなチップ、NVIDIA H100sを入手している。

半導体調査会社のSemiAnalysisは数日前、Geminiと名付けられたグーグルの次期生成AIモデルは、市場に出回っている最先端のGPT-4モデルの5倍の性能を持つだろうと報じており、AIの性能競争が激化していることが明らかだ。

Appleもこの戦いに参戦しようとしており、同社は人工知能ツールの構築に1日に数百万ドルを費やしていると報じられている。彼らのチームは、Appleの音声コマンドデジタルアシスタント「Siri」用のプロンプトの導入に取り組んでいるとも伝えられている。

Appleはまた、「Ajax」と名付けられたLLMフレームワークの構築も進めており、すでに「Apple GPT」と呼ばれる社内チャットボットを活用しているとのことだ。

Source

• The Wall Street Journal: Meta Is Developing a New, More Powerful AI System as Technology Race Escalates