NVIDIAは、AIモデル、API、ライブラリなど、AIアプリケーションの主要コンポーネントをコンテナにパッケージ化する「NIM」をGTC2024において発表した。

NIMは、最適化された推論エンジン、業界標準のAPI、AIモデルをコンテナにパッケージ化し、容易に展開できるようにする。NIMは、SAP、Adobe、Cadence、CrowdStrike、Getty Images、ServiceNow、Shutterstockなどの大手ソフトウェアベンダーや、BOX、Cohesity、Cloudera、Databricks、Datastax、Dropbox、NetApp、Snowflakeなどのデータプラットフォームベンダーにサポートされている。NIMはNvidia Enterprise AI Software Suiteの一部でもあり、本日GTCで5.0のリリースを迎える。

具体的には、NIMは、NVIDIA GPU上で動作するオープンまたは独自のモデルを含むことができるマイクロサービスを満載したコンテナである。このコンテナは、クラウド上のKubernetesデプロイメント、Linuxサーバー、サーバーレスfunction-as-a-serviceモデルなど、コンテナが実行できる場所であればどこにでもデプロイできる。NIMは、企業向けのRAG（Retrieval Augmented Generation）機能などもサポートする。Apache Lucene、Datastax、Faiss、Kinetica、Milvus、Redis、Weaviateなどのベクター・データベース・ベンダーがNIMをサポートしている。

NIMは、AIアプリケーションの導入時間を数週間から数分に短縮するように設計されている、とNVIDIAは述べている。ユーザーは、データ駆動型アプリケーションを独自のインフラ上で安全にホストし、必要に応じて拡張できるようになるはずだ。

開発者は新しいai.nvidia.comプラットフォームで新しいマイクロサービスを無料で試すことができ、NVIDIA AI Enterprise 5.0を通じてNVIDIA認定システムおよびクラウドプロバイダー上でNIMマイクロサービスの商用展開が可能である。同社は、NVIDIAハードウェア上で使用されるAIモデルの最適化を含め、NIMの継続的な改善を計画している。

SAPは、ビジネスアプリケーションにおける生成AIの利用を加速するために、新しいNIMマイクロサービスを利用する最初の大手企業の1つである。その目的は、顧客がSAPのクラウド・ソリューションでビジネスデータをジェネレーティブAIで活用できるようにすることだ。

この協業は、SAPのJoule Copilot内およびSAPのクラウド・ソリューションとアプリケーション・ポートフォリオ全体における、スケーラブルでビジネスに特化した生成AI機能を含むSAP Business AIの開発と展開に重点を置く。

NVIDIAはまた、創薬と医療技術の発展を目的としたマイクロサービスの幅広いセットも発表した。クラウド経由で利用可能な20以上のサービスは、ヘルスケアに特化して最適化されたAIモデルとツールに基づいている。これらのサービスには、高度な画像処理、音声認識、生成的な生物学的・化学的予測とシミュレーションなどが含まれる。

Source

• NVIDIA: NVIDIA NIM Offers Optimized Inference Microservices for Deploying AI Models at Scale