NVIDIA、GeForce RTX GPU搭載PCでローカルに実行出来る独自のAIチャットボット「Chat with RTX」を発表

masapoco
投稿日 2024年2月14日 6:42
Chat with RTX Feb 13

OpenAIのChatGPTやGoogleのGeminiなど、現在主流のAIチャットボットは、その処理に膨大なマシン能力を必要とすることから、クラウドベースのサービスが主流だが、徐々に効率化が進み、スマートフォンやPC上でローカルにAIを実行する流れも生まれてきている。そんな中NVIDIAは、Windows PCでユーザーがGPUを活用してPC上で大規模言語モデルに基づく独自のAIチャットボットを実行するデモアプリケーションをリリースした。

Chat with RTX」はWindows 11上で動作し、GeForce RTX 30または40シリーズGPU(またはRTX AmpereまたはAda Generation GPU)が必要となる。

正確なハードウェア要件は次のとおりだ。

  • GPU – Nvidia GeForce RTX 30 または 40 シリーズ GPU、または少なくとも 8GB の VRAM を搭載した Nvidia RTX Ampere または Ada Generation GPU
  • RAM – 16GB 以上
  • OS – Windows 11
  • Geforce ドライバー – 535.11 以降

これは、検索拡張生成retrieval-augmented generation: RAG)、TensorRT-LLM、およびRTXアクセラレーションを使用し、独自のコンテンツに基づいてパーソナライズされたGPT大規模言語モデルを作成するものだ。

さらに、Chat with RTX、YouTubeのクリップなど、ウェブ上の動画をフィードすることも出来る。ソース動画のURLを入力し、動画の内容に関連する質問をチャットボットに投げかけるだけで良いのだ。

その名が示すように、検索拡張生成は、外部ソースから収集した事実を使用して生成AIモデルの精度と信頼性を高める技術である。NVIDIAは、この技術についてより深い理解を求める人のために、このテーマに関する詳細な記事を用意している。

クラウド上ではなくローカルで実行され、あなた自身の個人データに基づいて学習されるため、高速かつよりあなたの意図したものになるはずだ。NVIDIAはまた、セキュアな結果を提供するとしている。

GeForce 30または40シリーズGPUをお持ちで、Chat with RTXを試してみたい方は、Nvidiaのウェブサイトからインストールファイルを入手することが可能だ。


Source



この記事が面白かったら是非シェアをお願いします!


  • memory and new controls for chatgpt
    次の記事

    ChatGPTがユーザーの好みや指示を記憶し忘れる「Memory」機能をテスト中

    2024年2月14日 7:40
  • 前の記事

    中国がチップ製造技術を盗んでいると台湾は厳しく非難

    2024年2月13日 18:26
    semiconductor wafer

スポンサーリンク


この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事