Pytorch Edge、オンデバイス推論を可能にするExecuTorchを発表

masapoco
投稿日
2023年10月18日 18:17
pytorch

PyTorch Edgeは、モバイルおよびエッジデバイスのオンデバイス推論機能を可能にするソリューション、「ExecuTorch」を発表した。Arm、Apple、Qualcomm Innovation Centerといった業界の巨人からの戦略的支援を受け、PyTorch EdgeはオンデバイスAI展開の未来を再定義しようとしている。

ExecuTorchは、オンデバイスAIエコシステム内の断片化という長年の課題に取り組んでいる。サードパーティのソリューションをシームレスに統合し、特殊なハードウェア上で機械学習モデルの実行を加速できるようにし、練り上げられた設計を提供するものだ。

PyTorch Edgeのパートナーは、カスタムデリゲートの実装を提供し、それぞれのハードウェアプラットフォームでのモデル推論実行を最適化している。

ExecuTorchの主要コンポーネントには、軽量な演算子レジストリを備えたコンパクトなランタイムが含まれ、多様なPyTorchモデルをカバーしている。この合理的なアプローチにより、携帯電話から組み込みハードウェアまで、様々なエッジデバイス上でのPyTorchプログラムの実行が容易になる。

ExecuTorchは、ソフトウェア開発者キット(SDK)とツールチェーンも同梱しており、ML開発者に、モデルのオーサリング、トレーニング、デバイスの委譲を、すべて単一のPyTorchワークフロー内で行うための直感的なユーザーエクスペリエンスを提供する。このツール群により、開発者はデバイス上でのモデルプロファイリングと強化されたデバッグ機能を利用できるようになる。

ExecuTorchの特徴の1つは、その移植性だ。ハイエンドのスマートフォンから制約のある組み込みシステムやマイクロコントローラまで、幅広いコンピューティング・プラットフォームと互換性がある。さらに、モデルのオーサリングや変換からデバッグやデプロイまで、プロセス全体を効率化することで開発者の生産性を向上させる。

PyTorch Edgeを使用することで、MLエンジニアは、視覚、音声、NLP、翻訳、ランキング、整合性、コンテンツ作成タスクなど、さまざまなMLモデルをエッジデバイスにシームレスに展開することができるようになる。これは、拡張現実(Augmented Reality)、仮想現実(Virtual Reality)、モバイル、IoTなどの領域でオンデバイスソリューションの需要が高まっていることと完全に一致するだろう。

PyTorch Edgeのフレームワークは、コアコンポーネントの移植性を確保し、多様なハードウェア構成のデバイスに対応する。特定のユースケースのためのカスタム最適化は、明確に定義されたエントリーポイントやツールと相まって、活気あるエコシステムを作り出し、オンデバイスAIスタックの未来を形作る。

ExecuTorchの発表により、PyTorch EdgeはオンデバイスAI導入の状況を一変させる準備が整った。コミュニティは、業界パートナー代表団のサポートによって強化されたモバイルおよびエッジデバイスにわたるExecuTorchのオンデバイス推論機能から生まれる革新的なアプリケーションを心待ちにしている。


Source



この記事が面白かったら是非シェアをお願いします!


  • nvidia inference platforms
    次の記事

    FoxconnとNVIDIAが「AI工場」の建設を発表

    2023年10月18日 19:11
  • 前の記事

    機械学習アルゴリズムが人間の手を借りずにに超新星を発見

    2023年10月18日 18:04
    miller970 FitMaxWzk3MCw2NTBd
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事