Microsoft、GPT-4のような大規模言語モデルをより効率的に制御出来る「Guidance」を発表

masapoco
投稿日 2023年5月18日 15:43
PNG openai

Microsoftは、言語モデル用のプログラミング言語とも言える、「Guidance」を発表した。この新しいツールにより、ユーザーは従来のプロンプトやチェイニングよりも効果的かつ効率的に言語モデルを制御することができるようになる。言語モデルには、GPT-4などの他に、Vicunaのようなオープンソースのモデルも含めることが出来るとのことだ。

同社によると、Guidanceにより、ユーザーは生成、プロンプト、論理制御を単一の連続したフローにインターリーブすることができるとのことだ。

Microsoftは、Chain of thought(COT)や、ART、Auto-COTなど、その多くの亜種のような単純な出力構造が、言語モデルのパフォーマンスを向上させることが示されていると述べている。GPT-4のようなより強力なLLMの登場により、さらにリッチな構造が可能になり、Guidanceはその構造をより簡単かつ安価にすることができると述べている。

Guidanceの特徴

  • Guidanceは、Handlebarsテンプレートに基づくシンプルで直感的なシンタックスを提供する。
  • 複数世代、選択、条件分岐、ツール使用など、豊富な出力構造を提供する。
  • Jupyter/VSCode NotebooksでPlaygroundのようなストリーミングを体験出来る。
  • スマートなシードベースの世代キャッシングを提供する。
  • トールベースのチャットモデル(ChatGPT)をサポートする。
  • この新機能は、HuggingFaceモデルと簡単に統合することが出来る。これにはガイダンスアクセラレーション、トークンヒーリング、正規表現パターンガイドが含まれる。

今月初め、Microsoftの研究者は、LLMプロンプトの自動最適化のためのシンプルで汎用的なフレームワークであるautomatic prompt optimisation (APO)を発表するなど、LLMへの継続的な取り組みについて、相次いで発表している。

今回のGuidanceは、従来からあるプログラミングの面倒な部分を排除し、開発者がアウトラインから完成まで簡単に進めることができるようにするものだ。コードを書くプロセスを簡素化することで、開発者はより的を絞ったアプリケーションを作成し、製品開発にかかる時間を短縮することができるようになるだろう。

Microsoftは、生産性を洗練させ、開発コストを削減するために、この新しい言語を今後も改良していく予定だ。


Sources



この記事が面白かったら是非シェアをお願いします!


  • google meta amazon hire low paid foreign workers after us v0 5nhN ABe2amU4pzq8FjhFnAIx57SGcBmyDxYD5s2DsU
    次の記事

    Amazon、Google、Meta、Microsoftは大量レイオフの後、低賃金の外国人労働者を数多く雇い入れている

    2023年5月18日 16:02
  • 前の記事

    Beats by Dre、透明カラーを採用した「Beats Studio Buds+」を発売

    2023年5月18日 15:11
    pc studiobudsplus transparent case open floating

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


今読まれている記事