Microsoftは、言語モデル用のプログラミング言語とも言える、「Guidance」を発表した。この新しいツールにより、ユーザーは従来のプロンプトやチェイニングよりも効果的かつ効率的に言語モデルを制御することができるようになる。言語モデルには、GPT-4などの他に、Vicunaのようなオープンソースのモデルも含めることが出来るとのことだ。
同社によると、Guidanceにより、ユーザーは生成、プロンプト、論理制御を単一の連続したフローにインターリーブすることができるとのことだ。
Microsoftは、Chain of thought（COT）や、ART、Auto-COTなど、その多くの亜種のような単純な出力構造が、言語モデルのパフォーマンスを向上させることが示されていると述べている。GPT-4のようなより強力なLLMの登場により、さらにリッチな構造が可能になり、Guidanceはその構造をより簡単かつ安価にすることができると述べている。
Guidanceの特徴
- Guidanceは、Handlebarsテンプレートに基づくシンプルで直感的なシンタックスを提供する。
- 複数世代、選択、条件分岐、ツール使用など、豊富な出力構造を提供する。
- Jupyter/VSCode NotebooksでPlaygroundのようなストリーミングを体験出来る。
- スマートなシードベースの世代キャッシングを提供する。
- トールベースのチャットモデル(ChatGPT)をサポートする。
- この新機能は、HuggingFaceモデルと簡単に統合することが出来る。これにはガイダンスアクセラレーション、トークンヒーリング、正規表現パターンガイドが含まれる。
今月初め、Microsoftの研究者は、LLMプロンプトの自動最適化のためのシンプルで汎用的なフレームワークであるautomatic prompt optimisation (APO)を発表するなど、LLMへの継続的な取り組みについて、相次いで発表している。
今回のGuidanceは、従来からあるプログラミングの面倒な部分を排除し、開発者がアウトラインから完成まで簡単に進めることができるようにするものだ。コードを書くプロセスを簡素化することで、開発者はより的を絞ったアプリケーションを作成し、製品開発にかかる時間を短縮することができるようになるだろう。
Microsoftは、生産性を洗練させ、開発コストを削減するために、この新しい言語を今後も改良していく予定だ。
Sources
