チャット
チャット Playground
チャット補完 API と対話できます。次のスクリーンショットは、その例です。
プロンプト
Playground の左側でプロンプトメッセージを調整できます。プロンプトメッセージには、system、user、assistant の 3 種類のロールがあります。
- System：通常、コンテキストを設定し、動作を定義し、またはモデルの応答生成に制約を設けるための、事前に定義した指示やガイダンスです。
- User：ユーザー（LLM と対話する人）が指定する入力や質問です。
- Assistant：LLM が生成した応答です。
システムメッセージの編集
Playground の上部で、システムメッセージを追加または編集できます。
ユーザーおよびアシスタントのメッセージの編集
ユーザーまたはアシスタントのメッセージを追加するには、Add ボタンをクリックします。
ユーザーまたはアシスタントのメッセージを削除するには、そのメッセージの右端にあるマイナスボタンをクリックします。
メッセージのロールを変更するには、メッセージの先頭の User または Assistant をクリックします。
画像のアップロード
Upload Image ボタンをクリックして、プロンプトに画像を追加できます。
音声のアップロード
Upload Audio ボタンをクリックして、プロンプトに音声ファイルを追加できます。
プロンプトのクリア
Clear ボタンをクリックすると、すべてのプロンプトを消去します。
モデルの選択
Playground の右上にあるモデルのドロップダウンをクリックして、GPUStack で利用可能なモデルを選択できます。モデルのデプロイ方法は、モデルデプロイの管理を参照してください。
パラメーターの調整
Parameters 欄で、補完のパラメーターを調整できます。
補完の実行
Submit ボタンをクリックするか、Enter キーを押すと、補完を実行できます。
コードの表示
プロンプトとパラメーターを試した後、View Code ボタンをクリックすると、同じ入力で API を呼び出すコードを確認できます。curl、Python、Node.js のコード例を提供しています。
比較 Playground
Playground では複数のモデルを比較できます。次のスクリーンショットは、その例です。
比較モード
比較ビューのボタンをクリックすると、比較するモデル数を 2、3、4、6 から選択できます。
プロンプト
チャット Playground と同じように、プロンプトメッセージを調整できます。
画像のアップロード
Upload Image ボタンをクリックして、プロンプトに画像を追加できます。
音声のアップロード
Upload Audio ボタンをクリックして、プロンプトに音声ファイルを追加できます。
プロンプトのクリア
Clear ボタンをクリックすると、すべてのプロンプトを消去します。
モデルの選択
各モデルパネルの左上にあるモデルのドロップダウンをクリックして、GPUStack で利用可能なモデルを選択できます。
パラメーターの調整
各モデルの設定ボタンをクリックすると、補完のパラメーターを調整できます。