メインコンテンツに直接移動

Groq

OpenHandsはLiteLLMを使用してGroqのチャットモデルを呼び出します。Groqをプロバイダーとして使用する方法に関するドキュメントはこちらで確認できます。

設定

OpenHandsを実行する際、設定画面で以下の項目を設定する必要があります:

GroqをOpenAI互換エンドポイントとして使用する

Groqのチャット完了エンドポイントはほぼOpenAI互換です。そのため、OpenAI互換エンドポイントと同様にGroqモデルにアクセスできます。OpenHandsのUI設定画面で:

  1. Advancedオプションを有効にする
  2. 以下を設定する:
    • Custom Modelに接頭辞openai/と使用するモデル名を組み合わせて設定(例:openai/llama3-70b-8192
    • Base URLhttps://api.groq.com/openai/v1に設定
    • API KeyにGroq APIキーを設定