メインコンテンツに直接移動

LiteLLM プロキシ

OpenHandsは、様々なLLMプロバイダーにアクセスするためにLiteLLMプロキシの使用をサポートしています。

設定​

OpenHandsでLiteLLMプロキシを使用するには、以下の手順が必要です：

  1. LiteLLMプロキシサーバーを設定する（LiteLLMのドキュメントを参照）
  2. OpenHandsを実行する際、OpenHandsのUIで設定メニューから以下の項目を設定する必要があります：
  • 詳細設定を有効にする
  • カスタムモデルにプレフィックスlitellm_proxy/と使用するモデルを設定（例：litellm_proxy/anthropic.claude-3-5-sonnet-20241022-v2:0）
  • ベースURLをLiteLLMプロキシのURL（例：https://your-litellm-proxy.com）に設定
  • APIキーをLiteLLMプロキシのAPIキーに設定

サポートされているモデル​

サポートされているモデルは、LiteLLMプロキシの設定に依存します。OpenHandsは、LiteLLMプロキシが処理するように設定されているすべてのモデルをサポートします。

利用可能なモデルとその名前のリストについては、LiteLLMプロキシの設定を参照してください。