メインコンテンツまでスキップ

LLM Providers

Settings 内の LLM Providers タブは、コマンドやチャットを支える AI モデルに Rephlo を接続する場所です。主要な AI ベンダーの自分のアカウントを使う、完全なプライバシーのためにモデルをローカルで実行する、またはキーを一切使わずに Rephlo にすべて任せる、といった選択ができます。

Settings → LLM Providers から開きます。

Settings 内の LLM Providers タブ。On-Device と BYOK Providers のサブタブが表示されている

プロバイダーを使う 2 つの方法

モード仕組み向いている人
Login (Dedicated API)Rephlo が代わりに推論を実行します。API キーの管理は不要です — 利用量はプランの credit から差し引かれます。一切セットアップしたくない方。
BYOK (Bring Your Own Key)プロバイダー(OpenAI、Anthropic など)から取得した自分の API キーを追加します。そのベンダーに直接料金を支払い、最新のモデルを使用できます。すでにプロバイダーのアカウントを持っているパワーユーザー。

両方を組み合わせることもできます。普段はサインインしたままにし、特定のモデルのために BYOK プロバイダーを追加する、といった使い方です。課金と credit の仕組みについては、Credit と使用状況プランと料金 をご覧ください。

サポートされているプロバイダー

Rephlo は 8 種類の BYOK プロバイダーをサポートしています — 7 つのクラウドベンダーに加え、自分のマシン上の localhost:11434 で動作するローカルの Ollama です — さらに on-device オプションとマネージドオプションも利用できます。

プロバイダー用意するもの
OpenAIAPI キー(カスタムエンドポイントは任意)
AnthropicAPI キー(base URL は任意)。prompt caching に対応
GoogleAPI キー(base URL は任意)
GroqAPI キー
xAI (Grok)API キー(Live Search は任意)
OpenRouterAPI キー(OpenRouter ダッシュボード用の site URL/名前は任意)
OpenAI-CompatibleBase URL + API キー + モデル名(Azure OpenAI、vLLM、LocalAI、LiteLLM など)
OllamaBase URL(デフォルトは http://localhost:11434)。Web 検索用のキーは任意
On-Device不要です — モデルはローカルで実行されます。On-Device モデル をご覧ください。
Dedicated API不要です — サインインすると Rephlo が管理します。

Azure OpenAIOpenAI-Compatible タイプを通じて接続します — Base URL を Azure のデプロイエンドポイントに向けてください — プロバイダー追加リストに個別の項目として存在するわけではありません。

プロバイダーとモデルの関係についての概念的な説明は、プロバイダーモデルと推論 をご覧ください。

プロバイダーを追加する

  1. Add Provider をクリックします。
  2. プロバイダーの種類を選びます。フォームはそのプロバイダーに必要な項目だけを表示するように自動で調整されます。
  3. 認証情報を入力します(例: API キー、または Azure のエンドポイント + デプロイ名)。
  4. 必要に応じてカスタム名を設定すると、一覧でそのプロバイダーを見分けやすくなります。
  5. 保存する前に Test Connection をクリックし、キーが機能することを確認します。
  6. Save をクリックします。

キーは暗号化されます

API キーとトークンは、お使いのマシンに保存される前に暗号化されます。ログに書き込まれることはなく、データエクスポートからも除外されます。キーはパスワードと同様に扱ってください — Rephlo はそれらをローカルに保管し、保護します。

モデル

各プロバイダーは 1 つ以上のモデルを提供します(例えば、OpenAI プロバイダーは複数の GPT モデルを提供できます)。1 つのプロバイダーに複数のモデルを追加し、そのうち 1 つをデフォルトとして指定できます。コマンドやチャットを実行すると、コマンドや会話で別のモデルが指定されていない限り、Rephlo はアクティブなプロバイダーのデフォルトモデルを使用します。

モデルピッカーでは、お使いのプランに含まれていないロック済みの Dedicated(Gateway)モデルに、ティアバッジ(例えば PROENTERPRISE)とロックアイコンが表示されるため、どのモデルがプランの対象かを一目で確認できます。まったく新しい Chat を開始する場合や、その会話でまだモデルが設定されていない状態で Chat を開いた場合は、全体で最後に使用したモデルが再開されます — これは会話ごとのモデル選択とは別に保持される記憶です。

コマンドごと、会話ごとのモデルの上書き設定、そしてこの全体の「最後に使用した」記憶がどのように機能するかについては、モデルと推論 をご覧ください。

Rephlo Gateway のオンラインモデルを非表示にする

On-DeviceBYOK Providers の両方のサブタブに、Hide online models from Rephlo Gateway トグルがあります(ツールチップ: 「When enabled, hides online models from Rephlo Gateway」)。これをオンにすると、Dedicated(Gateway)モデルが、ステータスバー、チャット、オーバーレイなど、すべてのモデルピッカー画面から非表示になります。

v1.4.1 以降、トグルを有効にした時点でアクティブなモデルが Gateway モデルだった場合、Rephlo は自動的に、利用可能な on-device または BYOK モデルに切り替えます。非表示になったモデルのまま黙って放置することはありません — 利用可能なモデルがない場合は、そのモデルを無効化します。

機能

各プロバイダー設定には、そのモデルが何をできるかを Rephlo に伝える一連の機能フラグが含まれています。

  • Text generation — 常に有効です。
  • Vision — 画像を解析します(GPT-4o、Claude、Gemini などビジョン対応モデルのみ)。
  • Function calling / tools — 構造化されたツール利用で、MCP コネクタ の利用に必須です。
  • Long context — 非常に大きな入力(10 万トークン超)を処理します。
  • Streaming — 応答をトークン単位で表示します(デフォルトで有効)。
  • Web searchThinking — モデルがサポートしている場合に利用できます。

機能は実行時にモデルの実際の能力と照合して検証されるため、モデルがサポートしていないフラグを有効にしても問題は起きません — Rephlo は単にその操作を試みないだけです。

モデルパラメーター

モデルごとに生成の挙動を調整できます。

  • Temperature — 値が低いほど正確で再現性の高い結果になり、値が高いほど創造的な結果になります。
  • Max tokens — 各応答の長さの上限を設定します。
  • Top-p / top-k — 上級ユーザー向けの追加のサンプリング制御です。

コマンドはそれぞれの実行時にこれらの設定を上書きできるため、普段は落ち着いた低い temperature をデフォルトにしつつ、ブレインストーミング用の特定のコマンドだけをより自由な設定にする、といった使い方が可能です。

Anthropic の prompt caching

Anthropic のプロバイダーは prompt caching に対応しており、繰り返し使われるコンテキストのコストを大幅に削減できます。デフォルトで有効になっており、「ephemeral」キャッシュ(約 5 分間)が使われます。「extended」オプション(約 1 時間)も利用できます。キャッシュは、リクエストに実際にキャッシュ可能なコンテキストが含まれている場合にのみ機能します — 詳細は Prompt Caching をご覧ください。

Ollama とローカルモデル

Ollama の場合は、base URL を設定します(デフォルトは http://localhost:11434)。性能が限られたマシンでは、メモリ不足にならないようコンテキストウィンドウに注意してください。ローカルモデルのダウンロードと管理を Rephlo に任せたい場合は、代わりに組み込みの On-Device モデル カタログを使用してください。

編集、テスト、削除

  • Edit で、任意のプロバイダーのキーを更新したり、モデルを追加したり、パラメーターを変更したりできます。
  • Test Connection は、キーをローテーションした後にプロバイダーを再検証します。
  • 使わなくなったプロバイダーは Remove で削除できます。プロバイダーを削除してもコマンドが削除されることはありません — アクティブなプロバイダーにフォールバックします。

共通設定

すべてのプロバイダーには、共通のオプションもあります。

  • Request timeout(デフォルト 60 秒)
  • 一時的な失敗に対する Max retries(デフォルト 3 回)
  • Streaming の有効/無効

関連ページ