Anbieter verwalten
Rephlo verbindet sich gleichzeitig mit mehreren KI-Anbietern. Sie können beispielsweise einen gehosteten Rephlo-Plan für die tägliche Arbeit, Ihr eigenes OpenAI-Konto für allgemeine Aufgaben, ein Anthropic-Konto für lange Dokumente und ein lokales Ollama-Modell für private Daten nutzen — alles nebeneinander konfiguriert.
Zwei Wege für den Zugriff auf KI
1. Rephlo Gateway (Empfohlen für neue Benutzer)
Das Rephlo Gateway (die Dedicated API) ist der einfachste Weg, um loszulegen. Anstatt eigene API-Schlüssel zu verwalten, greifen Sie über Ihr Rephlo-Kontoabonnement auf KI-Modelle zu.
Vorteile:
- Keine API-Schlüsselverwaltung — melden Sie sich einfach mit Ihrem Rephlo-Konto an.
- Einheitliche Abrechnung — ein Abonnement deckt mehrere KI-Modelle ab, erfasst als credits.
- Vorkonfigurierte Modelle — beliebte Modelle sind ohne Einrichtung verfügbar.
- Automatische Updates — neue Modelle werden für Sie hinzugefügt.
So verwenden Sie das Gateway:
- Öffnen Sie den Bereich Account und Sign in mit Ihrem Rephlo-Konto.
- Sobald Sie angemeldet sind, wird der Gateway-Anbieter automatisch für Sie eingerichtet, und seine Modelle werden verfügbar.
Der Gateway-Anbieter wird über Ihr Konto verwaltet — Sie fügen ihn nicht manuell zur Anbieterliste hinzu oder entfernen ihn daraus. Siehe Account und Billing & Subscription.
Bevorzugen Sie ausschließlich BYOK oder On-Device? Aktivieren Sie Hide online models from Rephlo Gateway unter Settings > LLM Providers — dieser Schalter ist sowohl auf der Unterregisterkarte On-Device als auch auf BYOK Providers verfügbar. Er blendet Gateway-Modelle (Dedicated API) in jeder Modellauswahl aus: in der Statusleiste, im Chat und im Overlay. Wenn ein Gateway-Modell zum Zeitpunkt der Aktivierung Ihr aktives Modell ist, wechselt Rephlo Sie automatisch zu einem erreichbaren On-Device- oder BYOK-Modell, anstatt Sie stillschweigend beim nun ausgeblendeten Modell zu belassen.
2. BYOK (Bring Your Own Key)
Für Benutzer, die die direkte Kontrolle bevorzugen oder bereits über Abonnements bei Anbietern verfügen, verbindet sich Rephlo direkt mit KI-Anbietern über Ihre eigenen API-Schlüssel.
Vorteile:
- Direkte Anbieterbeziehung — Sie bezahlen den Anbieter direkt.
- Volle Kontrolle — Zugriff auf alle Modelle und Funktionen, die der Anbieter bietet.
- Benutzerdefinierte Endpunkte — Verbindung zu privaten, unternehmensweiten oder selbst gehosteten Bereitstellungen.
Unterstützte Anbieter (BYOK)
Wenn Sie einen Anbieter hinzufügen, wählen Sie einen der folgenden Typen aus:
| Anbieter | Vision | Hinweise |
|---|---|---|
| OpenAI | Ja | Modelle der GPT-Klasse; optionaler benutzerdefinierter Endpunkt |
| Anthropic | Ja | Claude-Modelle; unterstützt Prompt-Caching |
| Google AI | Ja | Gemini-Modelle |
| Grok (xAI) | Ja | Grok-Modelle; optionale Live Search (Web) |
| Groq | Unterschiedlich | Schnelle Inferenz für offene Modelle |
| OpenRouter | Unterschiedlich | Gateway zu vielen Modellen mehrerer Anbieter |
| Ollama | Unterschiedlich | Lokale/Offline-Modelle; optionaler Schlüssel für die Websuche |
| OpenAI-Compatible | Unterschiedlich | Jeder Dienst nach OpenAI-Spezifikation — Azure OpenAI, vLLM, LocalAI, LiteLLM, benutzerdefinierte Proxys |
Azure OpenAI wird über den Typ OpenAI-Compatible verbunden (richten Sie ihn auf Ihren Azure-Endpunkt aus), nicht als eigener Eintrag in der Liste zum Hinzufügen eines Anbieters. Ollama wird ausführlich auf der eigenen Seite On-Device Models behandelt.
Anbieter hinzufügen
- Gehen Sie zu Settings > Providers.
- Klicken Sie auf Add Provider.
- Select Type — wählen Sie den Anbieter aus dem Dropdown-Menü aus.
- Geben Sie die Details ein (die Felder ändern sich je nach gewähltem Typ):
- Name — ein freundlicher Alias (z. B. „My GPT“, „Work Claude“).
- API Key — Ihr geheimer Schlüssel aus dem Dashboard des Anbieters.
- Base URL — für OpenAI-Compatible und Ollama die Endpunkt-URL.
- Model Name — das zu verwendende Modell (erforderlich für OpenAI-Compatible und mehrere andere).
- Test Connection — validieren Sie die Konfiguration vor dem Speichern (siehe unten).
- Save.
Anbieterspezifische Felder
Jeder Anbietertyp fragt genau das ab, was er benötigt:
| Anbieter | Erforderlich | Optional |
|---|---|---|
| OpenAI | API Key | Benutzerdefinierte Base URL |
| Anthropic | API Key | Base URL; Prompt-Caching-Einstellungen |
| Google AI | API Key | Base URL |
| Grok (xAI) | API Key | Live-Search-Schalter |
| Groq | API Key | — |
| OpenRouter | API Key | Site URL, Site Name (für das Aktivitäts-Dashboard von OpenRouter) |
| Ollama | Base URL (Standard http://localhost:11434) | API-Schlüssel (nur für die Websuche) |
| OpenAI-Compatible | API Key, Base URL, Model Name | — |
Anthropic Prompt-Caching
Wenn Sie einen Anthropic-Anbieter hinzufügen, sehen Sie Optionen für Prompt-Caching:
- Enable Prompt Caching — standardmäßig aktiviert. Caching kann die Kosten für wiederholten Kontext erheblich senken.
- Cache TTL —
ephemeral(etwa 5 Minuten) oderextended(etwa 1 Stunde). Eine längere TTL hat höhere Schreibkosten, hält den Kontext aber länger im Cache. - Cache Logging — optionale detaillierte Protokollierung der Cache-Leistung.
Caching greift nur, wenn eine Anfrage tatsächlich wiederverwendbaren Kontext enthält (zum Beispiel, wenn ein Space an einen Chat angehängt ist). Das vollständige Bild finden Sie unter Prompt Caching.
Verbindung testen
Die Schaltfläche Test Connection validiert Ihre Einstellungen, bevor Sie speichern:
Ein grünes Ergebnis bedeutet, dass die Anmeldedaten und der Endpunkt funktionieren; ein rotes Ergebnis zeigt, was schiefgelaufen ist, damit Sie es korrigieren können.
Modellparameter
Sobald ein Modell eingerichtet ist, können Sie anpassen, wie es Text generiert:
- Temperature — niedriger für präzise/deterministische Ausgaben, höher für kreative/vielfältige Ausgaben.
- Max tokens — begrenzt die Länge der Antwort.
- Top-p / sampling — feingranulare Kontrolle über die Zufälligkeit (sofern das Modell dies unterstützt).
Rephlo wendet Parameterbereiche an, die zu jedem Modell passen, sodass Sie keine Werte festlegen können, die ein Modell nicht akzeptiert.
Mehrere Modelle pro Anbieter
Ein einzelner Anbieter kann mehrere Modelle enthalten. Im Bedienfeld „Add/Edit Provider“ können Sie:
- Add Model — ein weiteres Modell unter demselben Anbieter registrieren, jeweils mit eigenen Parametern.
- Set Active Model — festlegen, welches Modell dieser Anbieter standardmäßig verwendet.
- Edit / Remove — einzelne Modelle bearbeiten/entfernen.
So kann eine einzige Anthropic- oder OpenRouter-Verbindung beispielsweise ein schnelles Modell für die tägliche Arbeit und ein leistungsstärkeres Modell für schwierige Probleme abdecken — ohne den Anbieter zweimal einzurichten.
Anbieterfähigkeiten
Beim Hinzufügen oder Bearbeiten eines Anbieters können Sie kennzeichnen, welche Fähigkeiten er unterstützt. Diese bestimmen, was in Chat und in Commands verfügbar ist:
- Vision — aktiviert Visual Intelligence: Screenshots, Fotos, Diagramme und Fehlermeldungen erfassen und analysieren.
- Function Calling — externe Tools aufrufen (erforderlich für MCP Connectors).
- Long Context — große Eingaben verarbeiten.
- Code Generation — optimiert für Programmieraufgaben.
- Streaming — Antworten erscheinen in Echtzeit schrittweise.
Sie benötigen beispielsweise einen Vision-fähigen Anbieter, um Visual-Intelligence-Funktionen (Screenshots, Diagramme, Fehlermeldungen) zu nutzen, und ein Function Calling-fähiges Modell, um Connectors im Chat zu verwenden.
Aktiven Anbieter festlegen
Sie können einen Active Provider bestimmen, der standardmäßig für alle Commands verwendet wird.
- Der aktive Anbieter führt jeden Command aus, sofern ein Command ihn nicht überschreibt.
- Um ihn zu ändern, klicken Sie in der Liste neben dem gewünschten Anbieter auf Activate.
- Der aktive Anbieter wird in der Benutzeroberfläche hervorgehoben.
- Es ist immer nur ein Anbieter gleichzeitig aktiv.
API-Schlüssel erhalten (BYOK)
Bei BYOK bezahlen Sie die Nutzung direkt an den Anbieter. Schlüssel erhalten Sie in der Konsole des jeweiligen Anbieters:
- OpenAI —
platform.openai.com - Anthropic —
console.anthropic.com - Google AI —
aistudio.google.com - Grok (xAI) —
console.x.ai - Groq —
console.groq.com - OpenRouter —
openrouter.ai - Ollama (Websuche-Schlüssel) —
ollama.com/settings/keys
Lokale Modelle konfigurieren (Ollama)
So führen Sie Modelle vollständig offline aus:
- Installieren Sie Ollama.
- Laden Sie ein Modell in Ihrem Terminal herunter, z. B.
ollama pull llama3. - Fügen Sie in Rephlo einen Ollama-Anbieter hinzu.
- Base URL —
http://localhost:11434(Standard). - Model — geben Sie den Namen genau so ein, wie er in Ollama erscheint (z. B.
llama3:latest). - (Optional) fügen Sie einen Ollama-Websuche-Schlüssel hinzu, um die Websuche zu aktivieren.
Informationen zu On-Device-GGUF-Modellen und Hardwareprüfungen finden Sie unter On-Device Models.
Funktionen der Provider-Oberfläche
Die Providers-Seite hilft Ihnen, viele Verbindungen zu verwalten:
- Search — Anbieter nach Namen suchen.
- View toggle — zwischen Karten- und Listenansicht wechseln.
- Status indicators — auf einen Blick erkennen, welche Anbieter konfiguriert, aktiv oder fehlerhaft sind.
Fehlerbehebung bei Anbietern
- 401 Unauthorized — der API-Schlüssel ist wahrscheinlich falsch. Kopieren Sie ihn erneut vom Anbieter und testen Sie erneut.
- 429 Too Many Requests — Sie haben das Ratenlimit des Anbieters erreicht oder Ihre credits sind aufgebraucht.
- Connection Refused (Ollama) — stellen Sie sicher, dass der Ollama-Hintergrunddienst läuft.
- Model Not Found — überprüfen Sie, ob die Modell-ID korrekt geschrieben ist und in Ihrem Konto verfügbar ist.
- Test schlägt nach dem Import auf einem neuen Computer fehl — verschlüsselte Schlüssel können nicht zwischen Geräten übertragen werden; geben Sie den Schlüssel erneut ein. Siehe Import & Export.
Siehe auch: On-Device Models · Prompt Caching · Provider settings
Nächste Funktion: Erfahren Sie mehr über die verschiedenen Möglichkeiten, Commands auszuführen.