RAG Retrieval & Tuning
Wenn ein Command oder ein Chat einen Space verwendet, stopft Rephlo nicht blindlings jedes Dokument in den Prompt. Stattdessen ruft es die für Ihre Anfrage relevantesten Passagen ab und fügt nur diese ein – eine Technik namens Retrieval-Augmented Generation (RAG). Mit den Einstellungen RAG Retrieval können Sie festlegen, wie aggressiv oder großzügig dieser Abruf ausfällt.
Diesen Abschnitt finden Sie weiter unten in Settings → General.
Warum den Abruf abstimmen?
Retrieval ist ein Balanceakt:
- Zu streng, und Rephlo lässt möglicherweise nützlichen Kontext aus, was dünnere Antworten zur Folge hat.
- Zu großzügig, und es zieht nur am Rande relevanten Text heran, was Token verschwendet und mitunter Rauschen hinzufügt.
Die Standardwerte funktionieren für die meisten Personen gut. Das Abstimmen hilft, wenn Sie einen ungewöhnlichen Space haben – sehr groß, sehr technisch oder voller nahezu doppelter Inhalte – und die Balance leicht verschieben möchten.
Basic vs. Advanced
Es gibt zwei Modi. Die meisten Nutzer:innen benötigen nur Basic.
Basic-Modus (Standard)
Wählen Sie ein einzelnes Strenge-Profil (strictness profile), und Rephlo wendet automatisch einen sinnvollen Satz an Werten für Sie an:
| Profil | Verhalten |
|---|---|
| Very Lenient | Ruft breit ab – bevorzugt, mehr Kontext einzubeziehen. |
| Lenient | Leicht gelockerter Abruf. |
| Balanced | Der Standard – ein guter Mittelweg für die meisten Spaces. |
| Strict | Enger gefasst – nur eindeutig relevante Passagen. |
| Strictest | Am selektivsten – nur Treffer mit der höchsten Konfidenz. |
Klicken Sie einfach auf ein Profil; die Änderung wird automatisch gespeichert.
Advanced-Modus
Aktivieren Sie Advanced, um die zugrunde liegenden Regler direkt zu bearbeiten. Beim Umschalten werden die Felder mit den Werten Ihres aktuellen Profils vorausgefüllt, sodass Sie einen sinnvollen Ausgangspunkt haben. Verfügbare Regler:
- Similarity floor – die minimale Relevanzbewertung, die eine Passage erreichen muss, um berücksichtigt zu werden.
- Selected-ratio cutoff – wie viel vom Kandidatenpool erhalten bleibt.
- High-confidence threshold – die Schwelle, ab der ein Treffer als eindeutig relevant gilt.
- Minimum chunks – eine Untergrenze, die verhindert, dass der Abruf zu wenig zurückliefert.
- Minimum Space size (tokens) – die Schwelle, unterhalb derer ein Space klein genug ist, um ihn vollständig statt per Abruf zu senden (Standard 4.000). Dies ist die Trennlinie, die Smart Search verwendet: bei diesem Wert oder darunter sendet Rephlo den gesamten Space; darüber ruft Rephlo nur die relevantesten Teile ab. Erhöhen Sie den Wert, um bei größeren Spaces weiterhin alles zu durchsuchen.
- Command context budget (tokens) – wie viele Token an abgerufenem Kontext ein Command verwenden darf. Standard 4.000. In v1.4.0 von 2.500 erhöht, sodass Commands standardmäßig nun mehr von Ihren Dokumenten sehen – dasselbe Budget wie beim Chat.
- Chat context budget (tokens) – wie viele Token an abgerufenem Kontext ein Chat verwenden darf. Standard 4.000.
- Large-Space command guard (tokens) – Standard 10.000. Oberhalb dieser Größe fordert Rephlo Sie auf, Ihren Command zu verfeinern, bevor ein ganzer Space gesendet wird.
- Inject-All Ceiling (tokens) – Standard 50.000. Begrenzt, wie viel eine Fallback-Sendung des gesamten Space einfügen kann, unabhängig von der tatsächlichen Größe des Space.
Token-Budgets werden automatisch auf sichere Grenzwerte sowie auf das, was Ihr Anbieter tatsächlich verarbeiten kann, begrenzt (clamped) – Sie können also keinen Wert setzen, der eine Anfrage zum Scheitern bringen würde.
Speichern und Zurücksetzen
- Auto-save – jede Änderung, die Sie vornehmen, wird sofort gespeichert, genau wie im Rest von Settings. Es gibt keinen separaten Save-Button.
- Reset to Defaults – stellt die Werkseinstellungen wieder her: Basic-Modus mit dem Profil Balanced.
Sollte die Feinabstimmung des Abrufs auf Ihrem Gerät einmal nicht verfügbar sein, fällt Rephlo stillschweigend auf seine integrierten Standardwerte zurück – Ihre Spaces funktionieren weiterhin.
Wie das zu den Datenmodi passt
Der RAG-Abruf gilt für jeden Space, unabhängig von seinem Datenmodus – er ruft immer über die rohen (raw) Chunks des Space ab. Ein 🗜️ Compact-Space oberhalb der Schwelle Minimum Space size erhält bei einer normalen Anfrage weiterhin die relevanten abgerufenen Passagen, nicht die vollständige KI-Zusammenfassung. Der Datenmodus ändert nur, was beim Fallback gesendet wird – ein Space bei oder unterhalb von Minimum Space size, oder wenn kein sicherer Treffer vorliegt: Ein 🔍 Smart Search-Space sendet den vollständigen Rohtext jeder Datei, kostenlos, während ein 🗜️ Compact-Space die KI-Zusammenfassung jeder Datei sendet, deren Erstellung Credits kostet. Die vollständige Übersicht finden Sie unter Datenmodi & Kompaktierung.