On-Device- vs. Cloud-Modelle

Rephlo kann KI-Modelle auf Ihrem eigenen Computer ausführen oder Ihre Anfrage an ein Cloud-Modell senden. Beide erscheinen in derselben Modellauswahl und antworten im selben Chatfenster — das legt die Annahme nahe, sie seien austauschbar.

Sind sie nicht. Diese Seite erklärt den Unterschied in einfachen Worten, damit Sie das passende Modell wählen können — und zeigt, wie Sie den größten Teil des Datenschutzes lokaler Verarbeitung und die Leistungsfähigkeit eines großen Cloud-Modells gleichzeitig bekommen.

Die kurze Antwort

Ein On-Device-Modell ist eine deutlich kleinere KI als ein Cloud-Modell. Es läuft auf Ihrem Laptop und muss daher in dessen Speicher passen. Ein Cloud-Modell läuft in einem Rechenzentrum auf Hardware, die mehr kostet als ein Auto.

Erwarten Sie von einem On-Device-Modell echten Nutzen bei alltäglicher Textarbeit — und erwarten Sie, dass es dort an Grenzen stößt, wo ein Cloud-Modell es nicht täte. Es ist keine kleinere, aber gleichwertige Version desselben Dings, sondern eine andere Leistungsklasse.

Warum der Abstand so groß ist

KI-Modelle werden in Parametern gemessen — sehr grob gesagt die Anzahl der internen Stellgrößen, die das Modell beim Training gelernt hat. Mehr Parameter bedeuten in der Regel mehr Leistungsfähigkeit, aber auch mehr Speicherbedarf.

Rephlos On-Device-Katalog reicht von etwa 2 bis 14 Milliarden Parametern, denn das ist es, was bequem auf einen privaten Rechner passt. Große Cloud-Modelle sind zehn- bis hundertfach größer.

Dieser Abstand zeigt sich als Unterschied im Urteilsvermögen: einer langen, verschachtelten Anweisung folgen; ein kompliziertes Dokument im Blick behalten, während man darüber Auskunft gibt; bemerken, dass Ihre Frage eine falsche Annahme enthält. Kleinere Modelle erledigen das Naheliegende gut und das Subtile unzuverlässig.

Gegenüberstellung

	On-Device-Modell	Cloud-Modell
Wohin Ihr Text geht	Nirgendwohin — er bleibt auf Ihrem Computer	Zum Anbieter, der das Modell betreibt
Funktioniert offline	Ja	Nein
Kosten pro Nachricht	Keine	credits oder Ihre eigene Anbieterrechnung bei BYOK
Geschwindigkeit	Hängt von Ihrer Hardware ab	Gleichbleibend, in der Regel schneller
Schlussfolgern bei schweren Aufgaben	Begrenzt	Stark
Lange Dokumente	Begrenzt	Stark
Websuche	Nein	Bei Anbietern verfügbar, die sie unterstützen
Bilder lesen	Nein	Mit Modellen mit Bildverständnis verfügbar
Angehängte Dokumente lesen	Ja — PDFs, Text- und Office-Dateien	Ja
Einrichtung	Einmaliger Download von mehreren GB	Keine
Verfügbarkeit	Pro, Enterprise oder unbefristete Lizenz	Alle Pläne

Worin On-Device-Modelle gut sind

Bei diesen Aufgaben fällt der Abstand kaum ins Gewicht:

• Umformulieren und Umschreiben — Tonfall ändern, kürzen, etwas förmlicher machen
• Grammatik und Rechtschreibung korrigieren
• Kurze bis mittellange Texte zusammenfassen
• Einfaches Extrahieren — Namen, Daten oder Listenpunkte aus einem Absatz ziehen
• Schnelles Übersetzen von Alltagstexten
• Offline arbeiten — im Flugzeug, in einer gesicherten Umgebung oder ohne Verbindung
• Alles, was vertraulich genug ist, dass es die Maschine besser nicht verlässt

Wo sie an Grenzen stoßen

Rechnen Sie hier mit schwächeren Ergebnissen:

• Komplexes Schlussfolgern — mehrstufige Logik, Mathematik, sorgfältige Analyse
• Lange Dokumente — der Arbeitsspeicher eines kleinen Modells füllt sich schnell
• Code-Erzeugung über kurze Ausschnitte hinaus
• Lange, verschachtelte Anweisungen — ein kleines Modell folgt eher den ersten und weicht vom Rest ab
• Feinheiten und faktische Genauigkeit — kleinere Modelle neigen eher dazu, etwas selbstbewusst und falsch zu behaupten

Zwei harte Grenzen, die Sie vorab kennen sollten

Keine Websuche. Da On-Device-Modelle vollständig offline laufen, können sie nichts nachschlagen. Ihr Wissen endet mit ihren Trainingsdaten. Ein Web-Such-Connector ist in Entwicklung; für aktuelle Informationen nutzen Sie heute einen Cloud-Anbieter, der Suche unterstützt.

Kein Sehvermögen. On-Device-Modelle können Bilder nicht ansehen. Hängen Sie eines an, liest Rephlo den darin enthaltenen Text auf Ihrem Gerät aus und gibt ihn stattdessen weiter — nützlich, aber nicht dasselbe, als würde ein Modell Ihr Diagramm tatsächlich sehen. Siehe Wie Rephlo Ihre Dateien liest.

Das Beste aus beidem: lokal schwärzen, dann ein Cloud-Modell nutzen

Das ist die Einrichtung, die wir den meisten Menschen mit sensiblen Aufgaben empfehlen würden — und diejenige, von der die meisten nicht wissen, dass es sie gibt.

Sie müssen sich nicht zwischen „leistungsfähig, aber meine Daten gehen weg“ und „privat, aber begrenzt“ entscheiden. Rephlo kann personenbezogene Daten auf Ihrem eigenen Computer aus der Anfrage entfernen und diese erst dann an ein großes Cloud-Modell senden. Das Cloud-Modell übernimmt die schwierige Denkarbeit; die persönlichen Angaben treten die Reise nie an.

Zum Einrichten: Settings ▸ Privacy ▸ Remove personal info before cloud requests, dann wählen Sie die zu schwärzenden Kategorien.

Zwei Schichten erkennen:

• Mustererkennung, eingebaut und immer verfügbar, erfasst Dinge mit vorhersagbarer Form — E-Mail-Adressen, Telefonnummern, Sozialversicherungsnummern und vollständige Kartendaten.
• Ein KI-Modell auf dem Gerät, bei Bedarf heruntergeladen (etwa 1,16 GB), erfasst Dinge ohne feste Form — Namen, Geburtsdaten, Adressen und Ausweisnummern wie Führerschein und Reisepass.

Solange dieses zweite Modell nicht heruntergeladen ist, werden die davon abhängigen Kategorien als nicht verfügbar angezeigt — Sie werden nie im Unklaren gelassen, was tatsächlich entfernt wird.

Bleiben Sie realistisch, was Ihnen das gibt. Schwärzung verringert versehentliche Offenlegung spürbar, aber sie ist Erkennung, keine Garantie — sie kann nicht jeden Fall erfassen. Sind Ihre Inhalte so sensibel, dass ein übersehener Fall nicht hinnehmbar wäre, nutzen Sie eine der stärkeren Optionen:

• Aktivieren Sie Block send if redaction is uncertain, dann hält Rephlo die Anfrage zurück, statt etwas zu senden, bei dem es sich nicht sicher ist.
• Aktivieren Sie Force Local for Sensitive, dann werden als sensibel markierte Anfragen von einem On-Device-Modell bearbeitet und erreichen gar keinen Cloud-Anbieter.

Alle Einstellungen im Detail finden Sie unter Datenschutz & Daten.

Was soll ich nun verwenden?

Ihre Situation	Verwenden Sie
Alltägliches Umformulieren, Tonfall, Grammatik	On-Device reicht völlig
Keine Internetverbindung	On-Device
Inhalte, die die Maschine nie verlassen dürfen	On-Device oder Force Local for Sensitive
Sensible Inhalte, aber Sie brauchen echte Leistung	Lokal schwärzen, dann ein Cloud-Modell
Schweres Schlussfolgern, Code, lange Dokumente	Cloud
Sie brauchen aktuelle Informationen aus dem Web	Cloud, mit einem Anbieter, der Suche unterstützt
Das Modell soll ein Bild ansehen	Cloud, mit einem Modell mit Bildverständnis
Sie achten auf Ihren credits-Verbrauch	On-Device kostet keine credits

Sie müssen sich nicht festlegen. Das Wechseln des Modells ist ein Auswahlmenü — eine sinnvolle Gewohnheit ist daher, mit einem On-Device-Modell zu entwerfen und zu einem Cloud-Modell zu wechseln, wenn eine Antwort nicht gut genug ist.

Häufige Fragen

Ist das On-Device-Modell dasselbe, das Rephlo in der Cloud verwendet? Nein. Es sind völlig verschiedene Modelle, aus unterschiedlichen Familien und in sehr unterschiedlichen Größen.

Warum ist mein On-Device-Modell langsam? Die Geschwindigkeit hängt von Ihrer Hardware ab — Speicher und Prozessor. Nutzen Sie Check my machine im Bildschirm für On-Device-Modelle, um zu sehen, was Ihr Computer bequem ausführen kann, und wählen Sie lieber ein kleineres Modell, wenn ein größeres träge ist.

Kosten On-Device-Modelle credits? Nein. Einmal heruntergeladen, laufen sie auf Ihrer Hardware ohne Kosten pro Nachricht. Die Funktion erfordert einen Pro-, Enterprise- oder unbefristeten Plan.

Macht ein On-Device-Modell meine Daten automatisch privat? Ihre Inhalte bleiben im lokalen Modus auf Ihrer Maschine. Das ist eine Eigenschaft der lokalen Verarbeitung, keine Compliance-Zertifizierung — ist Ihre Arbeit reguliert, wenden Sie sich an [email protected].

Kann ich OCR mit einem On-Device-Modell nutzen? Ja. Das Lesen gescannter Dokumente läuft unabhängig vom gewählten Modell lokal, eine gescannte PDF funktioniert also mit einem On-Device-Modell genauso wie mit einem Cloud-Modell.

Verwandte Seiten

• On-Device-Modelle — Katalog, Downloads und Speichereinstellungen
• Modelle & Inferenz — wie Rephlo zwischen Cloud und On-Device wählt
• Datenschutz & Daten — Schwärzung, Routing und lokale Verarbeitung
• Wie Rephlo Ihre Dateien liest — Anhänge, Spaces, gescannte Dokumente und Bilder