跳到主要内容

本机模型与云端模型

Rephlo 既可以在你自己的电脑上运行 AI 模型，也可以把请求发给云端模型。两者出现在同一个模型选择器里，在同一个聊天窗口中作答，因此很容易以为它们可以互换。

其实不能。本页用通俗的说法解释两者的差别，帮你选对；并告诉你如何同时获得本地处理的隐私性和大型云端模型的能力。

简短的回答​

本机模型是比云端模型小得多的 AI。 它要在你的笔记本上运行，就必须装进这台笔记本的内存里。云端模型运行在数据中心，其硬件比一辆汽车还贵。

你可以期待本机模型在日常文字工作中确实好用，同时也要预料到它会在云端模型不会出问题的地方吃力。它不是同一件东西的“小号但同样好”的版本——它是另一个能力层级。

为什么差距这么大​

AI 模型以参数衡量——非常粗略地说，就是模型在训练中学到的内部可调数值的数量。参数越多，通常能力越强，同时也越占内存。

Rephlo 的本机模型目录大致在 20 亿到 140 亿参数之间，因为这才是个人电脑能从容承载的规模。大型云端模型要比这大上几十倍到几百倍。

这种差距会体现为判断力上的不同：跟住一条冗长而层层嵌套的指令；一边回答一边把一份复杂文档记在心里；察觉到你的问题里含有一个错误前提。小模型把显而易见的事做得不错，把微妙的事做得不可靠。

并排对比​

本机模型云端模型
你的文字去往何处哪儿也不去——留在你的电脑上发给提供该模型的服务商
离线可用是否
每条消息的成本无credits，或使用 BYOK 时你自己的服务商账单
速度取决于你的硬件稳定，通常更快
难题推理有限强
长文档有限强
联网搜索不支持支持搜索的服务商可用
读取图片不支持具备视觉能力的模型可用
读取附加文档支持——PDF、文本和 Office 文件支持
前期准备一次性下载数 GB无需
使用条件Pro、Enterprise 或永久授权所有方案

本机模型擅长什么​

在这些任务上，差距几乎显现不出来：

  • 改写与换一种说法——调整语气、缩短、写得更正式
  • 纠正语法和拼写
  • 总结中短篇文字
  • 简单提取——从一段话里挑出人名、日期或列表项
  • 日常文字的快速翻译
  • 离线工作——在飞机上、在保密场所，或没有网络时
  • 任何机密到你宁愿它不离开这台机器的内容

它们在哪里吃力​

请预期以下方面结果会较弱：

  • 复杂推理——多步逻辑、数学、细致分析
  • 长文档——小模型的工作记忆很快就会填满
  • 超出短片段的代码生成
  • 冗长而层层嵌套的指令——小模型倾向于照做前几条，然后偏离其余部分
  • 细微差别与事实准确性——小模型更容易把错误的说法讲得很笃定

两个值得提前了解的硬性限制​

不能联网搜索。 由于本机模型完全离线运行，它无法查阅任何资料，知识止步于训练数据。联网搜索连接器正在开发中；如今若需要实时信息，请使用支持搜索的云端服务商。

没有视觉能力。 本机模型无法查看图片。若你附上一张图，Rephlo 会在你的设备上读出其中的文字并转交过去——有用，但和模型真正看见你的图表并不相同。参见 Rephlo 如何读取你的文件。

两全其美：先在本地脱敏，再用云端模型​

对于大多数需要处理敏感内容的人，这是我们推荐的配置，也是多数用户并不知道其存在的配置。

你不必在*“强大但我的数据会外流”和“隐私但能力有限”*之间二选一。Rephlo 可以在你自己的电脑上把个人信息从请求中剔除，然后才发给大型云端模型。 云端模型负责艰难的思考；个人细节则根本不会踏上这段旅程。

设置方法： Settings ▸ Privacy ▸ Remove personal info before cloud requests，然后选择要脱敏的类别。

检测由两层完成：

  • 模式匹配为内置且始终可用，负责识别形式可预测的内容——电子邮件地址、电话号码、社会保障号码和完整的银行卡信息。
  • 本机 AI 模型按需下载（约 1.16 GB），负责识别没有固定形式的内容——姓名、出生日期、地址，以及驾照、护照之类的证件号码。

在你下载第二个模型之前，依赖它的类别会显示为不可用，因此你绝不会对实际被移除的内容产生误解。

请客观看待它能带来什么。 脱敏能明显降低意外泄露的可能，但它是检测而非保证——它无法覆盖每一种情况。如果你的内容敏感到一次遗漏都无法接受，请使用更强的选项：

  • 开启 Block send if redaction is uncertain，这样当 Rephlo 没有把握时，它会扣下请求，而不是冒险发送。
  • 开启 Force Local for Sensitive，被标记为敏感的请求将由本机模型处理，完全不会到达任何云端服务商。

每一项设置的详细说明参见隐私与数据。

那么我该用哪个？​

你的情况使用
日常改写、语气调整、语法本机模型足够了
没有网络连接本机模型
绝不能离开这台机器的内容本机模型，或 Force Local for Sensitive
内容敏感，但你需要真正的能力先在本地脱敏，再用云端模型
高难度推理、代码、长文档云端
需要来自网络的最新信息云端，选支持搜索的服务商
需要模型真的看一眼图片云端，选具备视觉能力的模型
正留意 credits 支出本机模型不消耗 credits

你并不需要一锤定音。切换模型只是一个下拉菜单，所以一个合理的习惯是：先用本机模型起草，当答案不够好时再升级到云端模型。

常见问题​

本机模型和 Rephlo 在云端使用的是同一个模型吗？ 不是。它们是完全不同的模型，来自不同的家族，规模差别很大。

我的本机模型为什么很慢？ 速度取决于你的硬件——内存和处理器。请在本机模型界面使用 Check my machine，看看你的电脑能从容运行到什么程度；若较大的模型很迟钝，就换用更小的模型。

本机模型会消耗 credits 吗？ 不会。下载之后，它们在你自己的硬件上运行，没有按条计费的成本。该功能需要 Pro、Enterprise 或永久方案。

使用本机模型，我的数据就自动隐私了吗？ 在本地模式下，你的内容会留在你的机器上。这是本地处理这一方式的属性，而不是合规认证——如果你的工作受监管，请联系 [email protected]。

我可以在本机模型上使用 OCR 吗？ 可以。无论你选择哪个模型，读取扫描件都在本地运行，因此扫描版 PDF 在本机模型上的表现和在云端模型上一样。

相关页面​