跳到主要内容

数据模式与压缩

当您将Space(您的文档知识库)附加到某个命令或 Chat 时,其中的所有文本都会被输入给 AI。您可以通过一个选择来决定 AI 如何获取这些内容——即 Space 数据视图顶部的**数据模式(Data mode)**选择器。共有两个选项:

  • 🔍 Smart Search——原始内容,按需检索。免费(不消耗 credit)。
  • 🗜️ Compact——预先生成摘要的内容,始终发送。构建摘要需要消耗 credit

本页将介绍这两种模式、围绕压缩功能的 credit 保护机制,以及应用如何主动帮助您的 Space 保持在更经济的模式下。

唯一的选择:数据模式选择器

每个 Space 只有一个数据模式,由两个互斥的选项设置(可以理解为单选按钮,而不是各自独立的开关)。选择器旁边有一个 信息图标,其下方的实时提示文字会说明当前选择对 Space 的大小意味着什么。

数据模式发送内容Credit最适合场景
🔍 Smart Search (默认)您的原始内容——Space 较小时为完整文本,Space 变大后则只发送最相关的部分免费任何大小的 Space——安全的默认选择
🗜️ CompactSpace 变大后,只发送检索到的最相关段落;Space 较小时则发送完整的 AI 摘要集构建摘要需要消耗 credit(之后可重复使用)您会广泛查询、并希望保持低 token 占用的小型 Space

🔍 Smart Search(默认,免费)

Smart Search 会发送您的原始内容,并根据 Space 的大小自动调整:

  • 小型 Space——Rephlo 会发送全部内容(完整扫描),因为对少量文档而言,检索并不划算。
  • 大型 Space——Rephlo 只会检索与您的请求最相关的部分(检索增强生成,即 Retrieval-Augmented Generation,简称 RAG——参见 RAG & Retrieval),而不是发送全部内容。

无论哪种情况,Smart Search 从不消耗 credit,且检索过程完全在您的设备本地运行——您的文档永远不会离开您的计算机。选择器下方的提示文字会告诉您当前生效的是哪种行为:

"正在发送全部内容——该 Space 足够小,可以完整扫描。" —— 或 —— "正在检索最相关的部分(该 Space 较大)。"

大小阈值在哪里设置

“扫描全部内容”与“只检索相关部分”之间的分界线是可配置的。打开 Settings ▸ General ▸ RAG Retrieval Tuning,启用 Advanced,然后调整 Minimum Space size (tokens)(默认 4,000)。调大该值可让更大的 Space 仍然完整扫描;调小该值则会更早开始检索。完整的调节选项请参见 RAG Retrieval & Tuning

提示

由于 Smart Search 对大型 Space 只检索相关内容,通常比发送整个压缩后的 Space 更经济——并且不消耗 credit。对绝大多数人来说,这都是正确的默认选择。

🗜️ Compact(消耗 credit)

Compact 会为每个文件存储一份 AI 生成的摘要,并发送这些摘要而不是完整文本,从而使每次请求携带更少的 token。构建这些摘要需要消耗 credit——但文件一旦完成压缩,其摘要就会被重复使用,因此您只需为构建(或按需重新构建)摘要付费一次。

Compact 同样能从检索中受益:一旦 Space 的大小超过检索下限,普通请求就会只从 Space 的原始内容中检索相关段落(检索增强生成,即 RAG——参见 RAG & Retrieval),这一点与 Smart Search 相同。完整的 AI 摘要集只会在回退情况下发送——即 Space 小到可以整体发送,或没有任何内容能自信地匹配您的请求时。

您可以在 Space 的数据视图中通过明确的操作来构建摘要:

  • Compact——为单个文件生成摘要。
  • Compact All——为 Space 中所有尚未压缩的文件生成摘要。
  • Regenerate——重新生成某个文件已有的摘要。
压缩绝不会悄悄进行

每次压缩操作都会要求您先确认 credit 费用。在您同意之前,不会生成任何摘要——也不会消耗任何 credit。

压缩的 credit 保护机制(大型 Space)

为防止一次点击就消耗掉您大量的 credit,Rephlo 会对大型 Space 锁定压缩功能。当某个 Space 的原始内容总量达到约 128,000 token 时,Compact 选项会被禁用(变灰),并且所有压缩操作——Compact、Compact All 和 Regenerate——都会被阻止。届时会有一条简短提示引导您使用 Smart Search,它本就能高效且免费地处理大型 Space。

大型单文件警告

即使未达到锁定阈值,压缩单个较大的文件仍可能产生不小的费用。如果单个文件约达到 50,000 token 或更多,Rephlo 会在压缩前显示 credit 费用确认,确保大型文档不会在您毫无察觉的情况下被生成摘要。

Smart Mode Advisor

当某个 Space 处于 Compact 模式时,Rephlo 会持续留意那些 Smart Search 能够免费为您提供更好体验的情况,并主动提议切换。它会在您打开 Space 时以及每次数据发生变化后进行评估,并在以下情况下建议切换:

  • 变得很大(约 128,000 token 或更多)——反正压缩功能已被锁定,Smart Search 是更高效的选择。
  • 刚接收到一个大文件(约 50,000 token 或更多)——压缩它会产生真实的 credit 费用。
  • 非常小(等于或低于您设置的 Minimum Space size)——Smart Search 可以免费完整扫描,因此没有理由消耗 credit。

该顾问始终只会建议切换到 Smart Search——它从不会自行压缩任何内容,也不会悄悄更改您的模式。如果您拒绝,您的 Space 会保持在 Compact 模式,且顾问不会针对同一情况再次提醒

每个 Space 的 token 预算

每个 Space 都有一个 token 预算——其文档总大小的上限(默认 100,000 token,可调整)。Rephlo 会跟踪两个实时统计数值,让您一目了然地看到压缩的效果:

  • 原始 token 数——所有文档全文使用时的总量(这是 credit 保护机制用来与约 128,000 比较的数值)。
  • 压缩后 token 数——改用摘要版本后的总量。

何时使用哪种模式

  • 几乎所有情况——请保持使用 Smart Search。它是免费的,能完整扫描小型 Space,并且只为大型 Space 检索相关内容。
  • 大型 Space——Smart Search。反正这里压缩功能已被锁定,而检索既更经济又免费。
  • 您会非常广泛地查询的小型 Space(您希望每次都能将全部内容浓缩成寥寥数个 token)——Compact 会有所帮助,且您会在事前确认 credit 费用。

Space 数据视图——Smart Search / Compact 选择器及其信息提示与实时提示文字、Normal 与 Compact 的 token 使用量卡片,以及带有压缩操作的按文件列表 Space 数据视图,展示数据模式选择器(Smart Search / Compact)、token 使用量卡片,以及按文件划分的压缩操作。

相关页面