RAG 검색 & 튜닝
Command나 채팅에서 Space를 사용할 때, Rephlo는 모든 문서를 무작정 프롬프트에 채워 넣지 않습니다. 대신 요청과 가장 관련성이 높은 구절만 **검색(retrieve)**하여 그 부분만 주입합니다 — 이를 **검색 증강 생성(Retrieval-Augmented Generation, RAG)**이라고 합니다. RAG Retrieval 설정을 통해 이 검색이 얼마나 엄격하거나 관대하게 이루어질지 조정할 수 있습니다.
이 섹션은 Settings → General 하단 부근에 있습니다.
왜 검색을 튜닝해야 할까?
검색은 균형을 잡는 작업입니다:
- 너무 엄격하면, Rephlo가 유용한 컨텍스트를 누락하여 답변이 부실해질 수 있습니다.
- 너무 관대하면, 관련성이 낮은 텍스트까지 끌어와 토큰을 낭비하고 때로는 노이즈를 추가할 수 있습니다.
기본값은 대부분의 사용자에게 잘 맞습니다. 튜닝은 매우 크거나, 매우 전문적이거나, 거의 중복된 콘텐츠로 가득한 특이한 Space가 있어 균형을 조정하고 싶을 때 도움이 됩니다.
Basic 대 Advanced
두 가지 모드가 있습니다. 대부분의 사용자는 Basic만 있으면 됩니다.
Basic 모드 (기본값)
엄격도 프로필을 하나 선택하면 Rephlo가 그에 맞는 적절한 값들을 대신 적용합니다:
| 프로필 | 동작 |
|---|---|
| Very Lenient | 폭넓게 검색합니다 — 더 많은 컨텍스트를 포함하는 쪽을 선호합니다. |
| Lenient | 약간 완화된 검색입니다. |
| Balanced | 기본값 — 대부분의 Space에 적합한 중간 지점입니다. |
| Strict | 더 엄격합니다 — 명확하게 관련 있는 구절만 포함합니다. |
| Strictest | 가장 선별적입니다 — 신뢰도가 가장 높은 일치 항목만 포함합니다. |
프로필을 클릭하기만 하면 변경 사항이 자동으로 저장됩니다.
Advanced 모드
Advanced를 켜면 기본 조정 항목을 직접 편집할 수 있습니다. 전환하면 필드가 현재 프로필의 값으로 미리 채워져 있어 합리적인 출발점에서 시작할 수 있습니다. 사용 가능한 컨트롤:
- Similarity floor — 구절이 고려 대상이 되기 위해 넘어야 하는 최소 관련성 점수.
- Selected-ratio cutoff — 후보 풀 중 얼마나 많은 비율을 유지할지.
- High-confidence threshold — 일치 항목을 명확히 관련 있다고 판단하는 기준.
- Minimum chunks — 검색 결과가 너무 적게 반환되지 않도록 하는 최소치.
- Minimum Space size (tokens) — Space가 충분히 작아서 검색하는 대신 전체를 그대로 전송하는 기준선(기본값 4,000). 이는 Smart Search가 사용하는 경계선입니다: 이 값 이하면 Rephlo는 Space 전체를 전송하고, 초과하면 가장 관련성이 높은 부분만 검색합니다. 더 큰 Space에 대해서도 전체를 스캔하려면 이 값을 높이세요.
- Command context budget (tokens) — Command가 사용할 수 있는 검색된 컨텍스트의 토큰 수. 기본값 4,000. v1.4.0에서 2,500에서 상향되어, 이제 Command도 기본적으로 문서를 더 많이 볼 수 있습니다 — 채팅과 동일한 예산입니다.
- Chat context budget (tokens) — 채팅이 사용할 수 있는 검색된 컨텍스트의 토큰 수. 기본값 4,000.
- Large-Space command guard (tokens) — 기본값 10,000. 이 크기를 초과하면, Rephlo는 Space 전체를 전송하기 전에 Command를 다듬으라고 안내합니다.
- Inject-All Ceiling (tokens) — 기본값 50,000. Space의 실제 크기와 무관하게, 폴백으로 전체 Space를 전송할 때 주입할 수 있는 최대치를 제한합니다.
토큰 예산은 안전한 한도와 사용 중인 제공업체가 실제로 처리할 수 있는 범위 내로 자동으로 조정되므로, 요청을 깨뜨릴 값을 설정할 수는 없습니다.
저장 및 초기화
- Auto-save — Settings의 다른 항목들과 마찬가지로 변경 사항이 즉시 저장됩니다. 별도의 Save 버튼은 없습니다.
- Reset to Defaults — 공장 초기 설정으로 복원합니다: Balanced 프로필의 Basic 모드입니다.
만약 검색 튜닝 기능이 사용 중인 기기에서 이용할 수 없는 경우, Rephlo는 조용히 내장된 기본값으로 대체합니다 — Space는 여전히 정상적으로 작동합니다.
데이터 모드와의 관계
RAG 검색은 데이터 모드와 관계없이 모든 Space에 적용됩니다 — 항상 Space의 원본(raw) 청크에 대해 검색이 이루어집니다. Minimum Space size 기준선을 초과하는 🗜️ Compact Space도 일반 요청에서는 전체 AI 요약이 아니라 관련성 있는 검색된 구절을 그대로 받습니다. 데이터 모드는 폴백 상황에서만 전송 내용을 바꿉니다 — 즉 Space가 Minimum Space size 이하이거나 확실한 일치 항목이 없는 경우: 🔍 Smart Search Space는 각 파일의 전체 원본 텍스트를 무료로 전송하는 반면, 🗜️ Compact Space는 크레딧을 소비해 생성한 각 파일의 AI 요약을 전송합니다. 전체적인 내용은 Data Modes & Compaction을 참고하세요.