Agentic Search 与 Embedding 的检索决策树
先让大模型理解问题并分解多个词法与结构化查询,执行搜索并评估证据覆盖;只有在查询扩展和迭代搜索仍存在可测量的语义召回缺口时才试点 Embedding。规模、延迟和多来源治理是独立的索引平台决策。
RETRIEVAL ARCHITECTURE · DECISION GUIDE
先让 Agent 搜,再证明索引有必要
LLM Query Decomposition 是默认的第一步;Embedding 是补充检索信号,不是语义理解的唯一入口。
用户提出知识问题
01 · QUERY UNDERSTANDING
LLM 理解意图、拆分维度、生成查询变体
原始问题 + 同义词 / 中英文术语 / 实体 / 约束 / 子问题
02 · AGENTIC SEARCH
执行多路检索,并读取命中内容
grep / rg · glob / find · BM25 · SQL / API · LSP / 元数据
证据覆盖是否足够?
关键文档、来源和事实是否命中
任务成功率 / Recall / P95 / Token
是
保持 Agentic Search
无需为了架构完整引入向量库
否
先诊断失败原因
解析缺失?目录 / ACL?查询策略?
源数据不存在?结构化接口更合适?
查询扩展后仍有
语义召回缺口?
不是单纯工具或数据问题
否
优化 Query Plan / 解析 / 连接器
继续使用词法、结构化和 Agent 迭代检索
是
用真实问题集做 Embedding 对照试验
比较 lexical / dense / hybrid 的 Recall 与 Task Success
是否还需要平台级能力?
跨来源 · 高并发 · P95 SLA · ACL
索引生命周期 · 监控 · 运维
是
评估 OpenSearch 等独立检索平台
BM25 / Vector / Hybrid 按证据组合
否
使用现有数据库或轻量向量索引
Embedding 不自动意味着要部署 OpenSearch