Agentic Search 与 Embedding 的检索决策树 先让大模型理解问题并分解多个词法与结构化查询,执行搜索并评估证据覆盖;只有在查询扩展和迭代搜索仍存在可测量的语义召回缺口时才试点 Embedding。规模、延迟和多来源治理是独立的索引平台决策。 RETRIEVAL ARCHITECTURE · DECISION GUIDE 先让 Agent 搜,再证明索引有必要 LLM Query Decomposition 是默认的第一步;Embedding 是补充检索信号,不是语义理解的唯一入口。 用户提出知识问题 01 · QUERY UNDERSTANDING LLM 理解意图、拆分维度、生成查询变体 原始问题 + 同义词 / 中英文术语 / 实体 / 约束 / 子问题 02 · AGENTIC SEARCH 执行多路检索,并读取命中内容 grep / rg · glob / find · BM25 · SQL / API · LSP / 元数据 证据覆盖是否足够? 关键文档、来源和事实是否命中 任务成功率 / Recall / P95 / Token 是 保持 Agentic Search 无需为了架构完整引入向量库 否 先诊断失败原因 解析缺失?目录 / ACL?查询策略? 源数据不存在?结构化接口更合适? 查询扩展后仍有 语义召回缺口? 不是单纯工具或数据问题 否 优化 Query Plan / 解析 / 连接器 继续使用词法、结构化和 Agent 迭代检索 是 用真实问题集做 Embedding 对照试验 比较 lexical / dense / hybrid 的 Recall 与 Task Success 是否还需要平台级能力? 跨来源 · 高并发 · P95 SLA · ACL 索引生命周期 · 监控 · 运维 是 评估 OpenSearch 等独立检索平台 BM25 / Vector / Hybrid 按证据组合 否 使用现有数据库或轻量向量索引 Embedding 不自动意味着要部署 OpenSearch