DIAGRAM DESIGN · VAULT-EMBEDDING-PLATFORM

可替换 Embedding 服务架构

离线回填和在线查询共用稳定 API,但使用独立调度队列;模型路由可切换托管服务或企业自部署推理端点。

可替换 Embedding 服务架构离线回填和在线查询共用稳定 API,但使用独立调度队列;模型路由可切换托管服务或企业自部署推理端点。 OFFLINE BACKFILLONLINE QUERYBATCHLOW LATENCYBATCH WORKER历史回填queue · retry · token budgetQUERY SERVICE在线查询timeout · concurrency · cacheEMBEDDING API统一 Embedding Gatewayprovider routing · batch / syncstable request / response contractMODEL REGISTRY模型目录revision · dimension · templateMANAGED APIOpenAI Embeddingshosted capacity · batch endpointSELF-HOSTEDTEI / vLLMGPU pool · dynamic batchingVECTOR INDEXversioned generationmodel_id · dimension · chunker OFFLINE · BATCHED BACKFILL ONLINE · LOW-LATENCY QUERY INDEX WRITES CARRY MODEL AND CHUNK VERSIONS