DIAGRAM DESIGN · VAULT-EMBEDDING-PLATFORM
可替换 Embedding 服务架构
离线回填和在线查询共用稳定 API,但使用独立调度队列;模型路由可切换托管服务或企业自部署推理端点。
可替换 Embedding 服务架构
离线回填和在线查询共用稳定 API,但使用独立调度队列;模型路由可切换托管服务或企业自部署推理端点。
OFFLINE BACKFILL
ONLINE QUERY
BATCH
LOW LATENCY
BATCH WORKER
历史回填
queue · retry · token budget
QUERY SERVICE
在线查询
timeout · concurrency · cache
EMBEDDING API
统一 Embedding Gateway
provider routing · batch / sync
stable request / response contract
MODEL REGISTRY
模型目录
revision · dimension · template
MANAGED API
OpenAI Embeddings
hosted capacity · batch endpoint
SELF-HOSTED
TEI / vLLM
GPU pool · dynamic batching
VECTOR INDEX
versioned generation
model_id · dimension · chunker
OFFLINE · BATCHED BACKFILL ONLINE · LOW-LATENCY QUERY INDEX WRITES CARRY MODEL AND CHUNK VERSIONS