|
把 LLM 网关、RAG 检索、会话记忆和 Prompt 管理拆为 4 个独立 MCP Server,通过标准协议、租户隔离和独立部署,让业务只关注 Agent 编排。
负责 MCP Server 拆分、REST 到 MCP 桥接网关、多租户鉴权与配额、统一模型路由、RAG 物理隔离、双层记忆和容器化分层发布。
解决多条 AI 业务线重复建设模型网关、RAG、记忆、Prompt 能力的问题,让智能体基础能力沉到统一平台层。
核心技术包括 MCP Server、Streamable HTTP、FastAPI Gateway、MCP Client Manager、Trace ID、API Key、Token 配额、YAML 热切换、Viking DB、PostgreSQL UPSERT、Prompt 原语、Docker、阿里云 Serverless、灰度发布与秒级回滚。