返回项目列表

企业级 AI Harness 与 Agent 平台

|

Agent HarnessMCP ServerFastAPITool RegistryAgent RuntimeContext EngineDockerServerless
00
📋

项目概述

围绕销售与交易、内容运营、素材治理和直播内容处理建设企业级 AI Harness 平台,以 Agent Harness 与自治循环为底座,让业务在统一共享能力上快速编排 Agent。

00
👨‍💻

我的职责

负责 Harness 核心抽象、自治循环、AI Gateway、MCP 服务化、模型路由、Context Engine、统一 Agent Runtime 与容器化治理。

00
💼

核心业务

解决多条 AI 业务线重复建设模型网关、RAG、记忆、Prompt、工具和任务调度能力的问题,让智能体基础能力沉到统一平台层。

00

项目亮点

  • 1以 LLMProvider 隔离模型差异、Tool Registry 统一注册业务能力,Loop Engine 只依赖接口运行,并通过标准 tool_call / tool_result 协议兼容不同模型的 Function Calling
  • 2实现“推理—行动—观察—再决策”的自治循环,支持单步并行工具调用;将异常和未知调用回灌模型自纠,并以最大步数、Timeout、人工接管和 Trace 保障执行边界
  • 3FastAPI 网关串联认证、日志、配额、路由四层中间件,通过 Trace ID 贯通全链路追踪
  • 4MCP Client Manager 管理短连接,并按项目执行 API Key 认证与 Token 配额计量,支撑多租户隔离和成本管控
  • 5通过逻辑模型名映射 Endpoint 实现 auto / pro / lite 路由,YAML 热切换对业务无感
  • 6将 LLM、RAG、Memory、Prompt 拆分为独立 MCP 服务,经 Streamable HTTP 与 REST 标准化开放;MCP Client Manager 统一管理连接、超时、异常和调用结果
  • 7设计 Context Engine,在每轮推理前完成会话召回、用户画像读取、知识检索、Prompt 渲染和上下文组装,推理后完成记忆写入与用户事实提取
  • 8抽象实时会话、状态化工作流和异步长任务三类 Agent Runtime,统一任务 ID、状态、Checkpoint、Retry、Resume、Timeout 与流式事件格式
00
🛠

技术方案

核心技术包括 Agent Harness、LLMProvider、Tool Registry、Loop Engine、MCP Server、Streamable HTTP、FastAPI Gateway、MCP Client Manager、Trace ID、API Key、Token 配额、Context Engine、Agent Runtime、Docker、阿里云 Serverless、灰度发布与秒级回滚。