Skip to content

LLM Agent 的基本架构有哪些组成部分? ​

  • 标签:大模型、AI、Agent

🏛 业务架构师 ​

LLM Agent 的基本架构,我用"一个决策核心+四大支撑系统"来概括:

决策核心——LLM(大脑):负责理解任务、规划步骤、决定调用什么工具、根据观察结果调整下一步。Agent 的智能上限由模型能力决定。

感知输入:用户指令、环境状态、工具返回结果,统一装配进上下文窗口供大脑决策。

记忆系统:短期记忆(当前对话上下文)+ 长期记忆(用户偏好、历史任务的向量库/档案),让 Agent 跨会话积累经验。

工具系统(手和脚):检索、数据库查询、API 调用、代码执行器等,通过 Function Calling/MCP 接入。工具的丰富度和描述质量决定 Agent 能做的事的边界。

规划与反思(元认知):任务分解(把大目标拆步骤)、自我检查(Reflexion 式的复盘重试)、终止判断。现代模型已把 ReAct 循环内化,但显式的规划节点仍能提升复杂任务成功率。

业务视角的架构要点:真正的生产级 Agent 还必须有第五件套——治理层:权限控制(哪些工具能碰哪些数据)、审计日志(每步决策留痕)、人工介入点(关键动作审批)。前四件决定 Agent 能干什么,治理层决定企业敢不敢让它干。做方案时我总是先画治理层边界,再谈能力建设。

🏗 系统架构师 ​

LLM Agent 的基本架构我拆成六模块一总线,这是我看任何 Agent 框架(LangGraph、OpenClaw、ADK)的统一视角:

  • 感知/接入层(Channel):多渠道消息接入(API、IM、语音),归一化为统一消息协议;
  • 规划模块(Planning):任务分解、路径决策——显式 Planner(CoT、ToT 分解)或隐式(ReAct 循环中模型边走边规划);
  • 记忆模块(Memory):短期(上下文窗口内的会话历史 + 滚动摘要)与长期(向量库/结构化库的用户画像与事实);
  • 工具层(Tools):工具注册与描述、调用执行、结果处理(MCP/Function Calling 协议承载);工具描述质量决定决策准确率;
  • 执行循环(Agent Loop):感知→规划→行动→观察的 ReAct 循环,含终止条件判断(任务完成/步数上限/预算熔断);
  • 护栏与治理(Guardrails):输入输出过滤、权限校验、高危操作人工确认、审计日志——生产化的分水岭。

一条状态总线:所有模块围绕共享会话状态(消息历史、任务状态、中间产物)协作,LangGraph 的 State + Checkpointer 就是这个设计的框架化。

架构要点:模块间的边界决定可测试性——规划可 mock、工具可 stub、循环可回放,Agent 系统才能像传统软件一样做 CI。

💻 全栈开发专家 ​

标准说法四件套,加上我工程上认的第五件:

  1. LLM 大脑(决策):负责推理、规划、决定下一步做什么,是一切的核心;
  2. 规划(Planning):任务分解(把大目标拆成子任务)、反思(执行完检查结果调整策略)。CoT、ReAct、Reflexion 都是在强化这个环节;
  3. 记忆(Memory):短期记忆=上下文窗口内的对话历史;长期记忆=外置存储(向量库/数据库)+ 检索召回;
  4. 工具(Tools/Action):搜索、代码执行、API 调用、文件操作——Agent 的「手」,通过 Function Calling/MCP 接入;
  5. (工程必备)运行时与治理:循环控制器、上下文管理、权限沙箱、审计可观测——demo 和生产 Agent 的差距全在这一层。
用户目标 → [规划] → [LLM 决策] → [工具执行] → 观察结果
    ↑                                      |
    └────────── [记忆] 供读写 ←────────────┘   循环直到完成

我的架构心得:四件套里最容易被低估的是记忆和治理。demo 期大家卷工具数量,生产期发现问题全在:上下文爆了(记忆管理)、工具乱调(权限)、跑飞了(循环控制)、出了事查不到(审计)。面试时能把话题从「能力」引到「可控性」,就是资深视角。