什么是 AI Agent？它和直接调用大模型 API 有什么区别？
- 标签：AI、大模型、Agent
🏛 业务架构师
这个题与 106 同源，我从业务架构决策角度给出更结构化的回答：
AI Agent = LLM（决策核心）+ 工具（行动力）+ 记忆（连续性）+ 循环（自主性）+ 治理（可控性）。
与直接调 API 的区别，落在四个维度：
- 控制权：API 调用的流程由代码写死，一次请求一次响应；Agent 把"下一步做什么"的决策权交给模型，多步自主推进。业务含义：从"自动化工具"变成"数字员工"——你管理它的方式要从管理软件变成管理人员（授权、监督、考核）。
- 行动力：API 只输出文本；Agent 通过工具真实作用于业务系统（查改数据、发通知）。业务含义：价值上限提高（能办事），风险敞口同步放大（会闯祸）——权限设计和审计变成刚需。
- 状态：API 无状态；Agent 维护任务状态和记忆，处理长流程。业务含义：可以承接跨天、跨人的任务（工单跟进、持续运营），但也产生了记忆合规问题（记什么、谁可看、可否删）。
- 成本结构：API 按次计费、可精确预算；Agent 按任务计费、步数不可预知。业务含义：必须配预算熔断和单任务成本监控，否则月底账单是惊喜。
我的选型法则：确定性流程用"API+代码编排"（便宜、稳）；开放性任务且结果可验证才用 Agent。从 Copilot（人审每步）起步，信任爬坡后再逐步放权——这是企业引入 Agent 的风险管理正解。
🏗 系统架构师
AI Agent = 以 LLM 为决策核心，具备感知、规划、工具使用、记忆能力的自主任务系统；直接调 API = 一次无状态的函数调用。区别我列四条架构级的：
- 控制流归属：API 调用控制流在应用代码（固定流程，一问一答）；Agent 控制流在模型（运行时自主决定路径与步数）——从"开发者编程"到"模型编程"的范式转移；
- 状态与记忆：API 调用无跨请求状态（最多带历史）；Agent 有任务状态机、checkpoint、长期记忆，支持中断恢复和跨会话积累——工程复杂度差一个量级；
- 行动能力与副作用：API 只生成文本；Agent 执行真实动作（工具、代码、UI 操作）——随之而来的是权限、沙箱、幂等、审计一整套分布式系统治理需求。API 答错是答案问题，Agent 做错是事故；
- 资源模型：API 成本 = 一次调用；Agent 成本 = N 次调用 × 全量上下文（乘法模型），延迟从秒级到分钟级，必须配预算熔断。
我的选型判据：任务流程能预先写死 → API 编排（便宜、稳定、可测）；路径必须由模型按中间结果决定 → Agent（且必须上护栏：步数上限、成本熔断、高危审批）。Agent 不是更高级的 API 调用，是另一种系统形态——把它当"智能的 if-else"用的团队基本都会在生产翻车。
💻 全栈开发专家
这个问题我答「循环 + 副作用 + 状态」三个关键词，然后展开：
本质区别：
- 控制流：API 问答是直线（prompt→LLM→answer），控制流全在开发者代码里；Agent 是循环（目标→决策→行动→观察→再决策），控制流部分交给模型——它决定下一步做什么、什么时候结束；
- 状态：API 调用无状态，每次从零开始；Agent 维护任务级状态（计划、进度、中间产物）和跨会话记忆；
- 副作用：API 问答只产出文本；Agent 通过工具对真实世界操作（查库、下单、重启服务）——从「说」升级到「做」；
- 终止条件：函数调用天然返回即结束；Agent 需要显式设计终止（目标达成/预算耗尽/人工中断）。
这带来的工程连锁反应（资深视角）：
- 可靠性设计完全不同：API 调用挂了重试即可；Agent 挂在循环第 3 步可能已经执行了两次扣款——需要幂等、检查点、取消传播；
- 安全边界完全不同：API 泄露的最多是一段回答；Agent 泄露的可能是数据库和生产线——需要权限管道、沙箱、审计；
- 成本模型完全不同：API 单次计价；Agent 每步都是 LLM 调用，token 随步数平方级累积——需要预算刹车和上下文管理。
一句话收尾：直接调 API 是「用模型」，Agent 是「雇模型」——雇佣关系意味着要给工具、给权限、立规矩、管考勤。