面经策

什么是 GPT Structured Outputs？ ​

  • 标签：AI、大模型

🏛 业务架构师 ​

GPT Structured Outputs 特指 OpenAI 2024 年推出的受约束解码能力：开发者传一个 JSON Schema，模型在 token 采样阶段就被强制只生成符合 Schema 的内容，合法性是数学保证而非概率祈祷——对比早期"提示词求模型输出 JSON"动辄解析失败，这是质的飞跃。

技术关键：它采用约束解码（改编自上下文无关文法的研究成果），在每一步生成时把不符合 Schema 的 token 概率直接清零；并支持 strict 模式，所有字段必填、不支持的部分 Schema 能力有明确清单。

业务视角的三个影响：

  1. 集成成本骤降：以前要写重试、修复、校验一大坨容错代码，现在一行 Schema 声明搞定，Agent 流水线里"模型A的输出喂模型B"变得可靠。
  2. 国产模型已跟进：2026 年主流闭源和开源模型（Qwen、DeepSeek、GLM 等）都提供等价能力，这已是基线能力而非选型理由。
  3. 仍不能免检：Schema 只保证"格式对"，不保证"内容对"——数值逻辑错误照样发生，关键业务字段仍要加业务校验和人工抽检。

我的原则：结构化输出解决格式问题，内容质量还是要靠评测和护栏，两件事不能混为一谈。

🏗 系统架构师 ​

GPT Structured Outputs 是 OpenAI 的受限解码能力：开发者给一个 JSON Schema，API 保证输出 100% 语法合法且符合该 Schema。它是"结构化输出"理念在生产 API 上的标杆实现。

机制：传统做法是 Prompt 提示 + function calling 参数松校验，模型仍会违规（字段缺失、枚举外值、多余逗号）；Structured Outputs 把 JSON Schema 编译成上下文无关文法，推理时在每个解码步只允许文法合法的 token 被采样——合法性是由解码器保证的，不是靠模型自觉。

架构师视角的用法与边界：

  • 收益：下游可以删掉大半"解析容错 + 重试"代码，端到端成功率从 ~95% 提到 ~100%，重试减少直接省 token 和延迟；
  • 代价：Schema 太复杂会压缩模型的"思考空间"，复杂推理任务质量可能下降——我的实践是复杂任务分两步：先自由思考再结构化总结（two-phase）；
  • 注意：语法合法 ≠ 语义正确，字段取值合理性仍要业务校验；keyword 枚举要留 fallback；开源生态里 vLLM/outlines 提供等价的 guided decoding，自托管时可用同套方案。

它是我做 Agent 编排、数据抽取 pipeline 的默认能力，而不是可选项。

💻 全栈开发专家 ​

GPT Structured Outputs 是 OpenAI 2024 年 8 月推出的能力：调用 API 时传一个 JSON Schema，模型在解码层面被约束，保证输出 100% 是符合该 schema 的合法 JSON。它和早期 json_mode 的区别：json_mode 只保证「是 JSON」，Structured Outputs 保证「是你定义的那个 JSON」。

用法：

python
resp = client.chat.completions.create(
    model="gpt-4o-2024-08-06",
    response_format={
        "type": "json_schema",
        "json_schema": {"name": "order",
            "schema": {"type": "object", "properties": {
                "orderId": {"type": "string"},
                "amount": {"type": "number"}},
                "required": ["orderId", "amount"], "additionalProperties": False}}},
    messages=[...])

原理是约束解码：每一步生成时用grammar（CFG 转成的状态机）屏蔽不合法 token，本质和我用过的 outlines/xgrammar 本地库一样。

工程要点：schema 要尽量简单，深层嵌套和 oneOf 会明显增加出错率和推理时间；additionalProperties: false 记得加，否则模型会塞私货字段；中文枚举值没问题，但描述字段用途的 description 一定要写，字段名是模型理解结构的主要线索。自部署场景用 vLLM/LM Studio 的 guided_json 等价实现。