✓ 已采纳最佳解答 多模态与企业应用 #Structured Outputs#JSON Schema#工程化#API实践

生产环境要求大模型 100% 返回严格符合业务 Schema 的 JSON,有哪些工程级兜底方案?

🙋 提问者:陈欣 · 金融科技研发 发布于 2026-11-18 1025 次浏览

我们在做合同与票据要素提取,下游直接入库。以前光靠在 Prompt 里写“请只输出合法 JSON,不要带 Markdown 代码块”,大概有 2%~3% 的概率还是会多输出解释文字或漏必填字段。怎么做到接近 100% 稳定?

💬 共 1 个回答

按最佳采纳与社区赞同度排序
孙 孙鹏 · 高级 AI 工程师 实战专家 2026-11-18 10:50
🏆 已采纳最佳答案

千万不要只靠自然语言提示词约束格式!生产环境标准做法是 「协议层原生强约束 + 客户端 Pydantic/Zod 校验自愈」:

  • OpenAI / Gemini 协议:直接启用原生 response_format: { type: "json_schema", json_schema: { strict: true, schema: ... } },解码器会在受限采样(Constrained Decoding)层面物理屏蔽不符合语法树的 Token。
  • Anthropic Claude 协议:定义单个结构化 tool 并指定 tool_choice: { type: "tool", name: "extract_contract" },Claude 的工具入参 Schema 遵循度极高。
  • 网关直通保真:确保你使用的 API 网关是原生透传 response_format 和 tool_choice 字段,而不是把请求降级改写成普通纯文本对话。
补充我的观点 ↓

✍️ 撰写您的回答

分享真实的选型经验、架构方案或代码片段,支持 Markdown 格式,提交后实时渲染展示。

友善、专业、基于工程事实的回答将获得更多社区赞同与采纳

相关 AI 行业热门讨论

🙋 我要提问 全部问答 →