Gemini 模型 JSON 输出截断排障指南参数、协议、架构三层修复【免费下载链接】generative-aiSample code and notebooks for Generative AI on Google Cloud, with Gemini Enterprise Agent Platform项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai把 Gemini 模型返回的字符串丢给 json.loads一个 JSONDecodeError 甩到脸上JSON 在中间某个逗号处戛然而止。在 generative-ai 仓库里做 Gemini 结构化输出时这种截半的 JSON 是最常踩的坑。这条排障路径分三步先判断截断属于哪种表型再按参数、协议、架构三层分别修复最后过一遍上线前的加固清单。先对号入座三种 JSON 截断表型动手改配置前先看两处响应文本的结尾和 finish_reason 字段SDK 用它解释模型为什么停笔。如果你看到的是输出在半条记录处停下比如price: 19后面没了且 finish_reason 是 MAX_TOKENS——大概率是输出长度触顶。模型按词元token模型计量输出长度的最小单位限制单次输出大数组很容易超限。如果你看到的是 JSON 本身完整解析器却报 unexpected character——多半是模型在 JSON 外面裹了代码围栏或补了一句以上是查询结果。这是自由文本模式的通病你不约束格式它就自由发挥。如果你用函数调用Function Calling让模型按你声明的参数结构去调函数拿数据而 function_call.args 少了字段或值被截断——大概率是参数体积超出生成能力本质还是长度问题只是换了个出口。resp client.models.generate_content(...) print(resp.candidates[0].finish_reason) # MAX_TOKENS 长度触顶 print(resp.text[-80:]) # 确认结尾有没有闭合括号分层修复参数、协议、架构各改什么参数层把输出上限抬到 8192对应表型一。在请求里显式传 GenerateContentConfig把 max_output_tokens 抬到所选模型的允许上限temperature 压到 0 降低随机性from google import genai from google.genai.types import GenerateContentConfig client genai.Client() resp client.models.generate_content( modelgemini-2.5-flash, contents生成 20 条产品记录只输出 JSON 数组, configGenerateContentConfig( max_output_tokens8192, temperature0, ), )⚠️ 局限上限是模型写死的8192 只是常见档位数据体量再翻倍照样截断治标不治本。协议层用 response_schema 锁死输出结构对应表型二也是多数固定业务结构的首选。Gemini 允许在请求里声明输出结构模型只能按该结构产出 JSON围栏和解释性文字从机制上消失。仓库的 控制生成示例 用的就是这条路from pydantic import BaseModel class Product(BaseModel): name: str price: float stock: int class ProductList(BaseModel): items: list[Product] resp client.models.generate_content( modelgemini-2.5-flash, contents生成 5 条产品记录, configGenerateContentConfig( response_mime_typeapplication/json, response_schemaProductList, # 可直接传 Pydantic / JSON Schema ), ) data ProductList.model_validate_json(resp.text)等效的另一条路是强制函数调用声明一个只接收 result 参数的函数模式设为 ANY逼模型按声明吐参数。forced_function_calling.ipynb 里有 ANY / AUTO / NONE 三种模式的完整对比。⚠️ 局限schema 约束结构不约束体量单字段超长文本仍可能触顶临时加字段要改代码重新发版。架构层大数组分片生成再拼装对应数据量本身大的场景比如几千条记录的数组。别指望一次生成完切成每片 200~500 条逐片请求、客户端拼装import json # client 同前文 def generate_all(total5000, chunk500): items [] for start in range(0, total, chunk): end min(start chunk, total) resp client.models.generate_content( modelgemini-2.5-flash, contentsf生成编号 {start} 至 {end - 1} 的产品记录 f只返回 JSON 数组禁止解释文字, configGenerateContentConfig(max_output_tokens8192), ) items.extend(json.loads(resp.text)) return {total: len(items), data: items}每片建议叠加协议层的 response_schema拼装前逐片校验某片失败只重跑该片不用全部重来。⚠️ 局限请求数变成 N 片延迟与成本同乘 N分片前要先设计好编号或去重键否则拼装时容易重复或丢数据。上线前 checklist校验、重试与降级模型偶发抽风是常态生产代码要把解析失败当正常分支处理解析前剥掉残留的代码围栏与首尾空白json.loads 包 try失败后尝试补}或]}二次解析二次失败用更小的分片重试一次仍失败则落盘原始响应并走降级返回解析前先读 finish_reasonMAX_TOKENS 直接跳过解析进入重试监控解析失败率超过 1% 告警把它当提示词与模型回归的第一信号兜底解析的最小版本import json def safe_parse(text: str): text text.strip().removeprefix(json).removesuffix().strip() try: return json.loads(text), None except json.JSONDecodeError as e: for tail in (}, ]}): # 补闭合抢救差一个符号的半截输出 try: return json.loads(text tail), frepaired: {tail} except json.JSONDecodeError: pass return None, str(e) # 交回调用方决定重试或降级补闭合符号只能救差最后一个括号的运气球救不了值被截断的请求。它的定位是兜底不是方案。怎么选路径场景对照与下一步场景推荐路径关键参数偶发截断JSON 几 KB 量级参数层抬上限max_output_tokens8192, temperature0固定业务结构字段类型明确协议层 response_schemaresponse_mime_typeapplication/json数据必须经函数调用回传协议层强制函数调用modeANY, allowed_function_names千条以上大数组架构层分片 每片 schema 校验chunk 200~500逐片校验后拼装延伸阅读按顺序来先过一遍 function-calling 示例目录 建立手感再看 intro_function_calling.ipynb 把基础流程跑通。下一步留一份线上截断的原始响应按先看 finish_reason、再看结尾有没有闭合括号对出表型只改对应那一层的配置。多数场景参数层加协议层的两行配置就覆盖了剩下的才是大数组——那才轮到架构层。【免费下载链接】generative-aiSample code and notebooks for Generative AI on Google Cloud, with Gemini Enterprise Agent Platform项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考