Carbon 的长输出应通过 Interactions API 的后台执行或客户端续接完成;后台模式由服务器续接并返回完整交互,客户端模式则需正确处理分段、状态、断线恢复和预算。
适合的任务:确实需要单次交互超过 65,536 个思考与输出 tokens 的复杂数学、科学、研究、证明或高难度代码任务;在输出上限处容易被截断的评测任务。
不适合的任务:聊天、问答、摘要、分类、信息抽取;多轮 Agent 的短工具调用;时延敏感或输入已接近上下文上限的请求。
适用的模型版本:Gemini 4 Carbon,gemini-4-carbon。
适用的客户端、Agent 或 API:Gemini API Interactions API;后台执行或支持自动续接的 Google GenAI SDK。Carbon 前台自动续接要求 Python SDK 2.34.0+、JavaScript 2.32.0+、Go 1.77.0+、Java 1.80.0+ 或 .NET 1.28.0+。
推荐的推理档位和参数:仅在确有长输出需求时设置 max_output_tokens > 65,536。官方示例使用 262,144 与 thinking_level="high";多数编码和 Agent 任务默认 medium 即可。总上限不超过 1,048,576 - 输入 tokens。
以下 Python 配置按官方示例整理,保留其 SDK 调用、后台轮询和各段文本合并方式;输入是编辑用占位文本,应替换成实际任务。安装并初始化官方 google-genai SDK 后可运行:
import time
from google import genai
client = genai.Client()
interaction = client.interactions.create(
model="gemini-4-carbon",
input="替换为确实需要长输出的任务",
background=True,
generation_config={
"max_output_tokens": 262144,
"thinking_level": "high",
},
)
while interaction.status in ("in_progress", "queued"):
time.sleep(5)
interaction = client.interactions.get(id=interaction.id)
text = "".join(
content.text
for step in interaction.steps
if step.type == "model_output"
for content in step.content
if content.type == "text"
)
print(text)
print("Status:", interaction.status)
print("Usage:", interaction.usage)确认任务确实需要超过单次默认上限;大多数请求在 65,536 tokens 内完成。
在请求中同时启用 background=True 并将 max_output_tokens 设为大于 65,536。后台交互返回 in_progress 后,按 queued / in_progress 状态继续轮询。
交互结束后检查最终 status,再读取文本与 usage。后台结果会合并各 hop;如自行处理步骤,只拼接 model_output 中的文本。
如需主动停止运行中的交互,调用 client.interactions.cancel(id=interaction.id);已完成的工作仍会计费。
若使用前台自动续接,保留 interactions.create 返回的合并结果。SDK 的 interactions.get 只返回最后一 hop;续聊时使用最终 hop 的 ID 作为 previous_interaction_id。
默认输出上限是 65,536 个 thinking 与 output tokens 的合计。Long decode 把生成拆为连续 hops:后台每段最多 65,536;Carbon 前台非流式单段最多 32,768;启用自动续接的 SDK 会替调用方连续发起后续段。
后台模式要让 max_output_tokens 大于 65,536,服务器会续接至模型结束或达到上限。后台交互最长可运行 24 小时。
前台自动续接适用于超过单段上限的请求;旧版 SDK 不会续接。若某 hop 中断,SDK 可抛出 ContinuationInterruptedError,其中 partial_interaction 包含已完成部分;恢复时需提供交互 ID 和 continuation_token(若 store=false 则重发输入)。
max_output_tokens 是整次交互中思考与可见输出共用的预算。调低上限只会更早截断,不会让思考更精简;想减少 token,应降低 thinking_level。
所有 hops 的 tokens(包括只含思考的段)都会计费。interaction.usage 提供输入、缓存输入、输出、思考与总 token 统计;多段输入会重复计入各 hop,因此 total_input_tokens 不等同于上下文实际大小。
输入、思考和输出共用 1,048,576-token 上下文;可用输出预算还受输入长度占用限制。
提高 max_output_tokens 只扩大可用预算,不保证模型写到该长度;官方明确说明模型不遵循字数或 token 长度目标。
长 decode 可能持续数分钟。长流需保存 interaction ID 与每个事件的 event_id,断线后用最后一个 event_id 续读,并读到流结束后再检查状态;不要把中间 hop 完成误判为整次交互完成。
取消或失败的交互仍对已完成工作计费。total_input_tokens 会累计重复输入,不能直接用它判断上下文是否该压缩。
采集日期为 2026-11-16。通过 Tabbit 读取 Google AI Studio 的 Long decode 文档正文与可见代码示例、状态说明和预算说明。未调用 Gemini API;代码为依照官方后台示例改写的可运行配置,输入文本为占位内容,未验证实际模型输出。
Gemini 4 Carbon