Tabbit
活动资源博客模型
Tabbit LogoTabbit

Tabbit — 为你工作的 AI 浏览器

主题资源

  • AI Browser Resources
  • Agentic Browser Resources
  • Browser Downloads and Install Guides
  • Browser Comparisons
  • AI Browser Alternatives
  • Browser Productivity Resources

热门指南

  • AI Browser
  • Agentic Browser Download
  • Best AI Browser 2026: Top 9 Tested & Ranked
  • AI Browser Download
  • Free AI Browser
  • Best AI Browser 2026
  • AI Browser Comparison 2026
  • AI Browser for Windows
  • AI Browser for Mac
  • Chrome Alternative 2026

活动

  • 别装了,你在《牛来》里早有原型
  • Tabbit 妙招大赛
  • KPOP SBTI 饭圈人格测试
  • Tabbit 校园共创者计划
  • fifi 的论文文献妙招精选
  • 用户问卷

关于

  • Tabbit 博客
  • 媒体报道
简体中文
简体中文English
测评与证据

Gemini 3.1 Pro · 媒体来源 · 独立测量

LayerLens Stratix 对 Gemini 3.1 Pro Preview 的六类基准实测

LayerLens Stratix 用 14,549 个样本覆盖六类基准,显示 Gemini 3.1 Pro 在 ARC 与 BIRD-CRITIC 等任务间差异很大。

媒体来源独立测量编辑日期 2026-09-20

测试条件速查

来源具体观察
2026-02-19 LayerLens Stratix;14,549 个测试用例,覆盖 ARC AGI 2、LiveCodeBench、SWE Bench Lite、IF-Evals、BIRD-CRITIC、BFCL v3。
已公布条件
文章称使用 standardized configurations 和 consistent parameters,但没有公开每项完整 prompt、temperature、重复次数和置信区间。

关键数据与适用场景

一句话结论

LayerLens 在 Stratix 的 14,549 个测试用例上测得 Gemini 3.1 Pro Preview 从 ARC-AGI-2 92.3% 到 BIRD-CRITIC 32.5% 的大幅任务差异,说明它更适合抽象推理,SQL 与仓库级工程需要路由或补充工具。

测试环境

  • 平台:LayerLens Stratix。

  • 样本:14,549 个测试用例。

  • 类别/基准:ARC AGI 2、LiveCodeBench、SWE Bench Lite、IF-Evals、BIRD-CRITIC、BFCL v3,覆盖抽象推理、代码、软件工程、指令遵循、SQL、函数调用。

  • 配置:文章称使用 standardized benchmark configurations、consistent parameters;未公开每个 benchmark 的完整 prompt、temperature、重复次数和置信区间。

输入/配置

文章报告的是 2026-02-19 的 Gemini 3.1 Pro Preview 评测,未说明是否与公开 API gemini-3.1-pro-preview 的具体 snapshot 完全一致。测试按六个标准 benchmark 分发,结果来自自动化评估而非精选 demo。

结果数据

基准得分观察
ARC AGI 292.3%最强,抽象模式与多步推理
IF-Evals78.4%多条指令总体较好,冲突约束会失败
BFCL v371.2%函数调用高于平均,但复杂多工具链不稳定
LiveCodeBench61.0%标准代码题尚可,长/多文件任务下降
SWE Bench Lite48.7%仓库级工程中等,跨文件依赖困难
BIRD-CRITIC32.5%SQL/数据推理弱,多表 join、子查询和 schema 推断易错

结论

该实测支持按任务路由:抽象推理和结构化指令优先试 Gemini 3.1 Pro;SQL、仓库级代码和复杂多工具链必须配合 schema/测试/工具校验,或评估其他模型。

局限

  • ARC-AGI-2 92.3% 与 Google 发布的 verified 77.1% 不一致,可能来自数据集、harness、解码或版本差异;不能直接比较排名。

  • LayerLens 没有在文章中公开完整原始输入、运行日志、种子、费用和逐题结果下载,复现需要 Stratix 或另行取得数据。

  • 文章作者为 LayerLens 营销负责人,平台存在产品关联;证据高于观点但仍需第三方复核。

  • “2M context”与 Google API 模型页采集到的 1,048,576 输入 token 不一致,应以目标 endpoint 的实时规格为准。

复现步骤

  1. 固定模型 snapshot、API endpoint、thinking level、temperature 和 max output。

  2. 使用同版本 ARC AGI 2、IF-Evals、BFCL v3、LiveCodeBench、SWE Bench Lite、BIRD-CRITIC;记录每个样本的输入、输出、工具调用和失败原因。

  3. 报告六项分数和置信区间,不用平均数掩盖 92.3%/32.5% 的任务差异。

  4. 与 Google 77.1% 基线并列展示,并在报告中解释数据集/harness 差异。

能支持的判断

  • 支持按抽象推理、软件工程、SQL 和函数调用拆分路由

不能支持的判断

  • 支持按抽象推理、软件工程、SQL 和函数调用拆分路由;不支持把六项结果视为 API 当前快照或通用排名。

方法、局限和复现

本文中的数字、任务集、推理档位和客户端条件只在所列来源及采集时点内成立。不同版本、不同 harness 或不同提供商的数据不能直接并排比较;未公开的参数保持未知。

需要复测时,请固定模型版本、提供商或客户端、推理档位、工具、任务集版本、样本数和采集日期,并记录失败、重试与人工修正。完整方法和复现步骤见下方来源笔记。

原始来源

LayerLens / Stratix · Jake Meany(LayerLens) · 原文发布日期 2026-02-19 · 本站编辑日期 2026-09-20

打开原始来源

Gemini 3.1 Pro

在 Tabbit 中比较 Gemini 3.1 Pro

下载 Tabbit 客户端后检查模型可用性

相关评测

Artificial Analysis 对 Gemini 3.1 Pro Preview 的 182 模型综合基准与端到端延迟实测Artificial Analysis 在第一方 API 上比较 182 个同价位模型,给 Gemini 3.1 Pro Preview 48 的 Intelligence Index、121.4 t/s 和 32.45 秒 TTFT,呈现高吞吐但高前置延迟。MindStudio 对 GPT-5.4、Claude Opus 4.6 与 Gemini 3.1 Pro 的三旗舰全任务实测MindStudio 用 HumanEval、SWE-bench、MATH、GPQA、MMLU Pro 及定制长文档任务比较三款旗舰;Gemini 的长上下文优势不能外推到所有代码修复。Gemini 3.1 Pro 官方发布:ARC-AGI-2 与产品定位基线Google 发布页以 2026-02-19 的 Gemini 3.1 Pro preview 和 ARC-AGI-2 verified 77.1% 作为产品基线,但没有公开完整 ARC harness。Google AI 开发者论坛:4000 词复杂系统提示词下 Gemini 3.1 Pro 的指令遵循实测一名 Antigravity Ultra 用户报告:约 4,000 词、含多阶段流程与负向约束的工程指令下,Gemini 3.1 Pro High 会跳过规划、缩短输出、长会话漂移或越权重构。Gemini 3.1 Pro 的简洁指令与长上下文定位提示Google 的 Gemini 3 指南建议保持直接简洁,并把长上下文中的具体问题放在资料末尾,用短语锚定回答范围。Gemini 3.1 Pro 的思考级别、结构化输出与工具配置Google 的官方文档将 thinking_level、默认 temperature、工具调用和 JSON schema 放在同一配置检查中,并区分 customtools 端点。Claude 主导规划、Gemini 隔离执行的 Spec 驱动编程工作流开发者论坛案例让 Claude 负责规格拆解与审计、Gemini 3.1 Pro 在新会话中隔离执行,再回到审计环节核对改动。Gemini 3.1 Pro 开源项目架构对齐与多模型结对编程工作流该 Antigravity 社区案例把成熟开源项目的架构资料注入 Gemini 3.1 Pro,再用第二模型做交叉评审和架构对齐。