Tabbit
活动资源博客模型
Tabbit LogoTabbit

Tabbit — 为你工作的 AI 浏览器

主题资源

  • AI Browser Resources
  • Agentic Browser Resources
  • Browser Downloads and Install Guides
  • Browser Comparisons
  • AI Browser Alternatives
  • Browser Productivity Resources

热门指南

  • AI Browser
  • Agentic Browser Download
  • Best AI Browser 2026: Top 9 Tested & Ranked
  • AI Browser Download
  • Free AI Browser
  • Best AI Browser 2026
  • AI Browser Comparison 2026
  • AI Browser for Windows
  • AI Browser for Mac
  • Chrome Alternative 2026

活动

  • 别装了,你在《牛来》里早有原型
  • Tabbit 妙招大赛
  • KPOP SBTI 饭圈人格测试
  • Tabbit 校园共创者计划
  • fifi 的论文文献妙招精选
  • 用户问卷

关于

  • Tabbit 博客
  • 媒体报道
测评
媒体Gemini 3.1 Pro

LayerLens Stratix 对 Gemini 3.1 Pro Preview 的六类基准实测

原始来源

LayerLens / Stratix

作者Jake Meany(LayerLens)

原文日期2026-02-19

Tabbit 整理2026-08-19

查看原文

一句话结论

LayerLens 在 Stratix 的 14,549 个测试用例上测得 Gemini 3.1 Pro Preview 从 ARC-AGI-2 92.3% 到 BIRD-CRITIC 32.5% 的大幅任务差异,说明它更适合抽象推理,SQL 与仓库级工程需要路由或补充工具。

测试环境

  • 平台:LayerLens Stratix。

  • 样本:14,549 个测试用例。

  • 类别/基准:ARC AGI 2、LiveCodeBench、SWE Bench Lite、IF-Evals、BIRD-CRITIC、BFCL v3,覆盖抽象推理、代码、软件工程、指令遵循、SQL、函数调用。

  • 配置:文章称使用 standardized benchmark configurations、consistent parameters;未公开每个 benchmark 的完整 prompt、temperature、重复次数和置信区间。

输入/配置

文章报告的是 2026-02-19 的 Gemini 3.1 Pro Preview 评测,未说明是否与公开 API gemini-3.1-pro-preview 的具体 snapshot 完全一致。测试按六个标准 benchmark 分发,结果来自自动化评估而非精选 demo。

结果数据

基准得分观察
ARC AGI 292.3%最强,抽象模式与多步推理
IF-Evals78.4%多条指令总体较好,冲突约束会失败
BFCL v371.2%函数调用高于平均,但复杂多工具链不稳定
LiveCodeBench61.0%标准代码题尚可,长/多文件任务下降
SWE Bench Lite48.7%仓库级工程中等,跨文件依赖困难
BIRD-CRITIC32.5%SQL/数据推理弱,多表 join、子查询和 schema 推断易错

结论

该实测支持按任务路由:抽象推理和结构化指令优先试 Gemini 3.1 Pro;SQL、仓库级代码和复杂多工具链必须配合 schema/测试/工具校验,或评估其他模型。

局限

  • ARC-AGI-2 92.3% 与 Google 发布的 verified 77.1% 不一致,可能来自数据集、harness、解码或版本差异;不能直接比较排名。

  • LayerLens 没有在文章中公开完整原始输入、运行日志、种子、费用和逐题结果下载,复现需要 Stratix 或另行取得数据。

  • 文章作者为 LayerLens 营销负责人,平台存在产品关联;证据高于观点但仍需第三方复核。

  • “2M context”与 Google API 模型页采集到的 1,048,576 输入 token 不一致,应以目标 endpoint 的实时规格为准。

复现步骤

  1. 固定模型 snapshot、API endpoint、thinking level、temperature 和 max output。

  2. 使用同版本 ARC AGI 2、IF-Evals、BFCL v3、LiveCodeBench、SWE Bench Lite、BIRD-CRITIC;记录每个样本的输入、输出、工具调用和失败原因。

  3. 报告六项分数和置信区间,不用平均数掩盖 92.3%/32.5% 的任务差异。

  4. 与 Google 77.1% 基线并列展示,并在报告中解释数据集/harness 差异。

Tabbit 小编提醒

本文是第三方资料导航。测试环境、模型版本和主观体验可能不同,请以原文为准。

Gemini 3.1 Pro

在 Tabbit 中使用并对比模型

Gemini 3.1 Pro

相关测评

官方Google Blog / Gemini models2026-02-19

Gemini 3.1 Pro 官方发布:ARC-AGI-2 与产品定位基线

官方Google AI Developers Forum2026-04-07

Google AI 开发者论坛:4000 词复杂系统提示词下 Gemini 3.1 Pro 的指令遵循实测

媒体Artificial Analysis2026-02-19

Artificial Analysis 对 Gemini 3.1 Pro Preview 的 182 模型综合基准与端到端延迟实测

媒体MindStudio Blog2026-03-15

MindStudio 对 GPT-5.4、Claude Opus 4.6 与 Gemini 3.1 Pro 的三旗舰全任务实测

Gemini 3.1 Pro

相关提示词

官方Google AI for Developers / Gemini 3 Developer Guide2026-08-04

Gemini 3.1 Pro 的简洁指令与长上下文定位提示

官方Google AI for Developers / Gemini 3 Developer Guide 与 Gemini 3.1 Pro Preview 模型页2026-02

Gemini 3.1 Pro 的思考级别、结构化输出与工具配置

官方Google AI Developers Forum2026-04-07

Claude 主导规划、Gemini 隔离执行的 Spec 驱动编程工作流

社区GitHub / asgeirtj/systempromptsleaks2026-05-18

Gemini 3.1 Pro Web 端官方系统提示词与交互组件规范