AREX Feed Article
xAI 的 Grok 4.7 上线 Amazon Bedrock:500K token 上下文、四档 reasoning effort 与跨区域推理配置
9 月 28 日,AWS 在官方机器学习博客中宣布,xAI 的 Grok 4.7 已在 Amazon Bedrock 上线()。这个面向 coding、长时间运行的 agent 与知识工作的模型提供 500K token 上下文窗口,reasoning effort(推理强度)分为 low、medium、high、xhigh 四档;调用时不能直接写模型 ID,必须指定跨区域推理档(inference profile):面向美国地理范围的 us.xai.grok-4.7,或路由到全球的 global.xai.grok-4.7。
Grok 4.7 由 xAI 在 9 月 21 日发布()。AWS 这次带来的是平台可用性,以及围绕它的 Bedrock 配置:Responses、Chat Completions、Converse 与 InvokeModel 四条调用路径,加上隐式提示缓存、Guardrails、结构化输出与 CloudWatch 调用日志。
推理档 ID 与 SDK 接入方式
在 Bedrock 上,Grok 4.7 通过 bedrock-runtime 端点提供服务,接受文本与图像输入、返回文本,并支持 tool calling。因为模型兼容 OpenAI 接口,客户端有两条路:OpenAI SDK 请求 /openai/v1 路径(Responses 与 Chat Completions 走这里),用 bearer token(访问令牌)认证,令牌可以是 Amazon Bedrock API key,也可以是用 IAM 凭证换来的短期 token;AWS SDK 则通过 Converse 访问同一个模型,用常规 AWS 凭证做 SigV4 签名。两个推理档的基址相同,形如 https://bedrock-runtime.{region}.amazonaws.com/openai/v1。
AWS 给出的选择依据是:要移植已有的 OpenAI 集成,用 OpenAI SDK;想在账号内多个模型之间保持同一种消息格式,并拿到调用日志和标准 Bedrock 事件类型的流式响应,用 Converse。
默认 high:effort 档位与加密的推理内容
reasoning 在 Grok 4.7 上始终开启,effort 档位是调用方控制成本与延迟的主要手段。在 Responses API 上用 reasoning 参数指定 low、medium、high 或 xhigh,在 Converse 上则通过 additionalModelRequestFields 传入。默认档位是 high:AWS 建议显式设置,因为延迟敏感或高频的调用照搬默认值,会花掉这些调用并不需要的推理 token。
按 AWS 的场景建议,短小的提取与分类调用归 low;多步规划、长 agent 轨迹、以及早期错误会向后传播的任务,才轮到 high 与 xhigh。原因与训练方式有关:模型被训练得更能长时间工作并自我验证,因此更高的 effort 直接换来长任务里更多的自查。
推理内容本身是加密的。在 Responses API 请求里传 include: ["reasoning.encrypted_content"] 可以取回,再在后续轮次发回,把模型自己的推理作为上下文延续;Chat Completions 不返回推理 token。Converse 上还有一个容易踩的细节:推理始终存在,第一个 content block 装的是推理而非答案,取文本要遍历 blocks,不能直接读 content[0]。
独立评测:Intelligence Index 46、Coding Agent Index 56,以及翻倍的 token 用量
AWS 博客还引用了独立评测机构 Artificial Analysis(简称 AA)的结果()。Grok 4.7 的 Intelligence Index 为 46,比 Grok 4.6 高 2 分;Coding Agent Index 为 56,作为对照的 Grok 4.6(xhigh)为 47。这组评测在 xhigh 档完成;编程一项由 xAI 自家的 Grok Build 跑出,在 AA 按各家原生 harness 统计的排名里排第 4,前面是 Claude Fable 5.1、GPT-6 Astra 与 Claude Opus 5。三个子项都有提升:DeepSWE v1.1 从 65% 升到 73%,Terminal-Bench 4.0 从 18% 升到 33%,SWE-Atlas-QnA 从 58% 升到 63%。
其它分项里,长时知识工作的 AA-Briefcase 给到 1,657 Elo,比 Grok 4.6(high)高 111 分;产出文档、表格、幻灯片的 GDPval-AA 为 1,695 Elo,高 90 分。AA-Omniscience 的幻觉率从 34% 降到 29%,准确率基本持平(47% 对 48%),综合指数从 30 升到 32。AA 也列出了退步项:AA-LCR 下降 3.7 个百分点,AutomationBench-AA 下降 1.1 个百分点。
AA 的评测同时量化了代价:Grok 4.7(xhigh)平均每个 Intelligence Index 任务输出约 81k token;作为对照,Grok 4.6 在 high 与 xhigh 档分别约 36k 与 38k,GPT-6 Astra(max)约 27k。AA 称 Grok 4.7 的用量比 Grok 4.6(high)多 125%、比 GPT-6 Astra(max)多 196%。该机构另测得长提示下输出速度约每秒 188 token,平均每个任务耗时约 7.1 分钟。
Global 还是 US:路由、服务层级与数据驻留的取舍
两个档位的取舍不同:Global 档把请求路由到任何受支持的商业 AWS Region,能分摊负载,且定价低于地理档,代价是请求落点不受控、延迟波动可能更大;US 地理档把处理限制在美国境内,对应美国的数据驻留要求。有驻留约束或对延迟敏感就选 US,成本与吞吐优先就选 Global。
服务层级是另一根成本杠杆:default 按 token 付费、没有最低承诺;priority 用溢价换更快的优先级处理;flex 面向不赶时间的任务,价格更低。三档通过请求里的 service_tier 字段选择。
平台侧还有几项现成能力可以直接用:隐式提示缓存对重复的提示词前缀自动生效,每轮都重发大段系统提示或参考文档的 agent 因此按缓存价为该前缀计费;Guardrails 按 ID 与版本挂到请求上,对输入和输出同时施加内容过滤、拒绝话题、PII(个人身份信息)脱敏与词表策略;结构化输出把回答约束到 JSON Schema,下游代码可以直接解析;调用日志把请求、响应与 token 计数(含推理 token)写入 CloudWatch,为长时间无人值守的 agent 留下审计线索。
上线前一周:更大基座、更长的强化学习与 xAI 的安全声明
xAI 在发布公告中称,Grok 4.7 是其在 coding 与知识工作上能力最强的模型,使用了比 4.6 更大的新基座;强化学习过程更长、任务组合更难,并刻意向需要数小时才能完成的问题加权。由此得到两点改进:模型更擅长验证自己的工作,也更能用满 500K token 上下文。xAI 还专门训练它原生理解 Grok Bot harness,并称这提升了对话任务与通用知识工作的表现。Artificial Analysis 的评测记录显示,500K 上下文窗口与 Grok 4.6 相同。
发布时,Grok 4.7 已可在 Cursor 和 Grok Build 中使用,并通过 Grok API、第三方 coding harness、模型路由与云平台提供。xAI 给出的起价是每百万输入 token 2 美元、每百万输出 token 6 美元,另有一个输出速度翻倍、价格也翻倍的 fast 变体。
安全方面,xAI 称 4.7 采用全新的防护栈,是该公司测试过拒答与抗越狱表现最强的模型;在网络安全等双用途领域,它称自家基准 HackerBench v0.3 上只有 3.3% 的高风险双用途提示被放行,同时很少拦截正当的安全工作,并已开始向部分网络安全合作伙伴发放红队能力的邀请制访问。上述安全数字来自 xAI 方面,AWS 博客转述时标注为 xAI 的说法。
发第一个请求前:权限、凭证与仍待确认的价格
权限配置里有一个容易出错的细节。bedrock:InvokeModel 会针对三个资源分别评估:账号的默认 project、请求命名的推理档、以及底层的 foundation model。底层模型的 ARN 跨 Region 使用了通配符,因为跨区域档会把请求路由到调用 Region 之外。用 bearer token 认证还需要 bedrock:CallWithBearerToken 权限,走 boto3 与 Converse 则不需要。推理档也是逐个授权的:策略里写了 us.xai.grok-4.7,并不覆盖 global.xai.grok-4.7。
凭证上,AWS 把长期 Bedrock API key 定位为探索用途;生产环境应改用由 IAM 凭证生成、会自动过期的短期 bearer token(aws-bedrock-token-generator 包)。用于探索的长期 key 用完要在控制台删除。
发第一个请求前,AWS 建议先确认目标 Region 的 Bedrock 控制台里能看到这个模型,并对着自己的工作负载为 effort 档位做基准测试;至于 Bedrock 上的逐 token 费率,博文将读者引向 Amazon Bedrock 定价页()。