Fable 5 在 KernelBench-Mega 上编写 CUDA 大内核：2.5 小时实现 18.7 倍加速

引言

据报道，Fable 5 编写了首个提交至 KernelBench-Mega 的真正 CUDA 大内核（megakernel），由此成为新一轮 AI 工程讨论的焦点。结果令人瞩目：在 RTX PRO 6000 Blackwell 平台上，通过一次约 2.5 小时的自主会话，实现了 18.71 倍的解码加速。

头条新闻不仅在于 AI 系统编写了快速的低层级代码。更重要的在于解决方案的形态。Fable 5 没有将多个较小的 GPU 内核拼接在一起，而是将解码工作流融合为每个 token 的单个协作内核启动。正是这一点引起了研究人员和工程师的关注。

本文保留原文结构和技术含义，但以更清晰的英文重写内容以便发布。文章解释了 KernelBench-Mega 测试什么、为何这一结果意义重大、大内核与普通 GPU 内核生成有何不同，以及为何一些研究人员将其与递归自我改进的概念联系起来。

Fable 5 达到 18.7 倍，超越 GPT-5.5

该基准测试结果来自 KernelBench-Mega，这是一个专注于全块大内核生成而非孤立算子优化的基准测试。在此次运行中，Fable 5 针对 02_kimi_linear_decode 进行了优化，这是一项使用 4 位权重和 bf16 激活值的 Kimi-Linear W4A16 混合精度解码任务。

报告的设置非常严格：一次自主会话、3 小时的实际时间上限，以及一个真实的基准测试框架。在此限制内，Fable 5 相比优化后的 PyTorch 参考实现实现了 18.71 倍的解码加速。

对比结果使这一成果更易理解：

模型	报告加速比	备注
Fable 5	18.71x	CUDA 大内核，单一融合启动路径
Claude Opus 4.8	14.40x	结果强劲，但不属于同一单一 CUDA 大内核模式
GPT-5.5	4.34x	在该任务上加速比低得多
Claude Sonnet 5	4.03x	在该排行榜上与 GPT-5.5 处于相似范围

oss-cn-beijing.aliyuncs.com/cms-assets/image/2026/07/ce6c9cad-7360-4ac5-854b-279a01ab49ee-04-4d685459-6d03-4b22-840d-4e6787d38b10.png)

上下文长度的分解也很重要。根据显示的排行榜，Fable 5 在上下文变长时依然表现强劲:

• 2K 上下文: 约 17.8 倍
• 8K 上下文: 约 18.9 倍
• 16K 上下文: 约 19.5 倍

这起初有些反直觉。更长的上下文通常会增加注意力和 KV 缓存处理的成本。许多系统在此处性能开始下降。Fable 5 的结果表明，融合设计足以减少启动开销，以至于当工作负载加重时，其相对优势变得更大。

为什么 KernelBench-Mega 比普通内核基准测试更难

KernelBench-Mega 不仅仅是要求模型优化一个小算子。它要求代理将一个更大的模型块融合成一个整体块的超级内核。这很重要，因为难点不再仅仅是编写语法正确的 CUDA 或 Triton 代码。难点在于在一个高效的执行路径中管理许多相互作用的计算阶段。

02_kimi_linear_decode 任务包含 Kimi-Linear W4A16 的混合解码工作负载。实际上，模型必须处理量化权重、bf16 激活、注意力相关状态、路由、归一化和缓存行为。

这就是为什么该基准测试是对 AI 生成的底层性能代码有意义的压力测试。在小型孤立操作上实现简单的加速是有用的，但一个完整的块级超级内核更接近于能够影响实际推理系统的优化工作。

第一个真正的“超级内核”

最重要的技术声明是，Fable 5 产生了 KernelBench-Mega 历史上第一个真正的超级内核。

一个超级内核将更大的推理路径压缩到一个内核中。它不是启动几个独立的内核并来回移动控制权，而是将工作保持在一个协调的执行流程内。这很困难，因为内核必须在保持正确性的同时协调多个阶段。

在这种情况下，报告称 torch.profiler 显示每个解码的 token 恰好启动了一个协作内核。该单次启动处理了通常会被分解成多个阶段的工作，包括:

• int4 反量化
• 卷积
• SiLU 激活
• KDA 门控增量状态
• MLA 潜在注意力处理
• MoE 路由和 top-8 专家选择
• RMSNorm 相关操作
• KV 缓存写入

![图片是一条推文，内容为Fable是首个生成真正GPU超级内核（megakernel）的模型，其执行速度比参考实现快18.7倍。推文引用Fable创始人Fabien Mikol的话，称“巨型内核（Megakernels）是GPU编程中最难实现的产物之一——全世界只有极少数人能编写它们。”图片下方有“Rate this translation”（给这个翻译打分）的选项，还展示了RTX 4090显卡在不同模型下的运行数据，其中Fable的运行速度为10.71x。该图片与上下文紧密相关，直观呈现了Fable在GPU超级内核方面的优势。](https://we0-cms.oss-cn-beijing.aliyuncs.

com/cms-assets/image/2026/07/0284bb32-eef6-4fc5-93a4-b8b21ae807ea-06-8afeece2-a6c6-493a-ba7e-b089780ec8a1.png)

据报道，其他高分方案将工作拆分为4到14次独立的内核启动。而Fable 5将时间关键路径压缩为一次融合协作启动。这正是“快速生成的内核代码”与更激进的GPU编程产物之间的区别。

单次内核启动如何改变性能表现

内核启动并非零成本。每次启动都有开销、同步成本和调度间隙。在解码任务中，这些成本尤为棘手，因为工作需要逐个token重复执行。

Fable 5的方法将解码步骤整合到一条协作路径中，减少了重复开销。原始报告描述该方案通过14个网格屏障在同一启动内分阶段完成计算。

因此，结果不仅关乎巧妙的数学设计，更涉及系统级GPU执行。当其他方案反复退出和重新进入内核时，它们在交接过程中浪费时间。Fable 5通过保持流水线融合，避免了大部分此类成本。

简而言之：其他方案需要多次往返；Fable 5尝试一次性完成。

2.5小时与约55万token

运行过程的另一个显著特点是模型如何分配时间。它并未立即开始输出最终的CUDA代码。追踪信息显示，其工作流程更为审慎。

在大部分会话时间里，Fable 5对基线进行基准测试，评估网格屏障成本，并推理内存带宽。文章描述称，在主实现落地之前，约64%的会话时间用于测量和设计。

初始版本编写完成后，据报道首次基准测试性能达到约14.4倍。随后Fable 5利用剩余时间移除屏障、优化int4反量化、测试更改，并在测量显示效果更差时回滚了一次负面优化。

整个运行耗时约2.5小时，使用了约55万输出token。关键细节不仅在于规模，更在于行为模式：基准测试、构建、测量、必要时回滚，并基于数据而非信心进行优化。

原始资料还指出，Fable 5被描述为Anthropic内部Mythos模型的较安全或削弱版本。这一表述应视为原始叙述的一部分，而非公开产品公告。

“AI自我改进循环已启动”

更广泛的讨论源于Jack Clark的《Import AI》通讯。在该通讯中

杰克·克拉克将GPU内核的成果解读为：AI系统正不断提升自动化AI研发部分环节的能力。

逻辑推导如下：

1. 更优的AI系统能编写更优的低级内核。
2. 更优的内核能让训练和推理更快或更便宜。
3. 更快、更便宜的AI系统有助于构建下一代系统。
4. 下一代系统在编写内核方面可能变得更加出色。

这就是此次讨论中出现“递归自我改进”一词的原因。这并非意味着一个完全自主的失控循环已经发生，而是指这个循环中的一个环节——AI正在改进构建AI所需的底层基础设施——正变得更加可见和可衡量。

从内核编写到远程劳动力

原文章还将这一内核成果与更广泛的自动化基准联系起来。Import AI 讨论了远程劳动力指数，该指数用于评估AI代理在经济上有用的在线项目上的表现。

重点不在于CUDA内核编写和自由职业任务自动化是同一回事。它们不同。但两者都指向同一个方向：前沿AI系统在需要规划、工具使用、验证和迭代的更长、更结构化的任务上正不断进步。

源文章中的一条评论精准地捕捉到了这种担忧：一旦模型能够编写加速自身运行的内核，这个工具就不仅仅是帮助用户了，它同时也在改进自身基底的部分。

这正是验证变得至关重要的地方。一个看起来正确的内核未必更快。一个看起来更快的内核可能包含微妙的正确性问题。在处理低层GPU工作时，审查循环必须保持严格。

快速进步，实则谨慎

这个故事具有两面性。一方面，这一成果令人兴奋。AI系统现在能够产生曾经仅限于少数专家级GPU程序员的低层性能成果。

![图片展示的是一个名为“Pristine-Today-9177”的用户在9小时前发布的评论。评论内容为英文，感叹这是一个重要的专家级瓶颈，如今已被以超人类水平自动化，感叹生在这个时代真是太棒了。下方还有其中文翻译。该图片位于文档中“Fast Progress, Real Caution”部分，是对上文提到的AI系统生成低级性能代码这一现象的评论，体现了对这一技术进步的惊叹与感慨。](https://we0-cms.oss-cn-beijing.aliyuncs.

在另一边，这正是需要谨慎关注的能力。同一期简报设想了这样一个未来：通用计算变得如此强大而危险，以至于人们试图限制它。那个虚构的结局并非预言，但它反映了人们对加速发展的技术系统的不安。

在最初KernelBench工作展示AI生成内核有多困难一年多后，这一结果表明了一次重大飞跃。Fable 5不仅生成了一个可用的内核。它在一次有限的会话中生成了一个融合的megakernel路径，达到了困难基准的顶端。

对于AI基础设施而言，这是一个严肃的信号。

来源注释

• 原始来源：BAAI Hub文章
• 原始文章引用了来自Import AI 464、KernelBench-Mega、Elliot Arledge的X帖子以及Reddit讨论的报道和讨论。
• 原始文章包含几个品牌分隔线、装饰性标志、互动图形以及一张人物照片。这些被有意排除，因为它们对于技术阅读流程并非必要。
• 源文件中没有独立的代码块。行内的技术标识符如02_kimi_linear_decode和torch.profiler被保留。

常见问题

KernelBench-Mega是什么？

KernelBench-Mega是一个专注于整块megakernel生成的基准测试。它不要求模型优化单个孤立的算子，而是要求模型将一个更大的工作负载融合成一个高效的内核路径，然后测量实际性能。

Fable 5在KernelBench-Mega上取得了什么成就？

据报道，Fable 5在02_kimi_linear_decode任务上实现了相对于优化过的PyTorch参考实现18.71倍的解码加速。这一结果是在一个3小时上限的单次自主会话中产生的。

为什么CUDA megakernel难写？

一个megakernel必须在一个内核启动内协调多个计算阶段。这意味着实现必须管理数据移动、同步、数值正确性、内存带宽和执行顺序，同时避免将工作拆分成更安全的小内核。

为什么单次内核启动很重要？

每次GPU内核启动都有开销。在逐token解码中，重复启动会迅速累积。一次融合启动可以减少同步和调度开销，这就是为什么

Fable 5 的方法在技术上具有实际意义。

这是递归自我改进的证据吗？

这并不是完整自主自我改进循环的证据。更准确的理解是，这是一个具体信号，表明AI系统开始能自动化一些可改善AI基础设施的任务，例如内核设计与推理优化。

这种AI生成的CUDA代码能否用于生产环境？

不能直接使用，需要经过严格审查。性能代码必须通过严格的正确性检查、性能分析、回归测试以及硬件特定验证。快速的基准测试结果看起来不错，但生产环境部署需要更多验证。

有哪些工具有助于研究这一成果？

KernelBench-Mega 提供排行榜和运行制品。PyTorch Profiler、CUDA工具、Hugging Face 追踪数据集以及 GPU 性能分析工具，可用于理解生成内核的行为特性。

相关工具

• KernelBench-Mega：整块元内核结果及运行制品的基准测试页面。
• KernelBench GitHub 仓库：用于评估大语言模型生成 GPU 内核的原始基准测试框架。
• NVIDIA CUDA 工具包：编写、编译和分析 CUDA 应用的核心工具包。
• PyTorch Profiler：用于检查 PyTorch 工作负载中执行时间、内核启动和运行时行为的性能分析工具。
• Hugging Face 数据集：托管数据集和基准测试追踪的平台，包含 KernelBench 运行制品。
• Triton：一种用于编写自定义 GPU 内核的语言和编译器，常用于 AI 性能工程。

相关链接

• KernelBench-Mega 排行榜：元内核基准测试的官方排行榜及说明。
• KernelBench 结果中心：公开基准测试结果、记录查看器和数据集。
• Import AI 464：Jack Clark 的通讯文章，探讨 Fable、GPU 内核、AI 自动化和模拟计算。
• Fable 5 KernelBench-Mega 追踪记录：原文引用的运行追踪记录。
• arXiv 上的 KernelBench 论文：介绍 KernelBench 作为大语言模型生成 GPU 内核基准测试的研究论文。
• ScalingIntelligence KernelBench 仓库：原始 KernelBench 项目的源代码和评估工具。
• Reddit 讨论：来源文章引用的社区讨论。

总结

本文解释了为什么 Fable 5 在 KernelBench-Mega 上的成果并非又一个单纯的基准测试胜利。关键在于

单次启动的CUDA兆内核：一种融合路径，能以远低于多内核方案的启动开销处理复杂的解码工作负载。

这一结果之所以重要，还在于它表明AI系统在支持自身发展的性能工程任务上正变得更为出色。更快的内核可提升推理与训练效率，由此形成值得关注的反馈循环。

与此同时，不应默认将AI生成的底层代码视为可直接投产的成品。正确性验证、性能剖析、硬件行为分析及回归测试依然至关重要。

真正值得关注的是：《神鬼寓言5》的兆内核释放出强烈信号——AI辅助GPU性能工程正从演示阶段迈入严肃的基础设施建设。