
18.7倍加速,正在重新定义"手工极致调优"
一次启动,十四道网格同步栅障
KernelBench-Mega并非普通跑分榜,它的考核硬指标是:把模型整套推理链路压进一个内核,完成深度算子融合。本轮测试用例为02_kimi-linear_decode,面向Kimi W4A16量化模型的混合解码任务;规则也很"紧"——每模型仅一轮自主调优机会,时长上限3小时。
在RTX PRO 6000 Blackwell上,Fable 5跑出18.71倍加速;Claude Opus 4.8为14.4倍,GPT-5.5仅4.34倍,断层拉开。
但真正值得琢磨的,不是这个数字本身。
通过torch.profiler性能剖析能看到一处关键细节:每解码一个token,Fable 5的内核只启动一次。INT4解量化、卷积、SiLU激活、KDA门控增量状态、融合隐变量注意力的MLA、8专家路由MoE、多层RMSNorm、KV缓存写入……全部运算塞进这一次内核启动,靠14道网格同步栅障分阶段串行。
其余高分模型,普遍要把流程拆成4至14次独立内核启停。内核每重启一次,GPU就要中断、切上下文、排空流水线——积少成多,正是巨核难写也最值钱的地方。
Fable 5一次性包圆,省下的全是实打实的损耗。
更反直觉的是——上下文越长,它跑得越快:2K下17.8倍,8K升至18.9倍,16K直接拉到19.5倍。KV扩容和注意力膨胀本是解码端两大瓶颈,但它靠"单次启动"把栅障同步压到极低,再借INT4把显存带宽吃满。别的模型上下文一拉长就疲软,它反而越跑越松快。
这也是KernelBench-Mega榜单史上第一款真正意义上的"巨核"(megakernel)。巨核开发是GPU编程里难度最高的活儿之一,此前没有任何模型能完整实现。
六成时间,耗在"不动笔"上
最让笔者在意的,不是它交出的代码,而是开工前的那一套。
Fable 5并不是上来就写CUDA。整段两个半小时的调优周期,约64%的时间用在静默测算:采基准耗时、跑微基准摸网格栅障开销、反推出硬件屋顶线——约每token 29字节吞吐。先摸清这块卡的物理极限,再动笔。
随后它一次性写出完整内核,首轮14.4倍。最后一小时它在做什么?砍冗余栅障,把INT4反量化压到近乎零成本——一条LOP3配HSUB2/HMUL2搞定。中间试过更细的Split-K分片,验证效果一般后,不啰嗦、不硬凹、直接回滚。
这套工作流,几乎对标资深GPU工程师:先测量、再验证、落地、迭代。区别只在于——人要做几周的事,它两个半小时收工。
递归自迭代:新起点,还是工具进化的必然?
Anthropic联合创始人Jack Clark在Import AI里给了一句判断:这标志着递归自我迭代(RSI)循环正式开启。
RSI的逻辑不复杂:AI去优化"AI自己迭代所依赖的工具"。而GPU内核优化,恰恰是AI研发最底层的那块基石——AI写内核越强,模型研发效率越高,反过来又能养出更会写内核的AI。一旦闭环转起来,迭代斜率是指数的。
冷水也有。Fable 5能跑通,离不开CUDA 13.3的分块编程框架把线程块调度这类脏活交给编译器;且它本身就是Mythos的"安全阉割版",非满血原生,受安全约束束着,真实上限未必已露全貌。
更现实的顾虑是——AI产出的这类"黑盒底层代码",人还读得懂吗? 18.7倍是实打实的,可工业环境里若无人敢改、无人能维护,这份性能红利能续多久,仍是问号。
尾声:当"手工极致调优"被重新定义
18.7倍迟早会被下一个提交刷掉。真正值得记下的,是Fable 5透出的那点工程味儿:先测算、后动手,不盲目堆算力。 AI早已不止"生成代码",它开始学着从硬件屋顶线那一层思考问题。
递归自迭代的时代真来了吗?或许。但更紧迫的提问其实是——
当AI能在两个半小时内,干完人类工程师两周的超级内核活,"手工极致调优"这四个字,还归谁定义?
视角延伸|RSI斜率起来之后,接入侧先别慌
Fable 5这类进展之所以值得产业侧多望一眼,不只因为它跑出了18.7倍,更因为它暗示了一件事:接下来一年,Gemini、Claude、ChatGPT、DeepSeek这些头部模型的迭代斜率,会比过去更陡。无论是做AI编程助手、语音全双工应用,还是图生图工作流,背后都绕不开一个问题——怎么稳定、低成本地接住这些模型。
不少团队近期把接入层从中转包换成了更干净的直连通道。UseAIAPI目前聚合了Gemini、Claude、ChatGPT、DeepSeek等全球主流新模型,也支持企业级定制接入,对高强度内容生成、批量推理这类"烧token不手软"的场景比较友好——较官方定价最高可享五折优惠,账面能对掉一波RSI带来的调用量暴涨。
技术迭代的斜率一旦起来,先保证"接得住",再谈"用得好"。模型侧的事,让Fable 5们去卷;接入侧的事,选条省心的路就行。