详情

智东西

作家 | 程茜

裁剪 | 云鹏

智东西7月22日报谈，昨日，阿里千问最新发布的Qwen3.8预览版模子在英伟达评估AI进行算子优化的榜单上登顶，排行杰出腾讯混元、东谈主类修复者、Cursor。

榜单中SOL得分指的是GPU的峰值算力与HBM带宽共同决定的表面性能极限。模子这一分数越接近1，代表其生成和优化GPU算子智商越接近表面极限，不错在无需东谈主类标注的情况下，通过与确切硬件环境的交互，自主产生捕快信号、评估自身输出质料并捏续校正算子。

这一榜单中排行第二的是腾讯混元Hyra、排行第四的是东谈主类修复者Amir M. Mir、排行第六的是好意思国AI创企doubleAI的全自动GPU内核生成智能体系统、排行第十的是AI编程独角兽Cursor，其他名目暂未找到公开打榜记载。

SOL-ExecBench榜单是本年3月，英伟达推出的GPU CUDA Kernel内核优化基准评测套件，面向Blackwell B200架构专诚用来评测AI智能体、编译器、自动内核生成器具写出的GPU算子性能。Qwen3.8登顶的FlashInfer-Bench子集，即是专诚用于测试和优化大说话模子推理系统中的GPU算子。

7月19日，阿里千问大模子团队晓喻将很快发布并开源Qwen3.8。该模子参数2.4T，可能是除了Fable 5外最繁密的模子。昨晚，Qwen3.8-Max-Preview更新，前端（WebDev）发扬更好。

一、从124个模子中索要，共235项CUDA内核优化任务

跟着AI智能体生成与优化GPU内核的智商捏续增强，现存基准评测的一大局限知道，其只敬重相对软件基线的加快比，而非内核履行决策自身迫临硬件最优为止的程度。而在当代数据中心中，未能充分诓骗硬件的kernel意味着算力与动力的双重糜费。

基于此，英伟达提议了SOL-ExecBench基准套件。这一套件共有235项CUDA内核优化任务，索要自124个商用及前沿东谈主工智能模子，障翳大说话模子、扩散模子、计较机视觉、音频、视频以及夹杂架构，见解硬件为英伟达Blackwell系列GPU，涵盖BF16、FP8、NVFP4精度下的前向与反向计较负载。

与以往基于软件性能来进行评估范例比较，SOL-ExecBench的评估见解有所不同。其通过“Speed-of-Light（SOL）”界限来评估内核性能，即由GPU的峰值算力与HBM带宽共同决定的表面性能极限。

英伟达修复的SOLAR器具无意从FLOP数目、字节数、GPU峰值狡赖量以及带宽等方面，分析出这些基于硬件的SOL界限，然后将这些界限与事前界说的评分基准相长入，从而得出SOL评分。

具体来说，评分为0.5暗示与基准值尽头，评分为1.0暗示达到了硬件上的SOL界限。因此，这个评分不仅反应了相干于基准值的改程度度，还体现了与最大可杀青硬件性能比较所剩余的优化空间。

为保证评分为止的可靠性和可重叠性，SOL-ExecBench还包含一个沙盒评估器具。此外基于其修复的智能优化算法，不错在疏浚的评估合同下校正提供的PyTorch参考杀青，这种优化算法不错识别出那些试图阁下评估器的行为，即试图绕过评估机制以获取更快的运算为止。

这次Qwen3.8拿下等一的是FlashInfer-Bench子集，专诚用于测试和优化大说话模子推理系统中的GPU算子。

该子集包含26个开首于Llama-3.1-8B、Qwen3-30B-A3B、DeepSeek-V3/R1的问题。

该子集障翳的精度样式为BF16与FP8，每个问题提供7-48个动态体式的输入树立，障翳确切坐褥场景，典型任务包括交融注释力（Fused Attention）、FP8 MoE和RMSNorm等推理枢纽算子。

证据官方露出，该测试套件中整个提交内容均在确切NVIDIA B200 GPU上禁锢履行，GPU时钟锁定在1500 MHz以保证可复现性。

二、榜单排行靠前，意味模子具备闭环自我校正后劲

Kernel优化是少数几个不错提供明显、客不雅、可量化反馈信号确凿切工程任务之一：

反馈明确：初始时分、狡赖量、带宽诓骗率不错精准测量；范例客不雅：距离硬件表面极限还有多远，莫得歧义；迭代当然：每一轮优化王人不错动作下一轮的源流。

这意味着模子不错在无需东谈主类标注的情况下，通过与确切硬件环境的交互，自主产生捕快信号、评估自身输出质料并捏续校正。

在SOL-ExecBench FlashInfer-Bench子集上发扬靠前，就意味着模子鄙人面几项智商上具有上风：

长程因果推理：优化决策之间存在复杂依赖链，局部更正会影响全局性能，模子需要进步长高低文进行一致性推理。器具使用与环境交互中的政策谋略：实践寰球智能体任务濒临多轮器具调用，模子需要证据每次履行反馈动态转念政策，而非机械履行预设轮番。疏淡反馈下的探索智商：性能升迁时时不是线性的，模子需要在大宗“看似合理但骨子无效”的处所中识别信得过有价值的优化旅途。系统级抽象与具体杀青之间的双向翻译：从高层算法语义映射到底层硬件提示，再从硬件反馈反推优化处所，这种双向智商在科学计较、编译器缱绻、芯片缱绻等范围均有胜仗搬动价值。

这也意味着，能在SOL-ExecBench上捏续进化的模子，具备在客不雅物理不停下进行闭环自我校正的智商。

三、捕快侧搭建确切GPU环境，推理侧引入阿里智能体框架智东西从千问团队获悉，在捕快、推理方面，千问团队均针对Kernel Self-Evolving进行了优化。

当先在捕快侧，为了让模子信得过具备kernel优化智商，而非只是学习名义的代码方式，其构建了一套基于确切GPU环境的大范围强化学习体系。

1、商榷东谈主员搭建了基于沙盒确凿切GPU捕快环境：

为模子提供丰富的硬件文档与可交互的Workspace，使模子无意通过确切编译、履行与性能测量获取来自硬件的奖励信号，而非依赖代理见解或模拟器。这不错确保每一个捕快信号王人有确切的物理意象。

2、确切Kernel仓库动作捕快数据

商榷东谈主员系统性积贮了大范围确切的工程级kernel优化代码，以这些确切寰球的kernel动作捕快query。比较合成数据，确切反馈障翳了更平淡的优化方式、硬件适配政策与工程弃取，为模子提供了更接近坐褥场景的学习信号。

3、RL基础设施的针对性优化

Kernel优化任务的一个显耀特色是需要超长的器具调用序列，单次优化过程可能触及数十乃至数百轮的编译-履行-分析轮回。

为此，商榷东谈主员对强化学习捕快基础设施进行了专项优化，使其无意高效救援超长多轮器具调用的捕快，从而让模子信得过学会进步长序列的捏续优化政策。

在推理侧，商榷东谈主员使用阿里巴巴Atrex Kernel Agent框架来承载算子优化的竣工分析迭代历程与教养千里淀机制。

▲阿里巴巴Atrex Kernel Agent框架和责任流（图源：GitHub）

在SOL-ExecBench FlashInfer-Bench子集的评测中，该模子完成了平均29354轮器具调用的捏续迭代，在每一轮轮回中对kernel杀青进行编译、履行、性能分析与政策转念，将性能迟缓推向硬件表面极限。

这意味着，模子在数万轮的迭代过程中不错保捏处所一致性、捏续产出有用优化、不堕入局部动荡，恰是长程捏续优化智商分离于普通代码生成智商的中枢所在。

结语：从手写算子到AI生成、调优，Qwen3.8刷新自动化算子生成智商上限

Qwen3.8这次登顶，意味着其有智商承担底层算力优化的复杂工程任务，并进一步压缩东谈主工介入算子修复的责任关节，其能胜仗对接确切硬件环境积贮初始反馈，酿成从算子生成到性能调优的自动化闭环。

自动化GPU算子生成赛谈的永恒竞争欧洲杯体育，将来或取决于大模子说明硬件架构、推演访存瓶颈、自主迭代调参的玄虚智能水平。永远来看，陪同大模子智商升级，模子侧与编译层在算力优化方面将酿成捏续双向反馈，硬件规格、算子杀青、模子架构三者协同演进可能会成为常态。