近日，来自字节高出 Seed 团队和清华大学 AIR的新计议CUDA Agent，在 AI 领域激发了不小的触动。
计议东谈主员训练了一个不祥编写快速 CUDA 内核的模子：不仅仅正确的内核，而是信得过经过优化的内核。
在轻便/中等内核上，它的性能比 torch.compile高出 2 倍；在复杂内核上，它的性能比 torch.compile高出约 92%；即使在最难的征战下，它的性能也比 Claude Opus 4.5 和 Gemini 3 Pro高出约 40%
论文联接：https://arxiv.org/abs/2602.24286神气主页：https://cuda-agent.github.io/Github联接：https://github.com/BytedTsinghua-SIA/CUDA-Agent数据荟萃合：https://huggingface.co/datasets/BytedTsinghua-SIA/CUDA-Agent-Ops-6K
在此之前，GPT、Claude 等大模子也曾能写出「正确」的 CUDA 代码，AI 生成的代码也已获取了一定程度的哄骗，但能跑通和跑得快足够是两码事。
GPU 内核优化是当代深度学习的基础，但它仍然是一项高度专科化的职责，需要深厚的硬件常识。现存的 AI 生成 CUDA 代码频频依赖无训练的指示工程（Prompting）或多轮施行响应微调的机制。这导致模子只可贬责名义上的语法造作，无法信得过分解底层硬件逻辑，一定程度上限制了其内在的优化才略。
信得过极致的 CUDA 优化需要处理的任务，是唯一在性能分析器中能力看到的硬件级主义。东谈主们一直期待能出现一个像东谈主类 CUDA 巨匠相似念念考的 AI。
针对这一矛盾，CUDA Agent 的核热枕念轻便而玄妙：CUDA 性能并非取决于正确性，而是取决于硬件。线程束、内存带宽、内存冲突——这些唯一在性能分析器中能力看到的东西。
计议东谈主员不再奖励「是否编译告捷」，而是奖励实践的GPU速率。真是的性能分析数据。强化学习平直基于性能进行训练。
产生的后果出乎东谈主们的意想。
在 KernelBench 基准测试上，CUDA Agent 取得了 SOTA 的收获：在 Level-1、Level-2 和 Level-3 三个辨认上，比较 torch.compile 分别完毕了 100%、100% 和 92% 的加快比例（faster rate）。
CUDA Agent 与 torch.compile 和高大的突出模子在 KernelBench 上的对比。
简而言之，CUDA Agent是一个大鸿沟的智能体强化学习系统，包含三个中枢构成部分：可彭胀的数据合成机制、一个集成妙技增强且具备可靠考据与性能分析才略的 CUDA 开发环境，以及用于自若长潦倒文训练的强化学习算法技能。
此外，计议团队同期发布了CUDA-Agent-Ops-6K，一个经过严格筛选与数据稠浊限定的高质料合成训练数据集，可复古基于强化学习的 CUDA 内核优化计议的复现。
数据合成
计议团队通过一个三阶段的管线来构建训练任务：种子问题爬取、基于 LLM 的组合式合成，以及基于施行结果的筛选。
从 torch 和 transformers中挖掘种子算子。每个算子齐以一个 Python 类的样貌示意，包含驱动化和前向传播方法。在组合式合成阶段，最多采样 5 个 torch 算子，并将它们按法例组合，构形成会通任务。筛选阶段仅保留那些在 eager 方式和 compile 方式下齐能正常运行的任务，同期移除包含就地性的算子。为扫视「量体裁衣」，剔除在不同输入下输出为常数或无法区分的任务。在职责负载限定方面，将 eager 方式下的运行时间限制在 1ms–100ms 区间内，并移除与 KernelBench 高度相似的样本。
三阶段数据网罗管线
最终整理得到 6000 条训练样本，构建了 CUDA-Agent-Ops-6K 数据集，该数据集专为可彭胀的强化学习训练而遐想，兼具闲居的任务各种性和较低的数据稠浊风险。
智能体环境
智能体轮回管线撤职一种 ReAct 作风的职责流，联接代码器用与 CUDA Skill 步伐（SKILL.md），复古迭代式的编码-编译-调试轮回，以及基于性能分析器的优化过程。
圭臬职责经过：对原生 PyTorch 完毕进行性能分析，编写 CUDA 内核过甚绑定代码，在 GPU 沙盒环境中完成编译，并束缚迭代优化。主义条件：通过正确性检讨，并在性能上相干于 torch.compile 完毕高出 5% 的加快。持重的奖励机制吸收基于里程碑的闹翻奖励遐想，笔据正确性达标情况和性能晋升幅度分别予以奖励。扫视奖励舞弊的限定措施包括：对考据与性能分析剧本进行保护，退却回退调用，吸收 5 组不同输入进行正确性检讨，在同步预热后进行性能分析，以及退却集会检索。
这些拘谨共同构建了可靠的、基于真是施行结果的响应机制，使计谋学习聚焦于内核质料的实践性晋升，而非依赖取巧或捷径活动。
训练经过
训练过程吸收分阶段遐想，以自若 CUDA 编码这一永劫序强化学习任务。领先进行单轮 PPO 预热训练，随后分别驱动化 actor 和 critic，临了干与齐全的多轮智能体强化学习阶段。
单轮预热阶段旨在晋升基础的 CUDA 代码生成才略，为后续的交互式智能体训练打下基础。在 actor 驱动化阶段，吸收基于正向结果轨迹采样的拒却式微调（RFT）。RFT 过滤机制会剔除低效轮回以及无效的器用调用方式，从而裁减计谋崩溃的风险。critic 驱动化阶段通过价值函数预训练，使得从训练早期脱手，上风预计就具备较高可靠性。
借助这一多阶段训练遐想，系统在长潦倒文设定下（最长 128k 潦倒文、训练阶段最多 150 轮、评估阶段最多 200 轮）依然保握自若，从而完毕握续的奖励增长。
计议团队在 KernelBench 上讲解了针对合座和 Level-3 拆分的齐全主义，包括通过率、提速率（与 Eager 对比/与 Compile 对比）以及几何平均加快比（与 Eager 对比/与 Compile 对比）。
与高大的突出基线模子比较，CUDA Agent 在相干于 Compile 的性能优化上展现出显耀上风：在合座 KernelBench 基准测试中，其相对 Compile 的加快达成率达到 96.8%，几何平均加快比为 2.11 倍
这一上风在高难度征战下尤为明显：在 Level-3 上，CUDA Agent 相对 compile 的加快达成率达到 90%，比较最强的突出基线高出约 40 个百分点；在 Level-2 的算子序列任务上，其加快达成率达到 100%，几何平均加快比达到 2.80 倍。
在 KernelBench 上的合座性能和加快主义。
本计议存在两个主要局限。
领先，这次计议未将 CUDA Agent 与更为复杂的编译器框架（如 TVM）进行对比。其次，训练经过依赖于大鸿沟 GPU 资源池以及程度级约束机制，这带来了畸形可不雅的预计打算与工程老本。探索愈加资源高效的训练计谋，将是翌日的紧迫计议主义。
看起来，CUDA Agent 等技能的出现行将冲破传统编译器（如torch.compile或Triton）的优化瓶颈。它评释了：大言语模子不仅不错学习东谈主类当然言语和高等编程言语，还不错通过基于硬件响应的强化学习，内化出极高门槛的「硬件直观」。
一条通向全自动、高度性能优化预计打算基础样貌的谈路正在出现。