OpenAI工程师惊讶:AI生成的GPU代码难以理解却表现优异
2026年8月31日,分析师Jordan Nanos透露,OpenAI正在广泛使用AI来生成GPU底层内核代码,令人惊讶的是,这些代码连工程师都难以逐行解读,但却能够正确运行且性能出色。Nanos提到,他们与OpenAI的工程师共同审阅了一段用于DeepSeek MLA的内核代码,尽管这些工程师对芯片硬件和计算系统十分熟悉,但在面对具体代码时却感到困惑,无法明确其功能。“逐行查看时,你只能得出答案:不知道、不知道、不知道。”Nanos这样描述。然而,这并未妨碍代码进入实际验证。根据Nanos的说法,AI不仅生成了代码,还参与了测试和优化,最终形成的内核不仅结果准确,而且运行效率优秀。这些代码是用Gluon编写的,Gluon是OpenAI维护的一种GPU编程语言,接近底层,允许开发者直接控制内存移动和计算布局等细节。Nanos称这种代码接近“AI生成的汇编语言”。他认为未来底层代码可能不再需要人类深入理解,只需依赖AI对于硬件数据流动和计算单元的理解,以及通过测试验证其正确性和性能。OpenAI之前也曾披露类似的开发方法,表示GPT-5.6 Sol结合Codex已经能够自主重写和优化生产环境中的内核,训练其使用Triton和Gluon进行GPU内核编写和优化,并配合工具检查生成代码的准确性。OpenAI指出,这些内核优化和改进使得端到端模型服务成本降低约20%。内核是AI模型运行时执行矩阵运算、注意力机制和数据移动等操作的底层程序,其效率直接影响GPU的利用率、模型推理速度和计算成本。以往,这类代码通常需要熟悉CUDA和GPU架构的工程师手动优化,而OpenAI现有的方法正发生转变,工程师更多负责确定目标、理解硬件架构和验证结果,具体的代码则由AI自动生成和优化。Nanos认为,这或许预示着未来软件开发方式的变化,代码的本质不再需要人类逐行理解,只要生成系统证明其正确性并达到预期性能即可。