9月30日消息,据DeepSeek官方公众号消息,今天,DeepSeek正式开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。

据官方介绍,相对于英伟达的CUDA语言,TileLang的编程更简单,能显著提高开发效率、简化代码逻辑。

同时对比其它同类高级语言,TileLang的编程模型可以充分发挥芯片的特性,达到硬件的性能上限。

据悉,这套技术方案已在英伟达平台完成落地验证,DeepSeek V4系列模型训练的绝大多数算子均基于TileLang实现,也是DeepSeek研发高性能算子、探索AGI新范式的核心工具。

此次开源的TileLang昇腾版,对昇腾Ascend-C底层指令做封装,提供高级语言开发能力的同时,不会损耗硬件性能,契合TileLang最初的设计目标。

目前DeepSeek训练所用的全部TileLang算子,均已在昇腾平台完成高性能适配。

官方表示,TileLang昇腾版开源,也希望为国内多款AI芯片搭建高可用软件生态提供参考示范。

除编译语言之外,本次同步开放昇腾平台多款核心计算、通信基础组件:负责矩阵运算加速的 DeepGEMM;

支撑大规模跨设备高速通信的DeepEP;处理向量计算与内存访问的TileKernels;

优化长上下文效率的稀疏注意力算子FlashMLA,以及实现高效数据筛选的DeepSelect。

多项测试结果显示,这批组件的计算、通信性能均接近硬件理论上限。

值得一提的是,本次适配研发过程得到华为团队全力支持,双方深度协同,完成昇腾950的128卡超节点方案落地,并针对计算、通信链路开展深度调优。

下附开源项目链接:

TileLang:

https://github.com/tile-ai/tilelang

DeepGEMM Ascend: 

https://github.com/deepseek-ai/DeepGEMM-Ascend

DeepEP Ascend: 

https://github.com/deepseek-ai/DeepEP-Ascend

TileKernels: 

https://github.com/deepseek-ai/TileKernels

FlashMLA: 

https://github.com/deepseek-ai/FlashMLA

DeepSelect: 

https://github.com/deepseek-ai/DeepSelect

对标英伟达CUDA!DeepSeek开源昇腾基础组件 性能逼近硬件上限

【本文来源:快•科技】