DeepSeek开源面向华为昇腾的基础设施组件
DeepSeek于9月30日宣布开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库与分布式通信库,并与此前面向英伟达平台的开源组件一一对应,为昇腾平台提供可复用的基础能力。
驱动中国9月30日消息,DeepSeek于30日上午通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库与分布式通信库,所有组件与此前面向英伟达平台的开源组件一一对应。
根据介绍,TileLang相对于英伟达CUDA语言编程更简单,可提高开发效率并简化代码逻辑;相对于其它同类高级语言,其编程模型可发挥芯片特性,达到硬件性能上限。TileLang路线首先在英伟达成熟平台得到验证,目前已承载DeepSeek V4系列模型训练中大部分算子的实现,是探索AGI新范式、开发高性能算子的核心工具。
本次开源的TileLang昇腾版本对昇腾Ascend C底层指令进行封装,提供高级语言编程方式,同时不损失硬件性能。目前,DeepSeek训练中用到的每一个TileLang算子,在昇腾上均有对应的高性能实现。
本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用基础能力。其中,DeepGEMM用于加速通用矩阵运算;DeepEP提供高效的大规模跨设备通信;TileKernels提供数据处理所需的常规向量计算和访存算子;FlashMLA提供稀疏注意力算子,以提升长上下文处理效率;DeepSelect实现高效数据筛选。
在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。相关开源项目包括TileLang、DeepGEMM Ascend、DeepEP Ascend、TileKernels、FlashMLA与DeepSelect。