DeepSeek开源面向华为昇腾的基础设施组件

AI 驱动中国 陆离 287次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

DeepSeek于9月30日宣布开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库与分布式通信库,并与此前面向英伟达平台的开源组件一一对应,为昇腾平台提供可复用的基础能力。

驱动中国9月30日消息,DeepSeek于30日上午通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库与分布式通信库,所有组件与此前面向英伟达平台的开源组件一一对应。

根据介绍,TileLang相对于英伟达CUDA语言编程更简单,可提高开发效率并简化代码逻辑;相对于其它同类高级语言,其编程模型可发挥芯片特性,达到硬件性能上限。TileLang路线首先在英伟达成熟平台得到验证,目前已承载DeepSeek V4系列模型训练中大部分算子的实现,是探索AGI新范式、开发高性能算子的核心工具。

本次开源的TileLang昇腾版本对昇腾Ascend C底层指令进行封装,提供高级语言编程方式,同时不损失硬件性能。目前,DeepSeek训练中用到的每一个TileLang算子,在昇腾上均有对应的高性能实现。

本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用基础能力。其中,DeepGEMM用于加速通用矩阵运算;DeepEP提供高效的大规模跨设备通信;TileKernels提供数据处理所需的常规向量计算和访存算子;FlashMLA提供稀疏注意力算子,以提升长上下文处理效率;DeepSelect实现高效数据筛选。

在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。相关开源项目包括TileLang、DeepGEMM Ascend、DeepEP Ascend、TileKernels、FlashMLA与DeepSelect。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/524646.html
本文价值 ★★★★★ — 成为第一个评分的人
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录
✎ 我要投稿有独家观点或行业线索?向驱动中国投稿,审核采用后署名发布并获积分奖励。 去投稿 ›

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友