IT之家 9 月 30 日消息,DeepSeek 今天(30 日)上午通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。
根据介绍,相对于英伟达的 CUDA 语言,TileLang 的编程更简单,能显著提高开发效率、简化代码逻辑。相对于其它同类高级语言,TileLang 的编程模型可以充分发挥芯片的特性,达到硬件的性能上限。TileLang 路线首先在英伟达成熟平台上得到了验证,目前已承载 DeepSeek V4 系列模型训练中大部分算子的实现,是探索 AGI 新范式、开发高性能算子的核心工具。
本次开源的 TileLang 昇腾版本,对昇腾 Ascend C 底层指令进行封装、提供高级语言的编程方式、同时不损失硬件性能。目前,DeepSeek 训练中用到的每一个 TileLang 算子,在昇腾上都有对应的高性能实现。
本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用的基础能力:
DeepGEMM 加速通用矩阵运算;
DeepEP 提供高效的大规模跨设备通信;
TileKernels 提供数据处理所需的常规向量计算和访存算子;
FlashMLA 提供稀疏注意力算子,提升长上下文处理效率;
DeepSelect 则实现了高效的数据筛选。
在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。
IT之家汇总开源项目链接:
TileLang: https://github.com/tile-ai/tilelang
DeepGEMM Ascend: https://github.com/deepseek-ai/DeepGEMM-Ascend
DeepEP Ascend: https://github.com/deepseek-ai/DeepEP-Ascend
TileKernels: https://github.com/deepseek-ai/TileKernels
FlashMLA: https://github.com/deepseek-ai/FlashMLA
DeepSelect: https://github.com/deepseek-ai/DeepSelect
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。