会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 加速国产GPU开发!摩尔线程开源高性能计算库MUTLASS!

加速国产GPU开发!摩尔线程开源高性能计算库MUTLASS

时间:2024-12-27 01:53:14 来源:兵闻拙速网 作者:探索 阅读:405次

11月12日消息,加速计算摩尔线程宣布,国产正式开源高性能线性代数模板库MUTLASS,开库以便开发者能够更高效地针对摩尔线程GPU MUSA Core、发摩Tensor Core等单元进行编程,尔线加速基于国产GPU的程开算子开发以及算法创新。

在此之前,源高摩尔线程已经相继开源OpenCV-MUSA计算机视觉库、加速计算MooER音频理解大模型、国产vLLM-MUSA大语言模型高速推理框架。开库

加速国产GPU开发!摩尔线程开源高性能计算库MUTLASS

▼ MUTLASS开源地址:

https://github.com/MooreThreads/mutlass

在数值计算和深度学习领域,发摩矩阵乘法(GEMM)及其变种,尔线比如FlashAttention、程开Convolution,源高是加速计算构建复杂上层应用的基石。

不够,为了追求更高的算子融合效率,或者更创新的算法,开发者们往往需要超越标准化计算接口的限制,如标准BLAS接口以及芯片厂商的计算库接口,以实现高性能的定制化算子。

MUTLASS(MUSA Templates for Linear Algebra Subroutines)正是为满足这一需求而设计。

作为摩尔线程专为自研MUSA架构优化的高性能计算库,MUTLASS是基于开源模板库CUTLASS进行的MUSA适配和定制化开发、优化。

针对矩阵乘法及相关变种,MUTLASS提供了一系列高性能的C++模板组件,并采用了与muDNN库类似的分层分解及数据搬运策略,以确保性能的充分发挥。 

在本次开源的版本中,摩尔线程适配了CuTe后端库,为其增加了第三代MUSA架构的MMA计算原语,支持TF32/FP16/BF16/INT8等多种数据精度,并以此为基础,初步实现了矩阵乘法、默认实例库、性能测试器及相关工具包的支持。

借助MUTLASS,开发者们既可以灵活复用不同层级的模板组件,也可以按需修改各种模板组件的实现细节,以较低的开发成本实现定制化的高性能算子,从而在摩尔线程全功能GPU上充分释放性能,并尝试更多的算法创新。

摩尔线程将持续优化MUTLASS的性能,并不断引入新的功能。

(责任编辑:探索)

相关内容
  • 这就是王者荣耀,全程不放技能都能赢
  • 育碧新作没一款成功 制作人承认:育碧已不了解玩家
  • 彻底乱套了!欧冠最新积分:1队提前出线 1队提前出局 皇马升第18
  • 16进12一把爆发的事,再随便拿个基本分就够了,原来这么难,这个赛制才是最能体现队伍基本水平的,没圈也不会打架?nh一轮游,天霸多游一轮,都进不去决赛
  • 用数字科技赋能文旅创新 爱普生参加2024世界显示产业创新发展大会
  • [流言板]专打第一?独行侠22年淘汰西一太阳,今年淘汰西一雷霆
  • 绿洲主唱担任曼城比赛评述,墨菲:不是谁都能当评述的
  • 进球无效!萨卡第88分钟头球破门,VAR介入判罚越位在先
推荐内容
  • [流言板]正面对话!威少扑防干扰杜兰特不中,再突破杜兰特打进反超
  • 《潜行者2》全球发售时间公布 北京时间21日0点解锁
  • BBC:曼联正与阿玛德进行谈判,红魔预计和他续约至2027年
  • 经纪人:别再散布姆班古拉可能转会的谣言,这可能会给他造成困扰
  • 2年前的滕帅首签😩曼联1700万买马拉西亚 养伤1年半&现表现灾难
  • 曹永竞:有三位人生导师,磊哥讲价值观&宝哥讲技术&栋哥讲心情