vlambda博客
学习文章列表

什么是AI编译？✦

AI编译是指从给定的深度学习模型生成可执行代码的过程。本质上，编译是将深度学习中的高级操作映射到基础硬件支持的低级指令的过程。编译过程在优化代码中起着关键作用。

传统的深度学习框架采用人工优化算子，然后建立运行时图解释器来解决内存分配调度等问题。随着深度学习模型的迭代更新及各类AI芯片的层出不穷，这种基于人工优化算子的方式给算子开发团队带来沉重的负担。

AI编译技术则是在优化过程中采用了自动或半自动的代码生成用以替代人工优化。人的精力是有限的，通过（接近无限）的算力去适配每一个应用场景看到的网络，这是AI编译技术比人工路线强的地方。

昇思MindSpore通过持续性能完善和开发增强，发布了MindSpore图算融合架构，打破算子边界，提供极简的算子表达方式和泛化自动算子融合能力，将AI算力更极致地解放，让算子融合更高效，且比业界已有的方案有架构上的优势。