华为昇腾异构计算架构CANN 助力应对AI发展新挑战！-电子发烧友网

电子发烧友网报道（文/李弯弯）人工智能在21世纪以后，经历了PC、互联网以及移动互联网这几波浪潮之后，又进入了新一波浪潮，从2012年人工智能神经网络取得很好的成绩开始，快速发展，预计2025年AI产业市场规模将达到7.44万亿美金，未来五年年均增长30%

近两年人工智能正从单点技术走向真正通用技术，一是从大模型走向超大模型，从GPT-2的15亿参数，到GPT-3的1750亿参数，鹏程·盘古的2000亿参数，再Switch Transformer的16000亿参数。简约海报
二是从单模态走向多模态。简单来说就是容量需要更大，学习的领域需要更丰富，这带来的趋势就是更智能化。

华为昇腾计算业务副总裁金颖日前在某论坛上表示，这也给人工智能的发展带来挑战：一是随着模型越来越大训练花费越来昂贵，比如GPT-3需要花费460万美金，BERT平均需花费1.5万美金；二是训练更大的模型，对算法、系统的难度要求更高，未来开发难度会加大，包括算法开发难、应用开发难、业务部署难；三是人才本就稀缺，人才缺口很大，目前中国人工智能人才供需比为10%，中国人才缺口超过500万。

金颖认为，面对上述新趋势、新挑战、新问题，异构计算架构对上适配多框架，对下适配多异构芯片，同时针对多样化应用场景，提供高效易用的编程方式，是突破AI产业平台的关键。

为此华为发布了AI全栈硬件架构，包括底层的系列硬件、芯片，以及异构计算架构，AI框架，行业应用等，跟绝大多数的AI硬件架构一样，其中华为昇腾AI全栈的核心是异构计算架构CANN，发挥承上启下的关键作用。AI异构计算架构CANN是华为针对AI场景推出的异构计算架构，通过提供多层次的编程接口，支持用户快速构建基于Asend平台的AI应用和业务。

CANN包含统一APP编程语言，提供一套标准的ACL编程接口，对应用程序开发者屏蔽底层多种芯片差异，提升用户APP编程易用性；统一网络构图接口，提供了标准的昇腾计算AIR，支持多框架，支持用户在昇腾芯片上快速部署神经网络业务；高性能计算引擎以及算子库，通过高性能编译引擎、执行引擎、调优引擎和预置高性能算子库，支撑客户快速部署神经网络业务、降低部署成本并最大程度发挥昇腾计算能力；以及驱动、虚拟化、媒体、集合通信等基础服务能力。

华为即将发布最新发的CANN5.0版本，通过软硬件协同，相比之前的版本性能再翻倍，该架构支持多种AI框架，包括Mindspore、TensorFlow、飞桨、Pytorch、ONNX等。而且性能还在持续提升中，金颖表示，该版本ResNet-50训练速度保持业界领先，最新的数据已经小于16s。完善生态满足度方面，亲和昇腾的图编译技术已经超过1300高性能算子，支持ModeZoo 400+模型全面覆盖典型场景应用。

华为以开放社区的方式运营，从目前的成绩来看，CANN已经达到支持40万昇腾开发者，各项数据全面翻倍，社区已经成为开发者大本营，预计到2022年将发展到百万开发者级别。科研合作超过200家，华为与国内多所高校有很好的合作，北京大学田永鸿教授表示，使用华为人工智能全栈解决方案，在今年的MLPerf评测中之所以能够取得如此优异的成绩，其中关键因素就是CANN。

金颖表示，未来在异构计算架构领域，希望更多提供极致性能、极简开发、开放生态，推动这个产业进入各个行业贡献我们的力量，也希望未来在更多的标准领域，汇聚产业的力量，推动AI产业的发展。