图形处理器(GPU)是现代计算的核心组成部分,尤其在人工智能、高性能计算以及图形渲染领域扮演着至关重要的角色。对于华为而言,构建自身强大的计算能力,特别是GPU技术,是其战略布局中的关键一环。围绕“华为GPU”这一概念,涌现出许多具体的疑问,例如它究竟指代什么?华为为何要投入巨大资源自研GPU?这些GPU目前被应用在哪些实际场景中?性能表现如何?以及开发者如何才能使用和利用这些技术?
华为的GPU:并非单一概念
当我们谈论“华为GPU”时,需要区分两种主要情况:
华为自研的AI加速芯片:昇腾(Ascend)系列
这是华为在人工智能计算领域自主设计和开发的处理器系列,其核心是达芬奇(Da Vinci)架构。虽然昇腾系列被定位为AI处理器,但其强大的矩阵计算和向量计算能力使其在某些方面承担了传统GPU在AI训练和推理中的角色,因此常被业界与GPU一同讨论,甚至在特定语境下被视为华为的“AI GPU”。
- 定位: 主要面向云、数据中心、边缘计算和终端场景的AI计算,涵盖训练和推理任务。
- 架构: 基于华为自主研发的达芬奇(Da Vinci)架构,强调高效的矩阵运算、向量运算和标量运算协同。
- 产品: 典型代表包括用于训练的昇腾910,用于推理的昇腾310等,这些芯片集成在华为的Atlas系列硬件产品中(如训练卡、推理卡、服务器、集群)。
集成在华为麒麟(Kirin)SoC中的图形处理器(GPU IP)
这部分指的是华为为智能手机和平板电脑等终端设备设计的麒麟(Kirin)系列系统级芯片(SoC)中集成的图形处理单元。长期以来,华为在麒麟芯片中主要使用的是获得Arm公司授权的Mali系列GPU IP。
- 定位: 主要负责移动设备的图形渲染、游戏性能、用户界面流畅度等。
- 来源: 采购或授权自第三方(如Arm的Mali系列)。
- 华为的角色: 华为负责将这些GPU IP集成到麒麟SoC中,并进行整体的优化和调校,以达到最佳的终端体验。近年来,华为也在提升对GPU技术的理解和优化能力,例如推出过基于Mali定制或深度优化的GPU技术(如GPU Turbo),但这仍然是基于现有IP的增强,而非底层的全新架构自研。
因此,在很多涉及高性能计算和AI的讨论中,“华为GPU”更多时候指的是华为的昇腾系列AI处理器,因为它代表了华为在高性能计算芯片领域的自研突破。本文后续内容将侧重于昇腾系列。
为何华为大力投入自研昇腾(Ascend)AI处理器?
华为投入巨大资源自研昇腾系列芯片,特别是具备AI计算能力的处理器,背后有多重重要的战略考量:
- 战略自主与供应链安全: 核心计算芯片是信息产业的基石。自研昇腾系列使华为能够摆脱对特定国家或供应商的高度依赖,尤其在全球半导体产业面临不确定性和潜在供应风险的背景下,掌握核心技术是保障业务连续性和国家信息安全的关键。
- 满足特定AI及HPC(高性能计算)需求: 随着人工智能和高性能计算应用的爆发,市场对计算芯片的需求呈现多样化和专业化趋势。自研芯片能够让华为根据自身在云、网络、边缘和终端等不同场景的需求,设计出高度优化、具备独特性能和能效比的处理器,例如达芬奇架构就是专为AI计算的特点(如大规模矩阵乘法)而设计。
- 构建全栈AI能力与生态: 华为的AI战略是全栈全场景的,涵盖芯片(昇腾)、计算框架(MindSpore)、AI平台和云服务。拥有自研的计算硬件是构建这一全栈能力的基础。这使得华为能够更好地进行软硬件协同优化,提供更高效、更易用的AI开发和运行环境,从而构建和繁荣自己的AI生态系统。
- 提升产品和服务竞争力: 自研的昇腾处理器能够为华为云、智能计算产品、智能安防、自动驾驶等解决方案提供差异化的计算能力,从而提升华为在相关市场的竞争力。
- 应对技术封锁与限制: 外部环境的变化,特别是某些国家的技术出口限制,直接促使华为加速在核心芯片领域的自给自足步伐。自研昇腾是应对这一挑战的必然选择。
华为昇腾(Ascend)AI处理器主要用在哪里?
昇腾系列AI处理器主要应用于需要强大AI计算能力的各种场景:
- 华为云: 昇腾处理器是华为云AI计算服务(如AI训练、AI推理、数据分析等)的底层硬件基础。用户可以通过华为云租用基于昇腾算力的虚拟机或容器服务。
- AI数据中心与企业应用: 企业和科研机构可以使用基于昇腾处理器的Atlas系列服务器、AI训练集群、AI推理服务器等构建自己的AI计算平台,用于训练大型AI模型、进行海量数据分析、部署AI应用等。
- 智能边缘设备: 昇腾系列中也有面向边缘场景的处理器(如昇腾310/310P),它们被集成在智能摄像头、边缘推理服务器、机器人、工业视觉设备等产品中,用于在数据源头进行实时AI推理。
- 智能计算产品: 华为推出的Atlas系列产品家族,包括AI加速卡、AI开发板、AI推理模块、AI服务器、AI一体机和AI训练集群,这些产品都是基于昇腾处理器打造的,面向不同的应用场景和部署形态。
- 科研机构与高校: 昇腾计算平台被广泛应用于人工智能、机器学习等领域的科研和教学活动中。
华为昇腾(Ascend)AI处理器的架构与技术特点是什么?
昇腾系列处理器的核心是华为自主研发的达芬奇(Da Vinci)架构。其主要特点包括:
- 专门为AI计算优化: 达芬奇架构深度优化了矩阵乘法、向量计算等AI核心算子,设计了专门的硬件单元(如Cube Unit)以高效处理大规模矩阵运算,这是AI训练和推理中最耗时的部分。
- 高性能与高能效: 通过创新的架构设计和先进的工艺技术,达芬奇架构旨在提供强大的算力(TOPs)同时保持较低的功耗,特别是在推理场景下,追求极致的能效比。
- 灵活可编程: 架构支持多种精度计算(如FP32, FP16, INT8, INT4等),并具备较强的可编程性,能够适应不断演进的AI模型和算子需求。
- 软硬件协同设计: 达芬奇架构的设计与华为的AI计算框架MindSpore紧密结合,实现软硬件深度协同优化,提升整体系统性能和开发效率。
与传统GPU的区别(在AI领域):
虽然昇腾在AI计算领域与传统GPU竞争,但达芬奇架构并非通用的图形渲染架构。它专注于AI所需的特定计算模式,这与传统GPU为图形渲染设计的通用并行计算架构有所不同。这种聚焦使得昇腾在AI计算的特定任务上能做到更高的效率和能效比。
如何开发和使用华为昇腾(Ascend)AI处理器?
使用华为昇腾计算平台进行AI应用开发主要依赖于华为提供的软件栈和硬件平台:
- 选择合适的Atlas硬件: 根据应用场景(训练、推理、边缘、云)和性能需求,选择基于昇腾处理器的Atlas系列硬件产品,如Atlas训练服务器、Atlas推理卡、Atlas边缘站等。
-
使用MindSpore或其他兼容框架:
- MindSpore: 华为自家的全场景AI计算框架,与昇腾硬件原生适配最好,能够充分发挥硬件性能。提供丰富的模型开发、训练、推理工具和API。
- 其他框架: 昇腾平台也支持通过异构计算架构(如CANN,Compute Architecture for Neural Networks)适配其他主流AI框架(如TensorFlow、PyTorch等),开发者可以通过模型转换工具或插件在昇腾平台上运行这些框架训练的模型。
- 利用昇腾开发工具链: 华为提供了一整套开发工具,包括模型转换工具、算子开发工具、应用开发工具、调试工具、性能分析工具等,帮助开发者在昇腾平台上进行模型迁移、优化、部署和应用开发。
- 接入昇腾社区与生态: 参与华为昇腾社区,获取开发文档、技术支持、交流经验,利用社区提供的模型库和解决方案。
华为昇腾(Ascend)AI处理器的性能表现如何?
昇腾系列处理器的性能表现是一个复杂的问题,因为它高度依赖于具体的芯片型号、应用场景(训练或推理)、AI模型、数据集以及软件优化程度。
- 训练性能: 昇腾910作为目前华为最高端的训练芯片,在公开的测试中展现出业界领先的FP16算力(256 TFLOPS FP16,理论峰值)。在一些对比测试中,特别是在大规模模型训练场景下,昇腾集群配合MindSpore框架能够表现出与主流GPU集群相当甚至更优的训练效率和扩展性。
- 推理性能: 昇腾310/310P等推理芯片则侧重于高能效比,在边缘和端侧场景提供强大的推理算力(INT8性能)。在视频分析、图像识别等推理任务中,昇腾推理卡/模块能够提供高吞吐量和低延迟的解决方案。
- 实际性能: 需要强调的是,芯片的理论峰值算力不完全等同于实际应用性能。实际性能受限于内存带宽、互联速度、软件栈效率、模型优化等多种因素。华为昇腾的优势在于其软硬件协同优化能力以及针对特定场景的深度优化。
- 对比: 与业界主流的AI计算芯片(如NVIDIA的GPU系列)相比,昇腾在某些特定AI工作负载下可能具有性能或能效优势,但在通用性、生态成熟度等方面仍有发展空间。华为的策略是结合自身的云服务和行业解决方案,提供基于昇腾的整体最优解。
关于“多少”的问题:成本与具体型号
成本:
对于昇腾系列企业级硬件(如Atlas服务器、AI卡),华为通常不提供公开的零售价或标准价格表。这些产品通常作为面向企业客户或项目集成的解决方案的一部分进行销售。成本会受到多种因素影响,包括硬件配置、购买数量、所需软件和服务等。与其关注单一芯片的价格,客户更关注的是基于昇腾平台的整体解决方案的总体拥有成本(TCO)以及在特定应用场景下的性能价格比。
对于集成在麒麟SoC中的Mali GPU,其成本是SoC整体成本的一部分,终端用户购买手机时已包含其中,不存在单独购买GPU的成本。
具体型号:
华为的昇腾系列处理器型号随着技术发展不断迭代,主要型号及其大致定位如下(截至知识更新时):
- 昇腾910: 主要面向AI训练场景,提供高密度的FP16和INT8算力。
- 昇腾310: 主要面向AI推理场景,强调高能效比,适用于边缘和端侧设备。
- 昇腾310P: 昇腾310的升级版本,性能和能力有所增强。
- 其他型号: 华为还在持续研发和发布面向不同算力需求和应用场景的昇腾系列处理器及模组。
这些芯片型号被集成到各种Atlas硬件产品中,开发者和用户通常是购买或使用Atlas系列产品,而不是单独的昇腾芯片。
总而言之,华为的GPU技术涵盖了面向移动设备的授权IP集成,以及更具战略意义的、自主研发的面向AI和高性能计算的昇腾处理器系列。后者是华为构建数字基础设施和全栈AI能力的核心所在,并通过达芬奇架构、MindSpore框架和Atlas硬件平台构成了完整的AI计算生态。