新闻动态

你的位置:半岛app客户端官网 > 新闻动态 >

高通旗舰座舱芯片SA8397P之NPU揭秘

发布日期:2025-12-15 16:54点击次数:173

高通旗舰座舱芯片SA8397P的NPU算力高达320TOPS,碾压任何对手,压倒性领先。2025年11月中旬高通对Snapdragon X2 Elite的深度分析,对其NPU也做了详细论述。而Snapdragon X2 Elite这款用于笔记本和台式机电脑CPU芯片的NPU与SA8397P的NPU是一致的。

高通Hexagon NPU负责人,也是高通技术副总裁Lucian Codrescu亲自讲解高通第六代Hexagon NPU即SA8397P的NPU。Lucian Codrescu是佐治亚州理工大学博士,1999年进入摩托罗拉,也就是飞思卡尔前身,5年后成为飞思卡尔高级工程师,然后在2004年8月进入高通,2016年成为高通技术副总裁至今。

为什么说Snapdragon X2 Elite这款用于笔记本和台式机电脑CPU芯片的NPU与SA8397P的NPU是一致的,Lucian Codrescu在会上说Hexagon NPU的架构不仅用于笔记本电脑、也用于汽车、手机和IoT领域,架构完全相同,只是规模不同。Lucian Codrescu还透露个机密,那就是Hexagon NPU和谷歌的TPU是联合开发的,两者近似度很高。

Snapdragon X2 Elite的NPU算力是80TOPS。

SA8397P内部框架图与外部应用图

上图中可以看出SA8397P的NPU包含四个HTP5模块,每个模块算力即80TOPS,应该就是Snapdragon X2 Elite的NPU。

SA8397简介

Snapdragon X2 Elite和SA8397P一样,也是18核心CPU架构,CPU也是第三代Oryon,采用台积电N4P工艺打造。只不过SA8397P是18个全大核心,Snapdragon X2 Elite是12个大核心即Prime核心,6个小核心即performance核心。SA8397简介里对NPU的介绍也和Snapdragon X2 Elite的NPU一致。

Lucian Codrescu介绍了Hexagon的历史,第一阶段是针对音频的,至今仍然在使用。第二阶段是针对图形的,第三阶段是针对机器学习的,每周期乘积累加MAC计算性能提高了100倍。

进入NPU时代,又可以细分为6代。

整理:水清木华研究中心与佐思汽研

第一代不详。高通NPU与大部分AI计算芯片不同,大部分AI计算芯片都是在矩阵计算单元上下功夫,拼命增加矩阵计算单元规模,高通则是在标量和矢量上下功夫,这一点谷歌的TPU和华为的昇腾也是如此。

谷歌TPU架构

谷歌TPU架构如上,MXU就是矩阵乘法单元,VPU即矢量单元,VMEM即矢量紧耦合存储,SMEM即标量紧耦合存储。

高通研究了300多个大模型,发现实际矩阵计算量并非是全部,标量、矢量和DMA(直接存储接入)重要性也不低。

Overhead 表示程序运行过程中无法避免的固定资源消耗,在中文里最常用的是 “开销”,但具体翻译会根据语境变化,如 “额外开销”、“系统开销”、“资源开销” 或 “函数开销”。例如并行计算中,程序还需要做一些其他工作如任务分解、数据传输、任务管理和结果整合过程,就是overhead。这些overhead并不参与直接计算,但它们是确保并行计算顺利进行和正确性的必要部分。

计算机运算就好比一个物流中心,标量计算像是物流中心的任务分解和日程安排,货物的登记和发出(DMA),根据数据即货物的不同,安排不同的运输方式和日程安排,矩阵像煤炭、铁矿石之类的货物,要用货轮运输效率最高,但速度最慢。陆地集装箱自然是用火车运输最好,像矢量,速度快,但吞吐量不高,标量像货车,什么都可以运,速度也不低,就是吞吐量最低。

第六代使用12线程标量处理,等于增加DDR带宽两倍。

标量吞吐量增加了143%。

对于矩阵运算的核心HMX,高通只有一个单元,第六代增加了2比特权重支持。

矢量线程增加到8个,每线程是4个指令的128比特的SIMD架构。

内部TCM带宽增加了127%

针对不同精度的计算任务,高通NPU可以有极高的效率,功耗/TOPS效能基本是全球范围内最高的,远超GPU也超出国内一些ASIC或DSU芯片。做高算力很容易,只要堆砌计算单元,几千TOPS也唾手可得,但成本和功耗是大麻烦。

标量矢量矩阵紧耦合DMA四者合一,才是NPU王道,才能在成本、功耗和算力方面取得平衡。

免责说明:本文观点和数据仅供参考,和实际情况可能存在偏差。本文不构成投资建议,文中所有观点、数据仅代表笔者立场,不具有任何指导、投资和决策意见。

Powered by 半岛app客户端官网 RSS地图 HTML地图

Copyright Powered by365建站 © 2013-2024