手机软件做的相册怎样传到网站,网站建设交易,自己怎么做网站建设,做贸易 公司网站放哪里NVIDIA在9月20日发布的NVIDIA DRIVE Thor 新一代集中式车载计算平台#xff0c;可在单个安全、可靠的系统上运行高级驾驶员辅助应用和车载信息娱乐应用。提供 2000 万亿次浮点运算性能#xff08;2000 万亿次8位浮点运算#xff09;。NVIDIA当代产品是Orin#xff0c;算力是…NVIDIA在9月20日发布的NVIDIA DRIVE Thor 新一代集中式车载计算平台可在单个安全、可靠的系统上运行高级驾驶员辅助应用和车载信息娱乐应用。提供 2000 万亿次浮点运算性能2000 万亿次8位浮点运算。NVIDIA当代产品是Orin算力是256 TOPS。再后面是已发布的Altan算力是1000TFLOPS这次的Thor算力是2000 TOPS强大的着实让人震惊但是芯片2025才出来是时间好像有些远的PPT产品。
产生一个疑问这个算力是什么算力如何计算/标定
先看三个名词解释
TFLOPSteraFLOPS等于每秒一万亿10^12次的浮点运算。FLOPSFloating-point operations per second的缩写即每秒浮点运算次数。TOPSTera Operations Per Second的缩写1TOPS代表处理器每秒钟可进行一万亿次10^12操作。DMIPSDhrystone Million Instructions executed Per Second每秒执行百万条指令用来计算同一秒内系统的处理能力即每秒执行了多少百万条指令。
鉴于NVIDIA的Thor还是个PPT还没有确切产品资料情况下我们先看下现有芯片的此种算力。特斯拉FSD自动驾驶的芯片/区别于智能座舱SOC。 NPU算力
NPU算力。TOPS仅指处理器每秒万亿次操作需要结合具体数据类型精度才可以于FLOPS转换。8位精度下的MAC(乘积累加运算MAC/ Multiply Accumulate)数量在FP16半浮点数/16位浮点数精度下等于减少了一半。 PSNVIDIA、Intel和Arm携手合作共同撰写FP8 Formats for Deep Learning白皮书。目前业界已由32位元降至16位元如今甚至已转向8位元FP8精度: 8 位元浮点运算规格这也是NVIDIA使用FP8来表征算力的原因。NVIDIA上面Thor 2000TOPS也说的是这个东东。
在NPU中芯片都用MAC阵列(乘积累加运算MAC/ Multiply Accumulate)作为NPU给神经网络加速许多运算如卷积运算、点积运算、矩阵运算、数字滤波器运算、乃至多项式的求值运算都可以分解为数个MAC指令因此可以提高上述运算的效率。MAC矩阵是AI芯片的核心是很成熟的架构。英伟达也在示例中使用3维的立方体计算单元完成矩阵乘加运算。TOPS是MAC在1秒内操作的数计算公式为
TOPS MAC矩阵行 * MAC矩阵列 * 2 * 主频
PS公式中的 2 可理解为一个MACC乘加运算为一次乘法和一次加法为2次运算操作。下面以特斯拉自动驾驶FSD芯片为例。 特斯拉资料中该芯片的目标是自主4级和5级。FSD芯片采用三星德克萨斯州奥斯汀的工厂的14纳米工艺技术制造集成了3个四核Cortex-A72集群共有12个CPU工作频率为2.2GHz1个(ARM的)Mali G71 MP12 GPU2个NPU工作频率为2GHz还有其他各种硬件加速器。FSD最多支持128位LPDDR4-4266内存。 上图右侧第三行清楚的描述到“ 96*96 MACs单核36.8 TOPS/NNA”我们根据最上面计算公式
TOPS MAC矩阵行 * MAC矩阵列 * 2 * 主频 96 * 96 * 2 * 2G 36.864 TOPS单核
上面结果和如上图片中算力数字匹配是NPU单核算力。特斯拉FSDFull Self-Driving IC 中有2个NPU每个周期从SRAM读取256byte字节的激活数据和另外128byte的权重数据到MAC阵列中。每个NPU拥有96x96 MAC另外在精度方面乘法为8x8bit加法为32bit两种数据类型的选择很大程度上取决于他们降功耗的努力(例如32bitFP加法器的功耗大约是32bit整数加法器的9倍)。如上图在2GHz的工作频率下每个NPU的算力为36.86TOPSFSD芯片峰值算力为73.7TOPS两个单核NPU算力的累加。 CPU的算力ARM内核
移远通信推出SA8155P平台的SIP模块AG855G移远官网介绍中描述“AG855G的 AI 综合算力能够达到 8 TOPS”。那CPU算力呢
高通官网及产品摘要中没有找到对其产品CPU算力的直接数字描述但是在移远通信描述SA8155P “八核 64 位处理器134三丛集架构算力高达100K DMIPS”有其他新闻媒体描述其算力为 95 KDMIPS。加之之前找到的SA8155P 数据如下
高通2019年发布的智能座舱芯片SA8155P7nm工艺。CPU架构是Kryo 435高通自己的命名8个64位核心3个丛集Gold代表大核心Silver代表小核心
第1丛集1×Kryo 435 Gold2.419GHz
第2丛集3×Kryo 435 Gold2.131GHz
第3丛集4×Kryo 435 Silver1.785GHz
PS前两个丛集是基于ARM Cortex-A76架构定制的第三个丛集是Cortex-A55核心定制。
Graphics Adreno 640 700MHz
Memory4x162092.8MHzLPDDR4X with ECC
NPUNPU130 with ECC 908 MHz
Compute DSPQ6 V66G (4 threads/2 clusters, 1024KB L2, 4x HVX) with ECC 1.4592 GHz
……
算力数据描述
GPU计算性能1.1 TFLOPS
AINPU算力8 TOPS每秒运算8万亿次
CPU算力100K DMIPS 也有说95K DMIPS的 这个CPU算力是怎么来的如下正题CPU算力计算方式描述DMIPS主要测整数计算能力
以ARM核为主查询ARM官网中描述在“The Cortex-M3 RTL is delivered to licensees together with an example system testbench for simulation of a simple Cortex-M3 system, and a number of test programs including a Dhrystone test called dhry. ”描述了DMIPS/MHz的计算方式
DMIPS/MHz 10^6 / (1757 * Number of processor clock cycles per Dhrystone loop)
ARM官网中有Cortex-M3和M4的数据如下截图 ARM官网网页资料截图
我们可以计算Cortex-M3在Wait-states 0中的DMIPS/MHz是
DMIPS/MHz 10^6 / (1757 * 460.2) 1.2367 ≈ 1.24 DMIPS/MHz
上面计算结果和图片数据对应。在ARM官网未查到有Cortex-A76的DMIPS/MHz数值描述但查询到在发布Cortex-A76时ARM首席架构师Filippo强调Cortex-A76架构较上一代A75性能至少提升35%在一些数学运行任务上新架构处理器可以有 50%—70% 的提升。
网上资料基本都是到Cortex-A75就完了查询到如下架构的DMIPS/MHz如下
Arm Cortex-A75 5.2 DMIPS/MHz
Arm Cortex-A73 4.8 DMIPS/MHz
Arm Cortex-A72 4.7 DMIPS/MHz
Arm Cortex-A57 4.1 DMIPS/MHz
Arm Cortex-A55 2.7 DMIPS/MHz
Arm Cortex-A53 2.3 DMIPS/MHz
虽然高通官网及产品摘要中没有找到对其产品CPU算力的直接数字描述但是结合如上各网络资料我们视图计算下高通这个SA8155P的真实CPU算力。
SA8155P的CPU算力计算如下按照A75性能提升50%来计算即 5.2 * 1.5 7.8 DMIPS/MHz
SA8155P算力 2.419GHz * 1核 * 7.8 DMIPS/MHz 2.131GHz * 3核 * 7.8 DMIPS/MHz 1.785GHz * 4核 * 2.7 DMIPS/MHz 18868.2 49865.4 19278 88011.6 DMIPS ≈ 88 KDMIPS
此数值和移远通信公布的100 KDMIPS算力有约12%的误差但这其实是用ARM的方法计算了下三星的处理器。三星将ARM Cortex-A76内核优化后叫Kryo内核还有硬件加速器等猜想是三星对A76的性能优化已超50%性能提升已到达ARM架构师Filippo上面说的所描述的50%-70%性能提升的中位数。另外存储器读写速度、硬件加速引擎等也都可能直接影响CPU算力表现。
当然也有可能是如上某些数据、信息或计算还不确切。大家有资料或深入研究的也请指出。 GPU算力
…………..后面再写了下面把NVIDIA的Thor发布的芯片构成信息整理
在自动驾驶领域提高驾驶安全性传感器在数量和分辨率上都面临同步增长。同时也引入了更复杂的AI模型NVIDIA大致每2年的产品都会有一个质的提升。安全性是机器人开发的首要准则要求传感器和算法具备多样性和冗余性。这些都需要更高的数据处理能力。
NVIDIA为实现这个应用了Grace、Hopper和Ada Lovelace。
1. Hopper有令人惊叹的Transformer引擎以及Vision Transformer的快速变革。
2. 在Ada中多实例GPU的发明有助于车载计算资源的集中化同时也降低了成本。
3. Grace是NVIDIA数据中心处理器。通常所有的并行处理算法都是由GPU卸载和加速的因此其余的工作负载往往收到单线程的限制而Grace正好拥有出色的单线程性能。
Thor内部Arm Poseidon AE内核汽车增强版本。Thor支持通过NVLink-C2C芯片互联技术连接两个芯片运行单个操作系统(现有很多兴能源汽车厂家将2~4颗Orin处理器集合起来应用来满足算力需求)。
Thor可以配置为多种模式Thor可以将其 2000 TOPS和 2000 TFLOPs全部用于自动驾驶工作流中也可以将其配置为一部分用于驾驶舱AI和信息娱乐一部分用于辅助驾驶。Thor有多计算域隔离允许并发、对时间敏感的多进程无中断运行。可以在一台计算机上同时运行Linux、QNX和Android。Thor集中了众多计算资源不仅降低了成本和功耗同时功能也实现了质的飞跃。 NVIDIA Thor PCBA板卡
提前3年发布也真是难为NVIDIA了给一众跟随的 IC 厂商指明了前进的方向。
