<h1>AI基础硬件</h1>
<h2>1. 产品问题</h2>
<ol>
<li>IA2和TA2什么区别？主要是服务器显存吗？ P22：<br />
IA2主要是 910B4 类型卡的集群，显存32G； TA2主要是910B3类型卡的集群，显存64G；</li>
<li>910B集群版 组网图， AI节点和存储节点是同一个吗？P28页； AI节点和存储节点同一节点挂载硬盘，参数网400G交换机是tcp/ip</li>
<li>转交付后多久完成交付？从发货算起，14天，是包含 推理适配这些吗？ P45-46 不包含推理适配， 提供额外的待训推服务；
<!-- 4. 息壤和慧聚的区别？ 息壤是新的平台， 慧聚是老的已合并到息壤； --></li>
</ol>
<h2>2. 鲲鹏</h2>
鲲鹏是国产通用CPU，负责系统级任务和通用计算；国产CPU;
<h2>3. 算力卡</h2>
<h3>3.1. 昇腾 910B</h3>
昇腾是专用AI加速芯片，聚焦高性能AI计算。
910B（Ascend 910B）为具体型号
类别： AI加速芯片（NPU） ，属于专用硬件。
定位：华为昇腾系列的旗舰AI训练芯片，对标NVIDIA A100/H100。
功能：
专为深度学习设计，支持大规模模型训练（如千亿参数模型）；
高算力（FP16算力可达数百TFLOPS），低功耗优化；
需与CPU（如鲲鹏）协同工作，通过华为自研的AI框架（MindSpore）调用。
<h3>3.2. 华为昇腾910B系列中的B2、B3和B4型号对比</h3>
<ol>
<li>
算力性能
910B2：提供最高的FP16算力，达到414T，适合需要高计算能力的任务，如大规模模型训练。 (液冷)
910B3：FP16算力为313T，稍低于B2，但仍适合训练任务，可能在某些优化方面有所调整。 (风冷)
910B4：FP16算力为280T，算力最低，适合对计算资源需求较低的场景。(风冷)
</li>
<li>
适用场景
910B2：专为训练任务优化，适合需要高性能计算的数据中心应用，能效比高，适合企业级部署。
910B3：同样面向训练，集成了DVPP模块，减少通信开销，适合大规模分布式训练。
910B4：专为推理优化，支持混合精度计算（FP16/INT8），适合边缘计算和实时应用。
</li>
<li>
显存配置
所有型号均配备64GB HBM2显存，提供高带宽和低延迟，适合处理大规模数据集。
</li>
<li>
能效比
910B2在鲲鹏服务器中的功耗较低，性能/功耗比更高，适合高效计算需求。
910B3和B4的能效信息未明确提及，但B4作为推理型号，可能在能效方面有进一步优化。
</li>
</ol>
<h3>3.3. 英伟达H20</h3>
<ol>
<li>
H20的背景
定位：NVIDIA为中国市场定制的数据中心GPU（属于H系列的合规版本），主要应对美国出口管制政策（算力限制）。
发布时间：2023年底（受限政策后的替代方案）。
架构：基于Hopper架构（与H100同代），但核心规格大幅缩减以满足合规要求。
</li>
<li>
H20的关键特性
芯片类型： GPU（图形处理器/加速卡），属于通用并行计算加速器。
核心用途：
AI训练与推理（支持FP16/FP8精度，适配PyTorch、TensorFlow等框架）；
高性能计算（HPC）、科学计算。
性能限制：
算力：FP16算力约148 TFLOPS（对比H100的FP16算力为989 TFLOPS，大幅降低）；
显存带宽：显存带宽降至H100的约25%，显著影响大模型训练效率。
互联能力：支持NVLink（多卡互联），但带宽可能受限。
</li>
<li>
H20的应用场景
受限场景下的AI模型训练：
适用于参数规模较小的模型（如百亿级参数），或对算力需求不敏感的场景。
推理部署：
在图像识别、自然语言处理（NLP）等场景中提供中等规模推理算力。
替代方案定位：
因A100/H100无法对华供应，H20是NVIDIA为中国市场提供的“合规版”GPU。
</li>
<li>
与华为昇腾910B的对比
特性 NVIDIA H20（GPU） 华为昇腾910B（NPU）
核心架构 Hopper（通用GPU架构） 达芬奇（专用NPU架构）
主要用途 通用AI训练/推理 + 图形/HPC 专用AI训练/推理
算力（FP16） ~148 TFLOPS ~320 TFLOPS（理论峰值）
生态支持 CUDA、PyTorch、TensorFlow MindSpore、CANN（华为自研生态）
适用场景 中小规模模型、兼容性要求高 大规模模型、华为体系内优化
供应限制 仅限中国市场，性能缩水 无外部限制，自主可控
</li>
</ol>
<h3>3.4. 比较总结</h3>
H20是NVIDIA的GPU，属于受出口限制影响下的“合规版”AI加速卡，性能显著低于H100/A100，但保留了GPU的通用性和CUDA生态优势。
与昇腾910B的区别：
H20是通用GPU，昇腾910B是专用NPU；
H20依赖CUDA生态，昇腾910B依赖华为自研生态；
<ul>
<li>昇腾在纯AI算力上更强，但H20的通用性和兼容性更广。</li>
</ul>