| 参数 | NVIDIA H100 PCIe 96 GB | AMD Radeon Instinct MI250 |
|---|---|---|
| 品牌 | NVIDIA | AMD |
| 芯片厂商 | NVIDIA | AMD |
| 架构 | Hopper | CDNA 2.0 |
| 发布日期 | 2023-03-21 | 2021-11-08 |
| 制程 | 5 nm nm | 6 nm nm |
| 晶体管 | 80,000 million | 58,200 million |
| 核心面积 | 814 mm² | 724 mm² |
| 流处理器 | 16,896 | 13,312 |
| 张量核心 | 528 | |
| SM数 | 132 | |
| 基础频率 | 1,665 MHz | 1,000 MHz |
| 加速频率 | 1,837 MHz | 1,700 MHz |
| 显存频率 | 1,313 MHz | 1,600 MHz |
| 显存容量 | 96 GB | 0.12 GB |
| 显存类型 | HBM3 | HBM2e |
| 显存位宽 | 5120 bit | 8192 bit |
| 总线接口 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| 显存带宽 | 3.36 TB/s | 3.28 TB/s |
| FP16性能 | 248.300 TFLOPS | 362.100 TFLOPS |
| FP32性能 | 62.080 TFLOPS | 45.260 TFLOPS |
| FP64性能 | 31.040 TFLOPS | 45.260 TFLOPS |
| 功耗TDP | 700 W | 500 W |
| 建议电源 | 1,100 W | 900 W |
| 显卡插槽 | Dual-slot | Dual-slot |
| 电源接口 | 8-pin EPS | 2x 8-pin |
| CUDA版本 | 9.0 | |
| 是否整卡 | 否 | 否 |