| 参数 | NVIDIA H100 CNX | GALAX RTX 3090 Starlight OC |
|---|---|---|
| 品牌 | NVIDIA | GALAX |
| 芯片厂商 | NVIDIA | |
| 架构 | Hopper | Ampere |
| 发布日期 | 2023-03-21 | 2020-09-01 |
| 制程 | 5 nm nm | 8 nm nm |
| 晶体管 | 80,000 million | 28,300 million |
| 核心面积 | 814 mm² | 628 mm² |
| 流处理器 | 14,592 | 10,496 |
| 张量核心 | 456 | 328 |
| 光线追踪核心 | 82 | |
| SM数 | 114 | 82 |
| 基础频率 | 690 MHz | 1,395 MHz |
| 加速频率 | 1,845 MHz | 1,755 MHz |
| 显存频率 | 1,593 MHz | 1,219 MHz |
| 显存容量 | 80 GB | 24 GB |
| 显存类型 | HBM2e | GDDR6X |
| 显存位宽 | 5120 bit | 384 bit |
| 总线接口 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| 显存带宽 | 2.04 TB/s | 936.2 GB/s |
| FP16性能 | 215.400 TFLOPS | 36.840 TFLOPS |
| FP32性能 | 53.840 TFLOPS | 36.840 TFLOPS |
| FP64性能 | 26.920 TFLOPS | 0.576 TFLOPS |
| 功耗TDP | 350 W | 350 W |
| 建议电源 | 750 W | 750 W |
| 显卡插槽 | Dual-slot | Triple-slot |
| 电源接口 | 8-pin EPS | 2x 8-pin |
| CUDA版本 | 9.0 | 8.6 |
| 是否整卡 | 否 | 是 |