| 参数 | AMD Radeon Instinct MI300A | NVIDIA L40 CNX |
|---|---|---|
| 品牌 | AMD | NVIDIA |
| 芯片厂商 | AMD | NVIDIA |
| 架构 | CDNA 3.0 | Ada Lovelace |
| 发布日期 | 2023-12-06 | 2022-10-13 |
| 制程 | 5 nm nm | 5 nm nm |
| 晶体管 | 153,000 million | 76,300 million |
| 核心面积 | 1017 mm² | 609 mm² |
| 流处理器 | 19,456 | 18,176 |
| 张量核心 | 568 | |
| 光线追踪核心 | 142 | |
| SM数 | 142 | |
| 基础频率 | 1,000 MHz | 1,005 MHz |
| 加速频率 | 2,100 MHz | 2,475 MHz |
| 显存频率 | 2,525 MHz | 2,250 MHz |
| 显存容量 | 192 GB | 24 GB |
| 显存类型 | HBM3 | GDDR6 |
| 显存位宽 | 8192 bit | 384 bit |
| 总线接口 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| 显存带宽 | 10.3 TB/s | 864.0 GB/s |
| FP16性能 | 653.700 TFLOPS | 89.970 TFLOPS |
| FP32性能 | 81.720 TFLOPS | 89.970 TFLOPS |
| FP64性能 | 81.720 TFLOPS | 1.406 TFLOPS |
| 功耗TDP | 750 W | 300 W |
| 建议电源 | 1,150 W | 700 W |
| 显卡插槽 | OAM Module | Dual-slot |
| 电源接口 | None | 1x 16-pin |
| CUDA版本 | 8.9 | |
| 是否整卡 | 否 | 否 |