Ausgewogen
+1200%
Gesamtsystem
Durch H100-GPUs mit HBM3e-Speicher wird eine drastisch höhere Datenbandbreite erreicht. Der Wechsel auf InfiniBand minimiert die Latenz im Multi-GPU-Training signifikant.
GPU-VRAM
320 GB
Interconnect
NVLink + IB NDR
Steigert die Trainingsgeschwindigkeit gegenüber der CPU-Only-Basis um den Faktor 12
- Hardware
Nachher (neu)
4x NVIDIA H100 (80 GB HBM3e) - Hardware
Nachher (neu)
InfiniBand NDR 400GbE - RAM~+10%
Nachher (neu)
1 TB DDR5-5600 ECC