fast doppelt so schnell wie Nvidias H100-Chip.
hat die neueste Generation seines KI-Chips Gaudi vorgestellt. Gaudi 3 ist unter anderem für das Training und die Analyse von künstlicher Intelligenz optimiert. Laut Intel-CEO Pat Gelsinger ist Gaudi 3 beim Training von KI-Modellen wie dem Sprachmodell TensorRTBei anderen KI-Aufgaben wie Vorhersagen zu Antworten auf reale Fragen auf Basis eines trainierten neuronalen Netzes soll Gaudi 3 den KI-Chip von Nvidia um 50 Prozent übertreffen. Schon beim Benchmark MLPerf war der Vorgänger Gaudi 2 der einzige Rechenzentrums-Chip, der mit dem H100 konkurrieren konnte.
Der Gaudi 3 besteht aus 64 separaten Tensor-Kernen auf einem Die, um Matrix-Multiplikationen zu beschleunigen, die das Herzstück der KI-Verarbeitung sind. Unterstützt wird er von acht diskreten "Matrix-Math-Engines". Das Bauteil nutzt 96 MByte schnellen On-Chip-SRAM-Cache-Speicher und weitere 128 GByte externen HBM3e-Speicher. Dabei handelt es sich um den schnellsten DRAM der Branche, der aus mehreren neben dem Prozessor gestapelten Speicherchips besteht.
Der Guadi 3 erreicht 1,84 TeraFLOPs, eine Billion Fließkomma-Operationen pro Sekunde, wenn er mit 8-Bit-Fließkomma-Mathematik arbeitet, dem weit verbreiteten Maß für die Chipleistung.
Gelsinger sagte, dass Gaudi 3 dabei helfen wird, künstliche Intelligenz durch drei verschiedene Phasen zu bringen. Die erste, die gegenwärtige Phase, ist das "Zeitalter der KI-Copiloten", so Gelsinger. "Das zweite Zeitalter steht vor der Tür, das Zeitalter der KI-Agenten." Die dritte Stufe wäre das "Zeitalter der KI-Funktionen", wenn die Technologie eingesetzt wird, um "komplexe, unternehmensweite Ergebnisse zu automatisieren."