Theo GSMArena, Intel cho rằng Gaudi 3 nhanh hơn so với H100, một AI Accelerator được đánh giá là tiêu chuẩn ngành AI hiện tại do Nvidia phát triển. Gaudi 3 sử dụng kiến trúc và nguyên tắc cơ bản giống như Gaudi 2, nhưng nó sử dụng quy trình 5nm của TSMC (so với 7nm của TSMC trong Gaudi 2), điều này giúp hoạt động hiệu quả hơn. Gaudi 3 có tới 128 GB HBM2e với băng thông 3,7 TB/giây và TDP 900W.
Intel đã đưa ra các điểm chuẩn so sánh Gaudi 3 với AI Accelerator dẫn đầu thị trường của Nvidia là H100, nơi chúng chạy các mô hình ngôn ngữ lớn khác nhau như LLAMA2-7B, LLAMA2-13B và GPT 3-175B. Kết quả là, Gaudi 3 cung cấp hiệu suất nhanh hơn tới 1,7 lần so với đối thủ của mình.
Không chỉ có vậy, Intel cũng nói thêm rằng AI Accelerator Gaudi 3 có hiệu suất sử dụng điện cao hơn tới 2,3 lần so với H100 của Nvidia.
Sau khi giới thiệu, Intel cho biết công ty đã gửi mẫu Gaudi 3 với khả năng làm mát bằng không khí để lấy mẫu cho các đối tác khi sản phẩm bắt đầu được phân phối trong quý 3. Sau đó, công ty sẽ cung cấp các mẫu Gaudi 3 với khả năng làm mát bằng chất lỏng trong quý 4 năm nay.