реклама
Intel представила новый ускоритель искусственного интеллекта (ИИ) под названием Gaudi 3, сообщает Wccftech. Графический процессор Gaudi 3 производится по 5-нм техпроцессу TSMC, оснащён гетерогенным вычислительным механизмом, состоящим из 64 настраиваемых блоков ИИ, программируемых тензорных ядер (TPC) и восьми движков для умножения матриц (MME). Блоки разделены между двумя вычислительными кристаллами. Оба кристалла используют общий кэш объёмом 96 МБ и подключаются к восьми стекам HBM2e памяти объёмом до 16 ГБ каждый. Максимальный общий объём памяти ускорителя 128 ГБ, а пропускная способность — 3,7 ТБ/с.
реклама
Ускорители Gaudi 3 будут выпускаться в различных форматах и с различным охлаждением. Ускорители в форм-факторе OAM мощностью до 900 Вт будут предлагаться с воздушным охлаждением, мощностью более 900 Вт — с жидкостным.
Будут и PCIe варианты мощностью до 600 Вт с пассивным охлаждением. Intel также разработала 19-дюймовую плату, на которой можно разместить до восьми ускорителей общей мощностью 7,6 кВт.
В числе других преимуществ Gaudi 3: 4-кратное увеличение производительности вычислений в формате BF16, 1,5-кратное увеличение пропускной способности памяти и 2-кратное увеличение пропускной способности сети, в каждый ускоритель интегрированы по 24 порта Ethernet со скоростью 200 Гбит/с, что обеспечивает гибкие возможности создания быстрой масштабируемой сети.
Ускоритель разработан для эффективного выполнения крупномасштабных вычислений, каждый матричный движок способен выполнять 64 000 параллельных операций.
По тестам Intel, процесс обучения моделей на ускорителях Gaudi 3 может проходить до 1,7 раз быстрее, а поиск логических выводов до 1,5 раз быстрее, по сравнению с NVIDIA H100. Также отмечается преимущество в эффективности до 2,3 раз.
Ожидается, что ускорители Intel Gaudi 3 в формате OAM станут доступны в третьем квартале 2024 года, а PCIe варианты — в четвёртом квартале 2024 года.