На протяжении достаточно длительного времени в сети ходили слухи о том, что компания Intel планирует создать собственное аппаратное обеспечение для работы с искусственным интеллектом. А сегодня, к счастью, компания наконец представила свой собственный ускоритель для искусственного интеллекта под названием Gaudi 3, основанный на технологическом процессе в 5 нм. Специалисты из данной отрасли отмечают, что данный ускоритель будет конкурировать с графическими процессорами H100 от NVIDIA, о пока что говорить об этом слишком уж рано. В рамках собственной презентации компания Intel сообщила, что новый ускоритель обеспечивает повышение вычислительных мощностей для ИИ в 4 раза для инструкций BF16 и повышение пропускной способности памяти в 1,5 раза по сравнению с предыдущим поколением.
Это на самом деле значительный скачок в производительности, особенно в вопросе обучения искусственного интеллекта, так как именно при тренировке большой языковой модели расходуется наибольшее количество ресурсов системы. Также в компании заявили, что ускоритель искусственного интеллекта Intel Gaudi 3 предложит гибкость при формировании инфраструктуры в центрах обработки данных благодаря открытому программному обеспечению и поддержке стандартных отраслевых протоколов сети Ethernet. Это позволит крупным компаниям проще масштабировать свои кластеры вычислительных мощностей, что на самом деле даже важнее, чем чистая производительность на бумаге.