Intel запускает процессоры Xeon 6 и ИИ-ускорители Gaudi 3: революционные новинки
Компания Intel представила новые серверные процессоры серии Xeon 6 и специализированные ИИ-ускорители Gaudi 3. Эти инновации включают до 128 ядер, высокую пропускную способность памяти и оптимизированные функции для работы с нейросетевыми моделями.
Компания Intel анонсировала выпуск новых серверных процессоров серии Xeon 6 (Granite Rapids), которые оснащены исключительно P-ядрами. Одновременно была представлена линейка специализированных ИИ-ускорителей Gaudi 3.
Новинки Granite Rapids производятся по технологии Intel 3 (5 нм). В серию входят пять моделей с числом ядер от 72 до 128. Базовая частота этих процессоров варьируется от 2,0 до 2,7 ГГц, а максимальная частота на одном ядре достигает 3,9 ГГц, при этом все ядра могут работать на частоте от 3,2 до 3,7 ГГц. Процессоры оснащены кеш-памятью L3 объемом от 432 до 504 Мбайт и имеют заявленный показатель TDP от 400 до 500 Вт.
Эти чипы поддерживают как однопроцессорные, так и двухпроцессорные конфигурации, имеют поддержку 12-канальной ОЗУ DDR5-6400 и MRDIMM-8800, а также 96 линий PCIe.
Intel отмечает, что серия Xeon 6 отличается от своих предшественников увеличенным количеством ядер, удвоенной пропускной способностью памяти и встроенными функциями ускорения ИИ в каждое ядро. Эти процессоры предназначены для обеспечения высокой производительности в задачах ИИ — от периферийных систем до центров обработки данных и облачных сервисов.
По заявлениям Intel, новые процессоры Xeon 6 более чем вдвое превосходят по скорости процессоры Epyc Genoa (максимум 96 ядер Zen 4) в широком спектре вычислительных задач и более чем в пять раз быстрее в нейросетевых обработках.
Специализированные ИИ-ускорители Gaudi 3 оптимизированы для работы с генеративными моделями. Они включают 64 тензорных процессора (TPC) и восемь движков матричного умножения (MME) для ускорения вычислений глубоких нейронных сетей. Ускорители Gaudi 3 оборудованы 128 Гбайт HBM2 набортной памяти и поддерживают до 24 портов Ethernet 200 Гбит для высокомасштабируемых сетей. Gaudi 3 обещает бесшовную совместимость с фреймворком PyTorch и усовершенствованными трансформными и диффузионными моделями Hugging Face.
Intel утверждает, че новые ИИ-ускорители Gaudi 3 обеспечивают до 20 процентов большую пропускную способность и двукратное улучшение соотношения цены и производительности по сравнению с H100 при выполнении вывода модели LLaMa 2 70B.