В сентябре 2024 года Intel анонсировала новые решения для искусственного интеллекта, представив серверные процессоры Xeon 6 поколения Granite Rapids и ИИ-ускоритель Gaudi 3. Эти технологии разработаны для значительного увеличения вычислительной мощности и оптимизации обработки ИИ-нагрузок.
Xeon 6 (Granite Rapids)
Процессоры Xeon 6, созданные по 5-нм технологии Intel 3, предлагают исключительную вычислительную мощность благодаря высокопроизводительным ядрам (P-ядрам), идеально подходящим для требовательных серверных приложений.
Ключевые характеристики:
- Ядра: От 72 до 128 высокопроизводительных P-ядер.
- Базовая частота: От 2,0 до 2,7 ГГц.
- Максимальная частота в Turbo-режиме: До 3,9 ГГц на одном ядре и до 3,7 ГГц на всех ядрах одновременно.
- Кэш L3: В диапазоне от 432 до 504 МБ.
- TDP: От 400 до 500 Вт.
- Поддержка памяти: 12-канальная DDR5-6400 и MRDIMM-8800.
- Линии PCIe: 96 линий PCI Express.
4o mini
Intel утверждает, что процессоры Xeon 6 обеспечивают более чем двукратный прирост производительности по сравнению с предыдущими поколениями, а также значительно усиливают обработку нейронных сетей, обеспечивая до пяти раз большую эффективность в этих задачах.
ИИ-ускоритель Gaudi 3
Gaudi 3 — это третий выпуск ИИ-ускорителей от Intel, созданный для повышения эффективности работы с генеративными моделями и ускорения процесса обучения глубоких нейронных сетей, что способствует значительному улучшению производительности при обработке данных.
Ключевые особенности:
- Архитектура: 64 тензорных процессора (TPC) и 8 матричных математических движков (MME).
- Память: 128 ГБ HBM2e с пропускной способностью 3,7 ТБ/с.
- Сетевые возможности: 24 порта Ethernet 200 Гбит/с для масштабируемых сетевых решений.
- Форм-факторы: OAM (HL-325L) с TDP до 900 Вт и PCIe AIC (HL-338) с TDP до 600 Вт.
Gaudi 3 обещает на 50% более быстрое обучение моделей, таких как Llama2 7B и GPT-3 175B, по сравнению с решениями от конкурентов, таких как NVIDIA H100, а также улучшенную энергоэффективность на 40% при выполнении выводов, что делает его идеальным для масштабируемых ИИ-решений.
Благодаря этим инновационным продуктам, Intel твердо утверждает свою позицию как ведущий игрок в сфере высокопроизводительных вычислений и ИИ-технологий, предлагая решения, которые могут эффективно удовлетворить увеличивающиеся потребности современных дата-центров и облачных сервисов.
Подробнее можно прочитать на официальном сайте по сылке ниже
https://newsroom.intel.com/artificial-intelligence/next-generation-ai-solutions-xeon-6-gaudi-3
