Вчера, 26 августа, на конференции Hot Chips 2024 в Пало-Альто, Калифорния, США, IBM представила новое поколение вычислительных систем для искусственного интеллекта: процессор Telum II и ускоритель IBM Spyre. Эти инновационные продукты предназначены для повышения производительности ИИ и корпоративных приложений.
Процессор IBM Telum II, созданный на базе 5-нанометровой технологии Samsung, оснащён восемью мощными ядрами с частотой 5,5 ГГц. Кеш-память на кристалле увеличена на 40%, с виртуальным L3-кешем объёмом 360 Мбайт и L4-кешем до 2,88 Гбайт. В процессор также интегрирован блок обработки данных (DPU) для ускорения операций ввода-вывода и новое поколение встроенного ИИ-ускорителя.
Telum II демонстрирует значительное улучшение производительности по сравнению с предыдущими моделями. Встроенный ИИ-ускоритель обеспечивает вычислительную мощность до 24 триллионов операций в секунду (TOPS), что в четыре раза больше, чем у предшественников. Архитектура ускорителя оптимизирована для работы с большими языковыми моделями и поддерживает широкий спектр ИИ-моделей для анализа структурированных и текстовых данных.
Новый процессор также поддерживает тип данных INT8, что повышает эффективность вычислений. На системном уровне Telum II позволяет каждому ядру процессора обращаться к любому из восьми ИИ-ускорителей в модуле, что обеспечивает более эффективное распределение нагрузки и общую производительность до 192 TOPS.
IBM также анонсировала ускоритель Spyre, разработанный совместно с IBM Research и IBM Infrastructure Development. Spyre оснащён 32 ядрами ИИ-ускорителя, аналогичными тем, что интегрированы в Telum II. Возможность подключения нескольких ускорителей Spyre к подсистеме ввода-вывода IBM Z через PCIe значительно увеличивает ресурсы для ускорения ИИ-задач.
Telum II и Spyre предназначены для поддержки различных сценариев использования ИИ, включая метод ensemble AI, который использует несколько ИИ-моделей для повышения точности и производительности прогнозирования. Например, в задачах обнаружения мошенничества со страховыми выплатами традиционные нейронные сети могут сочетаться с большими языковыми моделями для более эффективного анализа.
Согласно блогу компании, оба продукта будут выпущены в 2025 году.
