С выпуском Instinct MI350P компания AMD закрывает промежуток между ускорителями Radeon AI Pro и серверными моделями Instinct MI в формате UBB8. Как следует из названия, новинка основана на архитектуре CDNA 4 и относится к семейству Instinct MI300. AMD позиционирует MI350P как решение для локальной работы с крупными ИИ-моделями, где возможностей серии Radeon AI Pro уже недостаточно. По данным компании, ускоритель способен работать с моделями примерно на 200 млрд параметров.
AMD представила ускорители серии Instinct MI300 еще в июне прошлого года. В линейку входят модели Instinct MI350X и Instinct MI355X в формате OAM, которые отличаются в основном уровнем TDP — 1.000 и 1.400 Вт соответственно.
Instinct MI350P получила вдвое меньше вычислительных блоков по сравнению со старшими моделями. Ускоритель использует 128 Compute Units, распределенных по восьми XDC на подложке. Шина памяти также сократилась вдвое — до 4.096 бит, что повлияло и на объем памяти. Ускоритель оснащен 144 ГБ HBM3E с пропускной способностью до 4 ТБ/с.
TDP можно настроить в диапазоне от 450 до 600 Вт, поэтому теоретическая производительность зависит от типа вычислений и режима работы. Однако относительно Instinct MI350X новинка обеспечивает примерно половину вычислительной мощности.
Поддержки объединения нескольких Instinct MI350P через Infinity Fabric Link нет. Тем не менее один узел может включать до восьми таких ускорителей, а взаимодействие между ними осуществляется через PCI Express 5.0.
Всю плату, включая GPU и память, накрывает массивный радиатор. AMD использует двухслотовый FHFL-дизайн, рассчитанный на серверный воздушный поток. Система охлаждения должна рассеивать до 600 Вт тепла. Дополнительное питание подается через разъем 12V-2x6 на задней части платы.
Instinct MI350P вскоре появится у OEM-производителей и партнеров AMD, включая Dell, Cisco, HPE, Supermicro и Lenovo. Стоимость PCIe-ускорителя компания пока не раскрывает.