Исследователи предложили способ выполнять часть вычислений прямо внутри быстрой HBM-памяти, которую используют в ускорителях и мощных вычислительных системах. Работа представлена на конференции ACM Computing Frontiers 2026. В тестах на Samsung Aquabolt-XL подход показал до 14,9 GFLOP/s на одном канале памяти.
Обычно данные лежат в памяти, процессор забирает их, считает и возвращает результат обратно. Однако в ИИ, научных расчетах и аналитике данных объемы становятся огромными. В итоге система тратит много времени и энергии не только на вычисления, но и на постоянную пересылку данных туда-сюда.
HBM-память частично решает эту проблему, потому что передает данные быстрее обычной памяти. Но даже высокой скорости уже не всегда хватает. Поэтому инженеры давно изучают идею processing-in-memory, или вычислений в памяти. Смысл простой: если данные уже лежат в памяти, часть операций можно выполнить прямо там, не отправляя их каждый раз к процессору.
Сложность в том, что такие системы пока неудобно программировать. У коммерческих HBM-PIM платформ мало доступных операций, а разработчику часто приходится писать специальные низкоуровневые инструкции под конкретное устройство. Это мешает использовать технологию шире.
Авторы новой работы предложили сделать слой, который связывает такие вычисления с матричными инструкциями RISC-V. Если упростить, они пытаются сделать так, чтобы программа могла обращаться к HBM-памяти почти как к обычному вычислительному блоку.
Главный результат в том, что исследователи смогли выполнять операции с матрицами прямо в памяти. Это особенно важно для ИИ, где матричные вычисления встречаются постоянно. Подход снижает необходимость гонять промежуточные данные между памятью и процессором, а значит, потенциально экономит время и энергию.
Пока это не готовая технология для массовых компьютеров. Тесты проводились на экспериментальной платформе, работал только один канал HBM, а часть операций все еще не поддерживается. Но память постепенно перестает быть просто складом данных и становится участником вычислений.