Автор: За останні кілька років термін HBM (High Bandwidth Memory) перетворився з вузькоспеціалізованого технічного поняття на один з головних факторів, що визначає ціну й доступність потужних AI-прискорювачів. Розберемось, чому саме ця пам’ять стала таким вузьким місцем індустрії.
Проблема, яку вирішує HBM
Сучасні AI-моделі й обчислення для них вимагають не тільки потужних обчислювальних ядер, а й надзвичайно швидкого доступу до великих обсягів даних. Класична пам’ять типу GDDR, яка десятиліттями використовується у відеокартах, підключається до чипа через відносно обмежену кількість контактів на друкованій платі, що створює природну межу пропускної здатності.
Для AI-навантажень, де потрібно постійно й швидко «годувати» обчислювальні ядра величезними обсягами даних, ця межа стає реальним обмеженням продуктивності — потужний обчислювальний чип може простоювати в очікуванні даних, навіть маючи величезну обчислювальну потужність.
Як влаштована HBM
Ключова інженерна ідея HBM — розташувати кілька шарів пам’яті один над одним у вертикальному «стеку» (тривимірне складання чипів, 3D-stacking), з’єднаних між собою тисячами мікроскопічних вертикальних з’єднань, що проходять крізь самі кристали пам’яті (технологія Through-Silicon Via, TSV).
Такий стек пам’яті розміщується максимально близько до основного обчислювального чипа — часто на тій самій підкладці (interposer), — що дозволяє з’єднати їх набагато більшою кількістю паралельних каналів даних, ніж це фізично можливо для традиційної пам’яті на окремій платі.
Результат: набагато вища пропускна здатність
Завдяки величезній кількості паралельних з’єднань і близькому фізичному розташуванню до обчислювального чипа, HBM забезпечує пропускну здатність, що в рази перевищує можливості традиційної пам’яті GDDR того самого покоління — саме це і є ключовою причиною, чому HBM стала стандартом для потужних AI-прискорювачів, а не тільки для найдорожчих ігрових відеокарт.
Чому HBM настільки дорога й дефіцитна
Складність виробництва. Тривимірне складання кількох шарів кристалів пам’яті з мікроскопічними наскрізними з’єднаннями — технологічно набагато складніший і менш відпрацьований процес, ніж виробництво звичайної планарної пам’яті, що позначається на відсотку браку і вартості виробництва.
Обмежена кількість виробників. На відміну від широкого ринку постачальників звичайної оперативної пам’яті, виробництво HBM зосереджене в руках буквально кількох компаній у світі, здатних забезпечити потрібний рівень технологічної складності й обсягів виробництва.
Величезний попит з боку AI-індустрії. Стрімке зростання попиту на потужні AI-прискорювачі для тренування й запуску великих мовних моделей створило значний дефіцит виробничих потужностей саме для HBM, що позначається на цінах і доступності готових AI-чипів, які її використовують.
Чи стосується це звичайного користувача
Безпосередньо HBM не використовується у звичайних споживчих пристроях — смартфонах, ноутбуках чи навіть переважній більшості ігрових відеокарт, де традиційна GDDR-пам’ять досі залишається достатньою й значно доступнішою за ціною.
Втім, непряма дія відчутна: дефіцит виробничих потужностей для HBM частково відволікає загальні виробничі ресурси напівпровідникової індустрії, що може позначатися на доступності й ціні іншого електронного обладнання загалом через конкуренцію за ті самі виробничі потужності передових технологічних процесів.
Підсумок
HBM — вузькоспеціалізована, але критично важлива технологія пам’яті, яка стала ключовим елементом сучасних AI-обчислень саме через свою здатність давати надзвичайно високу пропускну здатність за рахунок складного тривимірного складання чипів. Її дефіцит і висока вартість — не тимчасове явище, а прямий наслідок технологічної складності виробництва в поєднанні зі стрімким зростанням глобального попиту на AI-обчислення.
