Plany nowej generacji HBM - bez chłodzenia cieczą się nie obejdzie

Slajd ujawniający plany i oczekiwania wobec technologii pamięci HBM następnej generacji został opublikowany przez KAIST (Korea Advanced Institute of Science & Technology) i TERA (Terabyte Interconnection and Package Laboratory), a następnie udostępniony przez Wccftech.

Chociaż jest bardzo mało prawdopodobne, że wszystko przedstawione na tych slajdach trafi do końcowych specyfikacji, zwłaszcza że nawet HBM5 nie został jeszcze sfinalizowany przez JEDEC, a wszystko może ulec zmianie lub dostosowaniu, to jednak pokazuje to, czego rynek i badacze AI oczekują, biorąc pod uwagę zapotrzebowanie i sposoby obejścia ograniczeń tej technologii.

Najpierw przyjrzyjmy się planie działań, który wydaje się być oparty na projektach NVIDII. Seria Rubin, której premiera planowana jest na przyszły rok, będzie wyposażona w pamięć HBM4 o całkowitej pojemności od 288 GB do 384 GB.

Tymczasem HBM5 jest już planowana z zakresem 400–500 GB, HBM6 od 1536 do 1920 GB, a HBM7 od 5120 do 6144 GB. NVIDIA nigdy nie potwierdziła architektur po Feynmanie, więc zasadniczo mamy do czynienia z tym, co może pojawić się później.

Jeśli te prognozy, patrzące dekadę w przyszłość, okażą się trafne, GPU, a dokładniej akceleratory danych i AI do centrów danych, mogą zawierać do 8 układów GPU i prawdopodobnie 32 moduły HBM7.

Te moduły mogłyby wymagać ponad 13 000 W, podczas gdy samo GPU miałoby pobór mocy na poziomie około 1200 W.

Następna generacja pamięci będzie nadal rozwijana w formie warstwowej, ale każda warstwa stanie się cieńsza. Grubość HBM ma nie przekraczać 720 mikrometrów, a dla HBM5 przewidywana jest grubość 36 mikrometrów na kość DRAM.

Biorąc pod uwagę wzrost zużycia energii, KAIST i TERA spodziewają się, że HBM5 (100 W) i HBM6 (120 W) będą już wymagały chłodzenia cieczą, podczas gdy HBM7 (160 W) i HBM8 (180 W) mogą mieć wbudowane rozwiązania chłodzące.

Warto sprawdzić pełną prezentację w źródle poniżej, ale miej na uwadze, że nadal wiemy bardzo niewiele o HBM7 i HBM8.