SK hynix ve SanDisk'ten Yeni Bellek Standardı: High Bandwidth Flash (HBF) Yapay Zekâ Darboğazını Çözecek

SK hynix ve SanDisk, yapay zekâ hızlandırıcılarında High Bandwidth Memory (HBM) ile kurumsal SSD'ler arasında yaşanan ciddi performans farkını gidermek amacıyla ortak bir çözüm sundu. İki bellek devi, HBF adını verdikleri yeni standardı tanıttı ve bu teknoloji etrafında farklı şirketlerin uyumlu ürünler geliştirebileceği bir ekosistem kurmayı hedefliyor. Günümüzde yapay zekâ modellerinin boyutu hızla büyürken, mevcut bellek mimarilerinin bu büyümeye ayak uydurmakta zorlandığı biliniyor; HBF de tam bu noktada devreye giriyor.

HBF Nedir, HBM'den Farkı Ne?

Kısaca özetlemek gerekirse HBF, HBM ile kurumsal SSD'ler arasında konumlanan bir teknoloji olarak tasarlandı. HBM gibi HBF de üst üste yığılmış çoklu bellek yongalarına dayanıyor; ancak DRAM yerine depolama kapasitesini artırmak için NAND flash kullanılıyor. Buradaki amaç HBM'in yerini tamamen almak değil, kapasite sınırlarını tamamlayıcı bir rol üstlenmek. Büyük dil modelleri anlık işlem gerektiren verileri HBM üzerinden işlerken, daha büyük hacimli veriler HBF'de saklanabilecek. Bu sayede sistemler hem yüksek hızdan hem de daha geniş depolama alanından aynı anda faydalanabilecek.

512GB Kapasite, 3TB/s Bant Genişliği

SK hynix ve SanDisk'in açıkladığı ilk spesifikasyonlara göre HBF, 512GB'a kadar kapasiteye ve 0,4TB/s ile 3TB/s arasında değişen bant genişliğine ulaşabiliyor. Teknolojinin yapay zekâ çıkarım (inference) performansına nasıl katkı sağlayacağını anlamak için şöyle bir örnek verilebilir: 500 milyar parametreli bir yapay zekâ modelinde, her gigabaytın bir milyar parametre barındırdığı varsayılırsa toplam 500GB'lık bir alan gerekiyor. Bu denli büyük bir modeli tamamen HBM üzerinde tutmak maliyetli olacağından, şirketler bu tür modelleri HBF'de saklayarak hem maliyet avantajı elde edebilecek hem de sistem tasarımında daha fazla esneklik kazanacak.

UCIe Desteği ve Esneklik Katmanı

High Bandwidth Flash, aynı zamanda UCIe (Universal Chiplet Interconnect Express) spesifikasyonunu da destekliyor. Bu sayede HBF, farklı CPU ve GPU'lara bağlanarak sistemlere ek bir esneklik katmanı kazandırabiliyor. Bu esneklik, üreticilerin kendi donanım mimarilerine göre HBF modüllerini uyarlayabilmesi anlamına geliyor ki bu da ekosistemin hızla büyümesine zemin hazırlıyor. SK hynix'te çözüm geliştirme birimi başkanı Kim Chun-sung, şirketin bellek ile depolama arasındaki sınırları genişleteceğini ve genel sistem verimliliğini artıran yeni mimarilerin inşasına katkı sunacaklarını belirtti.

Samsung Farklı Bir Yol İzliyor

SK hynix ve SanDisk HBF standardını yaygınlaştırmaya çalışırken, Samsung ise NVIDIA gibi şirketlerle CMX çözümleri geliştirip seri üretime geçerek kendi yolunda ilerliyor. Samsung'un 500 katmana kadar yığınlanabilen V10 ve V11 NAND flash üretimi, yapay zekâ sunucularının GPU offloading performansını artırmak için hızlı veri erişimine ihtiyaç duyduğu senaryoları hedefliyor. Bu da daha iyi yapay zekâ çıkarım performansı anlamına geliyor ve sektörde iki farklı yaklaşımın aynı anda olgunlaşmasını sağlıyor.

Hangi Standart Öne Çıkacak?

Yapay zekâ donanımlarında bellek ve depolama arasındaki çizginin giderek belirsizleştiği bir dönemde, HBF ile Samsung'un CMX yaklaşımı arasındaki rekabetin önümüzdeki aylarda netleşmesi bekleniyor. Sektördeki büyük oyuncuların hangi standardı benimseyeceği, yapay zekâ sunucu mimarilerinin geleceğini şekillendirecek kritik bir gelişme olarak öne çıkıyor. Şirketlerin önümüzdeki dönemde açıklayacağı ortaklıklar ve ürün duyuruları, bu rekabetin seyrini büyük ölçüde belirleyecek.