Hynix, önde gelen bir dergide CPO yol haritasını yayınladı: Sadece "işlem gücü arasında ışık kullanmak" değil, aynı zamanda ışığı bellek arayüzlerine de genişletmek.

SK Hynix, Virginia Üniversitesi ve diğer kurumlarla iş birliği içinde, *Nature Electronics* dergisinde bir CPO (Hesaplamalı İşlem Noktası) teknolojisi yol haritası makalesi yayınladı. Makale, hesaplama gücünün her iki yılda bir üç katına çıkmasına rağmen, ara bağlantı bant genişliğinin yalnızca 1,4 kat arttığına ve bu durumun "bant genişliği duvarını" yapay zeka genişlemesi için temel bir darboğaz haline getirdiğine dikkat çekiyor. CPO teknolojisi, önemli bir atılım olarak listeleniyor ve CPO'nun bellek arayüzlerine genişletilmesi, birden fazla yapay zeka hızlandırıcısının aynı bellek havuzunu paylaşmasına ve bellek kullanım verimliliğini artırmasına olanak sağlaması vizyonu öne sürülüyor.

20 Ağustos'ta, SK Hynix, Virginia Üniversitesi ve diğer kurumlardan araştırmacılar, yüksek performanslı bilgi işlem ve yapay zekada birlikte paketlenmiş optik (CPO) teknolojisinin geliştirme yol haritasını sistematik olarak özetleyen bir makaleyi en üst düzey bilimsel dergi olan * Nature Electronics *'te ortaklaşa yayınladılar. Bu, SK Hynix'in yapay zeka ara bağlantı mimarisinin teknik planını bu kadar prestijli bir dergide ilk kez kamuoyuna açıklaması anlamına geliyor.

Makale, HBM'nin çipler içindeki bellek darboğazını çözdüğünü, ancak yapay zeka kümeleri binlerce GPU'ya ulaştıkça, raflar arasındaki veri aktarımının yeni bir kısıtlama haline geldiğini, yani "bant genişliği duvarı" oluştuğunu savunuyor. CPO, bu darboğazın üstesinden gelmek için önemli bir yol olarak konumlandırılıyor.

Makalenin uzun vadeli vizyonu, optik ara bağlantıları bellek arayüzlerine kadar genişletmektir. Mevcut çözümler öncelikle işlemciler ve raflar arasındaki veri iletimini ele almaktadır. Bununla birlikte, önerilen "optik merkezli" mimari, işlemci kaynak havuzunu (XPU havuzu) bir fotonik ara bağlantı elemanı aracılığıyla doğrudan bellek kaynak havuzuna bağlar. Bu, birden fazla yapay zeka hızlandırıcısının büyük miktarda belleği paylaşmasını sağlayarak, mevcut paketleme fiziksel kısıtlamalarının üstesinden gelir.

Makalenin sorumlu yazarları, SK Hynix'te yapay zeka altyapı ekibinin başkanı Seunghoon Hong ve Virginia Üniversitesi Elektrik ve Bilgisayar Mühendisliği Bölümü'nde profesör olan Kyusang Lee'dir. Katılımcı kurumlar arasında ayrıca Illinois Üniversitesi Urbana-Champaign (UIUC), Nanyang Teknoloji Üniversitesi (NTU), Massachusetts Teknoloji Enstitüsü (MIT) ve Yonsei Üniversitesi de bulunmaktadır.

Bu sabah, SK Hynix, ham palm yağı (CPO) ihraç kararı ve hisse geri alım planı haberiyle %11'in üzerinde değer kazandı. Yerli CPO konsept hisseleri de dalgalı kazançlar elde etti; Taicheng Optoelectronics %12'nin üzerinde yükselirken, Zhongjing Electronics daha önce günlük tavan fiyatına ulaştı ve Tianzhun Technology, Shijia Photonics, Dekel ve Liante Technology'nin hisseleri de %6'nın üzerinde değer kazandı.

Bant genişliği darboğazı: İşlem gücü ne kadar yüksekse, darboğaz o kadar belirginleşir.

Yapay zekâ modellerinin eğitimi artık tek bir çip veya sunucuyla sınırlı değil, raflar ve modüllerden oluşan büyük ölçekli ağlar üzerinde gerçekleşiyor. Bu mimaride, genel sistem performansı yalnızca işlemci ve bellek arasındaki bağlantının verimliliğine değil, aynı zamanda raflar arasındaki veri aktarım hızına da büyük ölçüde bağlıdır.

Veriler, işlem gücünün her iki yılda bir yaklaşık üç kat arttığını, oysa aynı dönemde ara bağlantı bant genişliğinin yalnızca yaklaşık 1,4 kat arttığını gösteriyor.

Bu boşluk, "bant genişliği duvarının" kaynağıdır. Geleneksel bakır tel elektrik bağlantıları kısa mesafelerde hala maliyet avantajına sahip olsa da, iletim hızları ve mesafeleri arttıkça sinyal kaybı ve güç tüketimi keskin bir şekilde artar, bu da giderek daha karmaşık dengeleme devreleri gerektirir ve gecikme de artar.

Kyusang Lee makalesinde doğrudan şu noktaya dikkat çekiyor: "Hesaplama çipleri daha güçlü hale gelse bile, çipler arasındaki veri iletimi yetişemezse genel sistem performansı iyileştirilemez. Fiziksel sınırlamaları olan bakır ara bağlantıların optik ara bağlantılarla değiştirilmesi, gelecekteki ölçeklenebilirliği sağlamanın en umut verici yoludur."

CPO: Optik motoru bir işlemci paketine yerleştirmek

CPO'nun temel fikri, optik alıcı-vericiyi (TRx) işlemciyle aynı pakete entegre ederek, çiplerin uzun mesafeli elektrik sinyalleri yerine optik sinyaller kullanarak veri alışverişi yapmasını sağlamaktır.

Seunghoon Hong bunu şu şekilde açıkladı: "CPO, yapay zeka sistemlerinde veri akış şeklini temelden değiştiriyor ve işlem gücünü ölçeklendirmenin önündeki en büyük engellerden birini ortadan kaldırıyor."

Özellikle, CPO, yüksek hızlı elektrik sinyallerinin iletim mesafesini mümkün olan en kısa mesafeye sıkıştırarak, kalan yolu optik bir bağlantıyla değiştirir. Bu, paket içindeki elektrik bağlantılarının verimliliğini korurken, ışığın düşük kayıp özelliklerinden yararlanarak çipler, raflar ve kümeler arasında yüksek hızlı iletim sağlar ve aynı zamanda elektromanyetik girişime karşı daha güçlü direnç sunar.

Makale, yeni nesil yapay zeka altyapısı için net teknik özellikler ortaya koyuyor: düğüm başına 100 Tb/s'yi aşan bant genişliği, 1 pJ/bit'ten daha düşük enerji tüketimi ve çipler arası gecikmenin 10 nanosaniyeden az olması.

Makale ayrıca, CPO'nun 2D ve 2.5D ara katman konfigürasyonlarından 3D heterojen istiflemeye evrimini özetlemekte ve ticari kullanıma geçilmesi için aşılması gereken temel teknik zorlukları listelemektedir.

Daha uzun vadeli bir hedef: ışığı bellek arayüzlerine kadar genişletmek.

Makale, optik ara bağlantıları bellek arayüzlerine kadar genişletmeyi amaçlayan uzun vadeli bir vizyon öneriyor; bu mimari fikir, mevcut CPO tartışmasından bir adım öteye gidiyor.

Mevcut çözümlerde, optik ara bağlantılar öncelikle işlemciler ve raflar arasındaki veri iletimini ele almaktadır. Bununla birlikte, önerilen "optik merkezli" mimari, işlemci kaynak havuzunu (XPU havuzu) ve bellek kaynak havuzunu bir fotonik ara bağlantı elemanı aracılığıyla doğrudan birbirine bağlar.

Bu mimarinin pratik önemi , her bir hızlandırıcının kendi bağımsız belleğine sahip olması yerine, birden fazla yapay zeka hızlandırıcısının büyük bir bellek havuzunu paylaşabilmesinde yatmaktadır. Bu, yalnızca bellek kullanım verimliliğini artırmakla kalmaz, aynı zamanda model boyutu büyümeye devam ettikçe yapay zeka altyapısına daha esnek bir ölçeklenebilirlik de sağlar.

Kyusang Lee, "Optik ara bağlantıları bellek arayüzlerine genişletmek, bilgi işlem çiplerinin etrafındaki fiziksel sınırlamaları aşacak ve bellek kapasitesi ile elektriksel bağlantı sayısı üzerindeki kısıtlamaları ortadan kaldıracaktır" dedi.

Hong sözlerine şöyle devam etti: "En büyük avantaj, veri aktarımının verimliliğini artırarak yapay zeka sistemlerinin daha esnek bir şekilde ölçeklenebilmesidir. Bu da nihayetinde müşterilere yapay zeka altyapısını daha verimli bir şekilde işletmek için gerekli temeli sağlar."

HBM tedarikçilerinden sistem mimarisi katılımcılarına kadar

HBM, yapay zeka hızlandırıcı paketlemesinde bellek bant genişliği sorununu çözerek SK Hynix için son yıllarda temel bir rekabet avantajı haline geldi. CPO yol haritasının yayınlanması, şirketin teknoloji stratejisini tek bileşenlerden sistem düzeyinde mimariye doğru genişlettiğini gösteriyor.

Röportajda Hong bu değişimi açıkça ifade etti: "Bellek şirketleri, tekil bileşenler sağlamaktan, CPO gibi teknolojiler aracılığıyla müşterilerinin tüm sistemlerinin rekabet gücünü artırmaya yardımcı olan ortaklar olmaya doğru evrim geçiriyor."

Kyusang Lee ayrıca bu süreçte akademi ve endüstri arasındaki iş birliğinin vazgeçilmez olduğunu vurguladı: "Akademi performans sınırlarını zorlamada mükemmeldir, endüstri ise üretim verimliliği, maliyet, ısı dağılımı ve tedarik zinciri de dahil olmak üzere büyük ölçekli uygulamaların pratik gereksinimlerini anlar. Bu iki bakış açısını birleştirmek, uygulanabilir bir yol haritası geliştirmek için şarttır."

Ayrıca, ticarileştirmenin hala önemli zorluklarla karşı karşıya olduğunu da kabul etti: "Düşük güç tüketimli fotonik cihazların entegrasyonundan tutarlılık protokollerinin geliştirilmesine ve sistem güvenilirliğinin iyileştirilmesine kadar zorluklar önemli ölçüde devam ediyor. Anahtar nokta, bellek cihazlarını kontrolcüler, fotonik bileşenler ve paketleme ile entegre bir sistem olarak birlikte tasarlamaktır."

Risk Uyarısı ve Feragatname

Yatırım yapmak risk içerir; lütfen dikkatli olun. Bu makale kişisel yatırım tavsiyesi niteliğinde değildir ve bireysel kullanıcıların özel yatırım hedeflerini, mali durumlarını veya ihtiyaçlarını dikkate almaz. Kullanıcılar, bu makaledeki herhangi bir görüş, bakış açısı veya sonucun kendi özel durumlarına uygun olup olmadığını değerlendirmelidir. Bu bilgilere dayanarak alınan herhangi bir yatırım kararı kendi sorumluluğunuzdadır.