Bu haftanın başlarına kadar, Nvidia hakkındaki baskın anlatı şöyleydi: Yapay zeka patlamasının ilk yıllarında, Nvidia en son teknolojiye sahip GPU‘ların tek kaynağıydı ve bu durum sektör büyüdükçe büyük karlılık sağladı. Son birkaç yılda Amazon ve Google gibi büyük bulut sağlayıcıları kendi çiplerini geliştirmeye başladı ve artık Nvidia tek oyunca değil, bu da birçok yatırımcının rekabetin şirketin avantajını ne kadar sürdürülebilir hale getireceği konusunda endişelenmesine neden oluyor.
Bu, ilgi çekici bir hikaye ve büyük ölçüde doğru. 2023’ün başından 2025’in ortasına kadar piyasa değerini 10 kat artıran Nvidia hisseleri, son bir yıldır GPU rekabeti endişeleriyle daha mütevazı bir yörüngede seyrediyor.
Şirketin Çarşamba günkü gelir raporlamasının ardından yeni bir anlatı ortaya çıktı ve yatırımcılar, Nvidia’nın avantajının sadece GPU’larla sınırlı olmadığına dair farkındalık artıyor. Yapay zeka hesaplama gücü gigawatt seviyelerine ulaştıkça, orkestrasyon giderek daha karmaşık bir görev haline geliyor. Şaşırtıcı olmayan bir şekilde, Nvidia bu görevi yerine getirmek için gereken en son teknolojiye sahip donanımın çoğunu geliştirdi ve bu da şirkete GPU’lardaki rekabet artışına rağmen sistemler alanında büyük bir avantaj sağlıyor.
Her ne kadar compute as a commodity”>hesaplama gücünün bir meta haline geldiği söyleniyor olsa da, megascale bir veri merkezini en yüksek verimlilikle çalıştırmak hala inanılmaz derecede zor ve dağıtımlar daha büyük ve hızlı hale geldikçe bu zorluk sadece artıyor.
Bunun bazılarını, Nvidia’nın aslında ne sattığına yakından bakarak görebilirsiniz. Şirket şu anda Rubin GPU’sunu bir dizi başka birimle birleştiren Vera Rubin mimarisini piyasaya sürüyor, bunlar arasında Vera CPU’su, Groq 3 LPX çıkarım hızlandırıcısı ve depolama ve ağ için benzer raflar bulunuyor.
Geçen hafta, Nvidia’daki yetkililerle bu sistemlerin aslında ne yaptığı hakkında konuştum ve sonuçlar şaşırtıcı oldu. Rubin GPU’su gibi, bunlar da son derece özel sistemler ancak tokenleri işlemek yerine, GPU dışında her şeyin mümkün olduğunca verimli çalışmasını sağlamaya odaklanıyorlar. Eğer GPU motor ise, bunlar arabanın geri kalanı.
Özellikle Vera CPU’su, veri orkestrasyonu sorununa odaklanıyor. Nvidia’nın depolama teknolojilerinden sorumlu başkan yardımcısı Jason Hardy, “Vera önemlidir çünkü tek bir sunucuda veya herhangi bir hesaplama platformunda bulunabilecek bellek miktarı sınırlıdır” dedi.
Veri merkezleri işlem gücünü artırdıkça, bellek kapasitesi de arttı ve bu nedenle companies like Micron”>Micron gibi şirketler altyapı patlamasının ikinci dalgasında büyük kazançlar elde etti. Ancak, bu verilerin doğru zamanda GPU’ya ulaştırılması karmaşık bir konu ve şirketler watt başına token sayısını düşürmeye çalıştıkça, bu tür trafik yönlendirmenin ne kadar önemli olduğunu fark ediyorlar.
“Bu operasyonlarda 3 kata kadar iyileşme gördük, burada Vera CPU’su veri hızlandırmasına olanak tanıyor. Böylece flash belleğimizi en üst düzeyde kullanabiliyoruz çünkü performans darboğazı olmadan tüm gücünü alabiliyoruz” dedi Hardy.
Bu sorunun Nvidia dışında da örneklerini görebilirsiniz. OpenAI, Jalapeño çipini geliştirirken, tüm iş yükünün tek bir sistem içinde kalmasını sağlayarak veri hareketini en aza indirerek bu zorlukları tamamen ortadan kaldırmaya odaklandı.
“Jalapeño’yu, veri hareketini ve iletişim gecikmelerini en aza indirecek şekilde tasarladık” dedi şirket, earlier this month”>bu ayın başlarında yayınlanan bir blog gönderisinde. “Büyük alanı sayesinde tüm iş yükü tek bir bağlı sistem içinde kalır, bu da veri hareketini en aza indirir ve tamamlanmış isteğin başlangıcından sonuna kadar hızlı ve verimli olmasını sağlar.”
Bu, farklı bir yaklaşım; iş yükünü tek bir entegre çip içinde gerçekleştirerek veri hareketinden tamamen kaçınıyor. Ancak genel mantık aynı: daha fazla işlem döngüsü yerine akıllı trafik kontrolü ile verimliliği artırmak.
Bu, şirketlerin GPU geliştirmekten daha fazlasına ihtiyaç duyduğu yeni bir altyapı katmanı anlamına geliyor. Ve en azından ilk aşamada, Nvidia’nın bu alanda belirgin bir avantaja sahip olduğu görülüyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bir yanıt yazın