Yapay zeka alanında devrim yaratacak bir gelişmeyle, OpenAI, Hot Chips konferansında Broadcom ile ortaklaşa geliştirdiği Jalapeño adlı yapay zeka hızlandırıcısını tanıttı. Bu yeni çip, sadece dokuz ay gibi kısa bir sürede geliştirildi ve NVIDIA‘nın GB200 ve GB300 modellerine kıyasla önemli avantajlar sunuyor.
Jalapeño, 216 GB HBM4 belleğe sahip ve saniyede 15.4 TB veri aktarım hızına ulaşabilen büyük bir yapay zeka hızlandırıcısıdır. Çip, 700W güç tüketimiyle çalışırken, 3.4 MXFP8 PFLOPS işlem gücü sunuyor. OpenAI, bu çipin NUMA (Non-Uniform Memory Access) mimarisi sayesinde düşük gecikme süresi ve yüksek performans-watt oranıyla NVIDIA’nın modellerini geride bıraktığını iddia ediyor.
Jalapeño’nun en dikkat çekici özelliklerinden biri, 64 adet bellek/işlem çekirdeği içeren “memory-sliced” yapısıdır. Bu sayede, sık kullanılan verilerin işlem birimlerine yakın tutulması sağlanarak performans artışı hedefleniyor. Ayrıca, çipte bulunan özel yüksek bant genişliğine sahip kolektif ağ, veri transferini optimize ederek darboğazları önlüyor.
OpenAI, Jalapeño’nun performansını NVIDIA’nın modelleriyle karşılaştıran InferenceX benchmark sonuçlarına göre, çipin enerji verimliliğinde %1.5 ile %1.9 arasında bir artış sağladığını ve gecikme sürelerini %1.7 ile %3.6 oranında azalttığını belirtiyor.
Jalapeño’nun geliştirilmesinde yapay zekanın önemli bir rol oynadığı da vurgulanıyor. OpenAI, tasarım sürecini hızlandırmak ve performansı artırmak için yapay zeka algoritmalarını kullandı. Bu sayede, geleneksel tasarımlara kıyasla işlemci performansında %56’ya varan iyileşmeler elde edildi.
OpenAI, Jalapeño’nun sadece bir başlangıç olduğunu ve yapay zeka hızlandırıcıları alanında daha da yenilikçi çalışmalar yapmaya devam edeceklerini duyurdu. Şirket, yeni nesil yapay zeka çipleri üzerinde çalıştığını ve gelecekte daha da yüksek performanslı çözümler sunmayı hedeflediğini belirtti.
Jalapeño, yapay zeka teknolojisinin gelişiminde önemli bir dönüm noktası olarak görülüyor. Bu yeni çip, sadece performansıyla değil, aynı zamanda geliştirme sürecindeki yeniliklerle de dikkat çekiyor ve gelecekteki yapay zeka uygulamaları için yepyeni olanaklar sunuyor.
Kaynak: Tom’s Hardware
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.