OpenAI CEO‘si Sam Altman, kişisel bilgisayarlarda büyük miktarlarda RAM bulundurmanın sınırlı bellek arzının verimsiz bir kullanımı olduğunu savunarak veri merkezlerinin bu kaynakları daha iyi kullanabileceğini belirtti. Bulut tabanlı AI hizmetlerine giderek daha popüler bir alternatif haline gelen yerel AI çıkarımı (local AI inference), belleğin çoğu zaman kullanılmadan kaldığını ve dolayısıyla kıt DRAM’ın kötü bir şekilde tahsis edildiğini söyledi.
Global bir tahsis perspektifinden bakıldığında, aslında dünyanın sınırlı DRAM arzının herkesin kendi bilgisayarında durup zamanın ancak %5’inde kullanılması oldukça kötü. Tıpkı bu tedarik kısıtlamasıyla uğraşırken olduğu gibi, bulutta maksimum kullanım istersiniz, – Sam Altman.
Global bir tahsis perspektifinden bakıldığında, aslında dünyanın sınırlı DRAM arzının herkesin kendi bilgisayarında durup zamanın ancak %5’inde kullanılması oldukça kötü. Tıpkı bu tedarik kısıtlamasıyla uğraşırken olduğu gibi, bulutta maksimum kullanım istersiniz, – Sam Altman.
Kısacası Altman, belleğin merkezileştirilmiş veri merkezlerinde, sürekli olarak çok sayıda kullanıcı ve iş yüküne hizmet verebilmesi sayesinde daha iyi kullanılabileceğine inanıyor. Ancak savunusu yerel AI çıkarımına odaklanıyor ve oyun, günlük uygulamalar ve çoklu görev gibi insanların PC’lerinde RAM’e ihtiyaç duymasının ardındaki birçok nedenti hesaba katmıyor.
Altman’ın görüşü aynı zamanda OpenAI’nin iş modeluyla da uyumlu. Şirket bazı açık ağırlıklı (open-weight) modeller sunmasına rağmen, ana ürünleri veri merkezlerinde çalışıp abonelikler ve bulut hizmetleri aracılığıyla erişilen kapalı kaynaklı modellerdir. Yerel AI modellerinin daha yaygın şekilde benimsenmesi, kullanıcıların bulut platformlarına ve aboneliklere olan bağımlılığını azaltabilir; ancak büyük modelleri eğitmek için veri merkezlerinin önemi korumaya devam edecek.
Bu açıklamalar, altyapı sağlayıcılarının giderek daha da sınırlı hale gelen bellek tedarikini rekabet ederek karşılamaya çalıştığı bir dönemde geldi. Bellek üreticileri, veri merkezlerinden gelen talebi önceliklendirerek tüketici pazarına ek baskı uyguluyor ve bilgisayarlar ile diğer donanımların fiyatlarının yükselmesine katkıda bulunuyor. Altman’ın bu sözleri, dünyanın sınırlı DRAM tedarikinin büyük AI veri merkezlerinde toplanması mı yoksa bireysel kullanıcıların kullanımına mı bırakılması gerektiğine dair tartışmaya katkı sağlıyor.
Kaynaklar
Cheeky Pint aracılığıyla Tom’s Hardware
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.