Hindistan’da yaşayan bir teknoloji meraklısı, sıradışı bir projeyle dikkatleri üzerine çekti. Alternative-Panic69 (Panic) adındaki bu kullanıcı, Lenovo Yoga dizüstü bilgisayarı, M.2 yuvası ve AMD Radeon RX 7900 XT ekran kartını bir araya getirerek “dünyanın en garip” masaüstü bilgisayarını oluşturdu. Ancak bu sıra dışı sistem, yerel yapay zeka sohbet robotları için kullanılıyor ve dizüstü bilgisayarın RAM’iyle uyumsuzluk sorunları yaşıyor.
Panic, yaklaşık bir ay önce, LLM (Large Language Model – Büyük Dil Modeli) kullanımı için 20 GB VRAM’e sahip bir 7900 XT ekran kartı edinme fikrini ortaya attı. Batılı standartlara göre bile uygun fiyatlı olan bu ekran kartını 550 dolara buldu ve Qwen ile GLM’yi de dahil ederek maceraya atıldı.
İlk etapta, Panic bu ekran kartını bir Lenovo M910Q masaüstü bilgisayarına takmayı planlamıştı, ancak makine işbirliği yapmadı. Bu nedenle, kısa süre önce mantıklı görünen bir sonraki adıma geçti: “dizüstü bilgisayarında ameliyat yapmak”. Bir PCIe harici kablo konektörü ile dizüstü bilgisayarın M.2 yuvasına bağlanan, DeepCool PL750D güç kaynağı ve hızlı bir alt panel sökme işlemiyle her şeyi bir araya getirmeyi başardı.
M.2 yuvası artık kullanılamaz hale geldiği için, ilk zorluk, önyükleme yapabilecek bir yer bulmaktı. Bu sorun, bir USB SSD ile çözüldü. Ana ekranın 7900 XT’ye bağlanması “mükemmel sonuçlar verdi” ve Furmark ile 1080p’de 500 FPS elde edildi. Ancak bu kurulum, modeller için gerekli olan değerli VRAM’i tüketen ekran çerçeve belleği(leri) nedeniyle kaldırıldı ve entegre grafik işlemcisi orijinal görevine geri döndü.
Panic, “[dizüstü bilgisayarının] bir PCIe geliştirme kartına dönüştürülmüş gibi görünüyordu” şeklinde yorum yaptı, ancak aynı zamanda büyük LLM’lerin (Qwen 35B A3B, GLM-4.7 Flash) yalnızca GPU üzerinde çalıştırmanın getireceği zorlukların da farkındaydı. Tüm bunlar, 128K tokenlik bir bağlam penceresiyle birlikte düşünülmelidir.
Başka bir Redditor, bunun klasik bir “üç şeyden iki tanesini seçme” durumu olduğunu belirtti ve gerçekten de durum buydu. Panic, dizüstü bilgisayarının belleğinin (veya yetersizliğinin) nihai olarak ciddi bir darboğaz oluşturduğunu fark etti. Büyük bağlam penceresi, ilgili verilerin RAM’de bulunmasını gerektiriyordu ve sonunda mevcut DRAM doldu. Dizüstü bilgisayar, takas alanını kullanmaya başladı ve bu durum performansı önemli ölçüde düşürdü. Bu noktada GPU “aralıklı olarak çalışıyordu”.
Hikaye, beklenen şekilde sona erdi: Proje ne kadar ilginç ve görsel olarak etkileyici olsa da, dizüstü bilgisayarın gerçek bir mobil cihaz olarak kullanılması gerekiyordu. Bu nedenle, Radeon 7900 XT ve güç kaynağını sığdırabilecek en ucuz AM4 makinesini satın almaya karar verdiler. Panic’in kendi sözleriyle: “Eski bir ofis binası satın almak daha mantıklı olurdu. Ben burada mantıklı olmak için değildim.”
En son haberler, analizler ve incelemelerden haberdar olmak için buraya tıklayarak veya ilgili sosyal medya hesaplarını takip ederek bizi takip edin.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bir yanıt yazın