Yerel bir LLM ile bir oyunu aynı bilgisayarda çalıştırmak genellikle ikisinden birinin zor durumda olması anlamına gelir. 16GB VRAM’e sahip tipik bir oyun GPU‘su, iyi bir model ya da bir oyun için yeterli belleğe sahip olabilir; ancak ikisini aynı anda çalıştırmak oldukça zor bir iş ve büyük ihtimalle verilerin daha yavaş sistem RAM‘inize taşmasına yol açar.
Ekle
XDA

Google’da
Tercihli Kaynak Olarak Ekle
Google Discover’da Takip Et
HP OmniBook Ultra 16, Nvidia’nın RTX Spark teknolojisini bir araya getirerek 20 çekirdekli Arm CPU ve 6.144 çekirdekli Blackwell GPU ile 128GB birleşik bellekle geliyor. 125 milyar parametreli bir uzmanlar karışımı (mixture-of-experts) model olan Qwen 3.8 Flash Next’i kullanarak bir botu LAN üzerinden bir Minecraft dünyasına davet edebildim. Ve 128GB VRAM sayesinde Minecraft oynayabilir ve modeli aynı anda botu kontrol edebilirdim.

Mükemmel mi? Kesinlikle hayır; botun yanıt vermesi biraz zaman alıyor, ara sıra sahip olmadığı eşyaları vaat ediyor ve bir aşamada sunucudan bağlantıyı koparmadan önce zemindeki bir çukura atladı. Buna rağmen çalışıyor ve oturumun büyük bir kısmında model eşlik ederken de Minecraft yaklaşık 120 FPS ile çalışıyordu.
Mindcraft bir dil modelini Minecraft oyuncusuna dönüştürür
Ancak pek iyi biri değil
Bot, Minecraft botları oluşturmak için bir Node.js kütüphanesi olan Mineflayer üzerine inşa edilmiş açık kaynaklı bir proje olan Mindcraft’ı kullanır. Mindcraft, botu diğer her oyuncu gibi dünyanıza bağlar ve siz onunla oyun içi sohbetten etkileşime geçersiniz. Bir şey yapmasını istediğinizde, modele komandalar biçiminde gelen araçlar sunulur. Örneğin, bana 10 kayın kütüğü getirmesini istedim ve bunu yapmadan önce sohbete “!collectBlocks(“birch_log”, 10)” gönderdi. Mindcraft asıl hareketi, madeni ve envanter yönetimini üstlenirken, model ne yapılacağını belirler ve eylemlerini anlatır.
Kurulum oldukça basit. Minecraft dünyamı sabit bir portta LAN’a açtım, Mindcraft’ı buna bağladım ve node main.js’yi çalıştırdım. Bu arada botun sağlığını, konumunu ve envanterini gösteren bir web paneli de başlar. Mindcraft’ın ayrı bir llama.cpp seçeneği yok, ancak LM Studio entegrasyonu ayarlanabilir bir adrese sahip OpenAI uyumlu bir API kullandığı için bunu yerel llama.cpp sunucuma yönlendirdim.
Aynı zamanda görme özelliğini de kurabilirsiniz; !lookAtPlayer gibi komandalar botun bakış açısından bir görüntü yakalar ve modelin etrafında neler olduğunu görmesini sağlar. Mindcraft ayrıca dört kütük toplamaktan bir taslakтан bir kilise inşa etmeye kadar uzanan önceden hazırlanmış görevler içerir; bunlar botu hemen test etmek ve çalıştığını sağlamak için kullanışlıdır.

Aynı zamanda modeli bilgisayarınızda JavaScript çalıştırabilir, !newAction komandası aracılığıyla. Bunu kapalı bıraktım, ancak bu size oyundan dışarıda şeyler yapmasını isteyebileceğiniz anlamına gelir; çıktılar oyun içi sohbete geri aktarılır.
Model ve oyun aynı belleği paylaşır
Ancak biri diğerini etkilemez
Nvidia, RTX Spark üzerinde modelleri çalıştırmak için llama.cpp tarifleri sağlar ve ben işleri başlatmak için Qwen3.8-Flash-Next tarifini kullandım. Bu, görme desteği ve spekülatif kodlama için bir MTP taslak modeli içerir; llama.cpp modeli ise 9931 portunda OpenAI uyumlu bir API üzerinden sunucuda çalıştırır. Minecraft’ı başlatmadan önce, kısa bir bağlamda saniyede yaklaşık 46 token ölçtüm, 32.000 token’da ise 42’in biraz altına düşüyor.
Qwen 3.8 Flash Next, 125 milyar parametreli bir uzmanlar karışımı modeldir, ancak token başına yalnızca yaklaşık 6 milyar tanesi aktiftir ve 51 milyar parametreli n-gram gömmesi bellekte tamamen saklanmak yerine depolamadan akar. Yerel bir LLM için büyük miktarda bellek kullanır, ancak dizüstü bilgisayarın 128GB birleşik bellek havuzu, Minecraft’ı eşlik ettirmek için yeterli alan sağlıyor.
Daha da iyisi, Minecraft Windows on Arm’da yerel olarak çalışır; Java’nın ve gerekli grafik kütüphanelerin Arm64 sürümleri olduğu için Microsoft’un PRISM x86 öykürtmesini kullanmaya gerek yoktur. Oturumun büyük bir kısmında model eşikerken de yaklaşık 120 FPS alıyordum.
Bu işlevin çalışması için GPU zamanlamasında herhangi bir özel ayar yapılmasına da gerek yok. Nvidia, oyunlarla paralel olarak AI iş yüklerini çalıştırmak için optimizelemeler sunan NVIGI SDK’sına sahip; ancak CUDA in Graphics özelliği şu anda RTX Spark üzerinde desteklenmiyor. Yani llama.cpp sunucusu ile Minecraft, söz konusu optimizelemeler olmadan GPU kaynaklarını ortak kullanıyor; ancak Minecraft oldukça talepkâr bir oyun değil. Aynı GB10 çipini kullanan bir ThinkStation PGX üzerinde daha önce Cyberpunk 2077’yi 1440p’de çalıştırdım ve 125B’lik bir model yanına eşlik ettiğinde bu türden bir oyunun çok daha fazla zorlanmasını beklerim.
Basit işleri yeterince iyi hallediyor
Meşe kütükleri, fidanlar ve toprak
Qwen dünyama katıldıktan sonra, istekli ama biraz şaşkın bir arkadaş gibi davranmaya başladı. Bana selam verdi, yaptığı her şeyi anlattı ve boşta kaldığında talimat istedi. Bana meşe kütükleri toplamayı söylediğimde, “!collectBlocks(“birch_log”, 10)” yazılı bir mesaj gönderdi, en yakın ağaçlara yürüdü ve kesmeye başladı. Ona bir şey yapmasını istemekle, onu yaparken görmemiz arasında belirgin bir gecikme var; çünkü model konuşmayı işlemesi ve sonraki komutunu üretmesi gerekiyor.
Malzeme toplamak muhtemelen en iyi yaptığı alan; o tüm meşe kütüklerini topladıktan sonra, çürümekte olan ağaçlardan topladığı fidanları da bana vermesini istedim. “Tabii, işte fidanların” dedi, yanıma geldi ve sekizini ayaklarıma bıraktı. Görmesi oldukça hoş bir durum, bu yüzden biraz daha ileri gittim. Yaklaşık 30 blok toprak toplamayı istedim ve “Hemen hallediyorum” deyip doğrudan toprağı kazmaya koyuldu. Bu sefer tam da o kadar pürüzsüz gitmedi.
Cevaplar kaba kalıplara dökülmüş değil, bu güzel bir durum. Sunucuya katıldığında (veya tekrar bağlandığında), dil modeli tarafından kendisinin ürettiği benzersiz bir selam verir. Oldukça küçük bir detay, ancak size bir komutu sadece yerine getiren bir script yerine başka bir insanla oynuyormuş hissi veriyor.
Aynı zamanda bot oldukça hata da yapıyor. Bana topladığım meşe kütüklerini vermesini ilk sorduğumda, “Tabii, işte bunlar” deyip bana on tane vermeye çalıştı. Tek sorun, hiçlerinin olmamasıydı; çünkü onu başta yanlışlıkla Yaratıcı moduna almıştım. Mindcraft’un günlükleri, öğeleri hiç almadığını gösterdi ve model hızla düzeltti: “Envanterimde şu an herhangi bir birch_log yok. Sizin için tekrar toplayayım.” Bu, en azından yakalanma durumunu halletmenin oldukça insani bir yolu.
Birkaç kez, devre dışı olmasına rağmen bot !newAction komutunu çağırmaya çalıştı. Örneğin, “Ahşap balta kullanarak 5 daha meşe kütüğü topla” gibi sorduğum bir görevi yerine getirmek için bir plan oluşturdu, ancak kod yazmaya izin verilmediğini fark etti. Kısıtlamayı sohbette kabul edip bunun yerine Mindcraft’un standart komutlarını kullanmayı teklif etti; bunu zaten baştan yapması gerekiyordu.
Bana daha fazla meşe kütüğü toplama görevinde, bot koşar adım bir çukura atladı ve hemen düştüğü anda oyunun dışına çıktı. Birkaç saniye sonra geri geldi, “Eşya topluyorum!” diye duyurdu ve sanki hiçbir şey olmamış gibi yoluna devam etti. Sonra bana sorduğum meşe kütüklerini bıraktı. Oldukça havalı.
Toprak toplamak da biraz tuhaftı. Bot kendisi bir çukura kazıldı, bir süre orada oturdu, ardından “Takıldım!” deyip ardından “Ayrılıyorum” diyerek tekrar bağlantıyı kesti. Bu hatalar, Mindcraft’un yerleşik takılımdan kurtarma sisteminden geliyor; bu sistem, botun bir görevi yerine getirirken 20 saniyedir hareket etmediğini tespit edebiliyor. Önce kendisini beş blok uzağa hareket ettirmeyi deniyor, ancak bu başka bir on saniye sonra başarısız olursa, tekrar denemeden önce ajanı sonlandırıyor. Bağlantıyı tekrar kurduktan sonra “Bir süre orada takıldım. Şimdi tekrar deniyorum” dedi ve kazmaya devam etti. Yaklaşık bir dakika sonra yanıma geldi ve bana yarı bir paket toprak bloğu bıraktı.
Bu gezinme sorunları modelden kaynaklanmıyor ya da performansla hiçbir ilgisi yok. Mineflayer’ın yol bulma özelliğinde bazı problemler var ve model talimatlarını yürütmek için Mindcraft’a güvenir. On log toplama kararı alabilir ama ağaçlara gerçekten gidip onları toplamak ayrı mesele. Çoğu zaman bot bunu yerine getirmekte zorlansa bile model ne istediğimi anladı.
Sporcu botun ne kadar zekâ olduğunu pek beğenmedim (aslında birkaç komik olay tam tersi yöne eğdi) ama tüm deneyi aynı makinede çalıştırabilmem beni etkiledi. Minecraft neredeyse tüm süre boyunca 120 FPS çalışırken, 125 milyar parametrelik bir model arka planda yanıtlar üretip bir sonraki adımı karar veriyordu. Tüm çıkarım aynı makinede gerçekleşti, bulut API’si kullanmadım ve kart üzerindeki 128 GB VRAM sayesinde oyunu yer açmak için model boyutundan ödün vermedim.
Ama asıl olan, çoğu zaman sadece eğlenceli bir şekilde uğraşmak.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔




Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.