8GB’lık Ekran Kartına OpenCode İçin Yerel Model Kurdu, Claude’ın Limit Stresini Unuttu.

Claude bu yıl hız limitleriyle ilgili pek çok iyileştirme yapsa da, yine de en elverişsiz anda ortaya çıkma alışkanlığından vazgeçmiyor. Ve bunun sebebi de karmaşık bir şey değil; genellikle oturum, büyük bir dosya klasöründeki içerği kontrol etmek gibi işler için kullanılıyor ve sonra onları toplama geçiyor. Bu tür görevlerin aslında Claude’un en iyi modellerine ihtiyacı yok.

Ekle

XDA

Google‘da

Tercihli Kaynak Olarak Ekle

Google Discover’dan Takip Et

8GB GPU’lu bir oyun bilgisayarı sürpriz derecede yetkin modelleri yerel olarak çalıştırabilir. Ve OpenCode, Claude’un ücretsiz rakibi, işaretlediğiniz neredeyse her yerel modelle çalışabilir. Gerçek soru da 9B modellerimin, Claude kullanımımı fırlatan o temel işleri yapıp yapamayacağı.

Yerel modellerimi OpenCode’a aktarmak

Masaüstü uygulaması işi çok kolaylaştırıyor

Terminalden AI ajanları çalıştırmaya alışmış olsam da, OpenCode’un masaüstü uygulamasını kullanmaya karar verdim çünkü o tıklanabilir arayüz, benim gibi görsel iş yapanlar için her zaman daha üstün. Yerel modellerimin çoğunu LM Studio sunucusu üzerinden çalıştırdığım için ilk adım modeli Developer sekmesinde yüklemek. Uzun süredir güvendiğim Qwen 3.5 9B’yi tercih ettim, ancak Claude’un muhakeme yeteneğiyle eğitilmiş yeni favorim Qwythos 9B’yi de yanım aldı. İkisi de Q4_K_M’de quantize edilmiş ve ikisi de araç çağırma konusunda oldukça başarılı. Onları yüklerken bağlam uzunluğunu yaklaşık 30k’ya ayarladım, bu da genellikle temel oturumlar için yeterli ve donanımımda iyi bir denge kuruyor.

OpenCode, modelleri yalnızca kendi yaygın yerel adreslerinde çalıştıkları sürece otomatik olarak LM Studio, Ollama ve vLLM’den alır. LM Studio kütüphanemin tamamı OpenCode’ın ayarlarındaki Models (Modeller) sekmesinde göründü ve istediğim modelleri model seçiciden etkinleştirdim. Bir modelin üzerine geldiğinde bağlam boyutunu ve araçları destekleyip desteklemediğini gösteriyor; bu da önemli çünkü araçlar OpenCode’ın dosyaları gerçekten açıp düzenlemesini sağlayan şey.

Yerel模ule geçmek aynı zamanda Claude tarafındaki bir kısıtlamadan da kaçınmayı sağlıyor. Anthropic bunu yasakladığı için OpenCode’a bir Claude Pro veya Max aboneliği bağlayamazsınız.

Yerel bir modelin dosyalarınızı okumasına izin vermek

8GB VRAM’in sizi burada oldukça hızlı sınırlaması

Kodlama ajanının bir şeyi yararlı biçimde yapabilmesi için önce okuması gerekir. OpenCode, modele bir klasörde arama yapma ve dosyaları açma araçları verir ve açtığı her dosya sohbete eklenir; bu da bağlamı düşük ayarladıysanız oldukça hızlı bir şekilde bağlam sınırına ulaşabilir.

İlk denemem, Qwen’den Obsidian kütüphanemin tamamındaki etiketsiz notları bulmasını istemekti ve bu işi yapamadı. Bağlam tükenene kadar dosyaları açmaya devam etti, ardından OpenCode oturumu derledi; bu, bağlam dolduğunda otomatik olarak gerçekleşen, sobeti (kısa bir özetle değiştirerek) yoğunlaştıran bir adımdır. Her derlemeden sonra Qwen, hangi notları zaten kontrol ettiğini unutup onları tekrar okumaya başladı. Üstelik bunu o noktada durdurup tek bir küçük klasörle sınırladım ve bu şekilde işe yaradı. Benzer şekilde, birkaç ay önce vibe coding ile yazdığım küçük bir alışkanlık takip uygulaması için de durum buydu; örneğin her dosyanın ne işe yaradığını sormam, bana yararlı bir özet sundu.

Qwythos, yanıt vermeden önce bir sorun üzerinde düşünür ve bu da onu biraz yavaşlatabilir. Örneğin, bir oturumda notlarımın örtüştüğü bir özet istediğimde, yanıtı tamamlamak altı dakikadan fazla zaman aldı. Ancak sonunda, asla birbirine bağlayacağımı düşünmeyeceğim iki notu ortaya çıkardı ve bunları birbirine bağlamayı önerdi. Bu aracın büyük bir proje için Claude’ı yerini alacağını düşünmüyorum ve kaç dosyayı alabildiğinin, zorlanmaya başlamadan önce hala emin değilim. Ancak çalışıyor; buradaki en büyük kısıtlayıcı faktör sizin donanımınız ve çalıştırabileceğiniz modeller oluyor.

Yerel modellerin dosyalarımı düzenlemesine izin vermek

Her zaman Claude oturumlarımı yiyen işler bunlar

OpenCode, belirli satırlar üzerinde düzenlemeler yapar ve neyin değiştiğine dair bir fark (diff) gösterir. Ayrıca varsayılan olarak dosya değişikliklerinin görüntülerini alır, böylece ajanın yaptığı her şey oturum içinde geri alınabilir.

Her iki modele de dosyalarıma bazı değişiklikler yapmaları ve başka hiçbir şeye dokunmadan etiketler gibi şeyler eklemelerini istedim. Hem Qwen hem de Qwythos, talimatları ne kadar iyi uyguladıklarını gösterdi; ikisi de tam olarak istediğim şeyi yaptı ve gerisine dokunmadı, ki bu bazen bazı amiral gemisi bulut modellerinin bile zaman zaman aşılabileceği bir durum. Ayrıca, OpenCode’un fark gösterimi, tam olarak neye dokunduklarını görmek kolaylaştırıyordu.

Savuştukları yer biçimlendirmeydi. 9B’lik bir model talimatlarınızı çok harfiyen uygular, böylece fark görüntüsünde doğru görünen ancak o dosyayı okuyan uygulamanın tanımadığı bir sözdizimi kullanabilir; örneğin. Bu yüzden, düzenlemenin tamamlandığını düşünmeden önce dosyayı, o dosyayı gerçekten kullanan herhangi bir uygulamada açarım; bunun yerine modelin özeti bağlamı tam olarak anladığını varsaymam.

Bu durumda da bağlam (context) token limitleri geçerli. OpenCode’un bağlam göstergesi, sekiz dosya okumanın zaten yaklaşık 17k’lık bir alan kapladığını gösteriyordu; bu da beni bir oturumu yalnızca bir dosya ya da küçük bir dosya grubu için yeterli saymaya, yeni her görev için ise yeni bir oturum başlatmaya itiyor. Bu yine de kod tabanında yalnızca birkaç dosyadaki bir buton etiketini düzeltmek gibi pek çok durumu karşılayacak kadar geniş.

Bunlar aslında Claude kullanımımı tüketen türden işler. Pro, beş saatlik kayar bir pencere ile haftalık bir tavan üzerinde çalışıyor ve her iki kotalama da claude.ai, Claude Code ve masaüstü uygulamasının paylaştığı tek bir havuzdan düşülüyor. Bu işleri yalnızca OpenCode’a taşımak, haftalık kullanımımın belki çeyreğini, yoğun haftalarda ise üçte birini serbest bırakabilir.

Ama zor işler yine de Claude’a kalıyor

Güç gerektiren herhangi bir iş için hâlâ Claude’a yöneliyorum; ancak GPU’m, Claude içinde kolayca biriken ve kullanımımı tüketen küçük, sıkıcı işleri şaşırtıcı derecede kolayca hallediyor. Donanımımla yakın zamanda bir yükseltme yapmayı planlamıyorum, bu yüzden biraz eski modellerlere dayanmak zorundayım; ama işi gayet iyi yapıyorlar.