Google Çeviri’yi Bıraktım: Yerel Modelim GPU’mda Çalışıyor, Çevrimdışı da İşe Yarıyor.

Google Translate, çoğumuzun varsayılan olarak gördüğü araçlardan biri. Ücretsiz, kullanışlı ve genellikle konuşmadığımız bir dilde yazılmış bir metnin özünü anlamak için genellikle yeterli. Ancak yerel AI modelleri iyileştikçe, kendi donanımımız giderek daha yetenekli hale geldikçe, metni bir bulut hizmetine göndermenin hâlâ varsayılan olması gerekip gerekmediğini merak etmeye başladım.

Samimi olmak gerekirse, Google Translate’i baştan beri neredeyse kullanmıyorum, yani yıllardır güvendiğim bir aracı terk ettiğim gibi bir durum yok. Bunun yerine, tamamen kendi PC’m üzerinden GPU‘mu kullanarak, internet bağlantısı olmadan çalışan bir çeviri kurulumu oluşturmanın ne kadar zor olacağını keşfetmek istedim. Sonuç, ev sahipliğinde LLM alanında inanılmaz ilerlediğimizi gösterdi, çünkü sonuçlar beklediğimden çok daha ilginçti.

Google Translate, bir şeyleri çevirmenin tek yolu değil

Kullanışlılık çoğu zaman kontrol maliyetiyle gelir

Google Translate’in işini iyi yaptığına dair bir bahane üretmemek oldukça akılsız olurdu. Ücretsiz, neredeyse her cihazdan erişilebilir ve restoran menülerini, yabancı dil tabelalarını ya da Asya sunucusundaki Call of Duty rakiplerinizden gelen uzun bir hakareti çevirirken mükemmel derecede yeterli. Ancak kullanışlılık, bir araç metin çevirme gibi sıradan bir şey için varsayılan hale geldiğinde, alternatifleri görmezden gelmemizi sağlayan komik bir eğilime sahip.

İlk sınır, bağlantı. Google çevrimiçi dil paketlerine sahip, ve genel olarak faydalılar, ancak çeviri deneyimi, çevrimiçi olarak aldığınız deneyimden oldukça farklı. İnternetin güvenilir olmadığı, hizmetlerin engellendiği veya mobil verinin pahalı olduğu bir yerdeyseniz, tanıdık bir iş akışı bile can sıkıcı hale gelebilir.

Ardından, metnin kendisi üzerindeki kontrol geliyor. Hassas belgeleri bir online hizmete göndermek, gizli yazışmalarla uğraşıyor olsanız ya da içeriğinizin başka bir üçüncü taraf tarafından işlenmesini istemeseniz, her zaman uygun olmayabilir. Yerel çıkarım, metni ve çeviri sürecini kendi makinenizde tutan basit bir alternatif sunar.

Son olarak, esneklik de oldukça büyük bir artı. Geleneksel bir çeviri genelde size bir çeviri sunar, ancak tonu, terminolojisi ya da hedef kitabi hakkında pek bir şey söylemez. Öte yandan, bir dil modeli bu talimatları hesaba katabilir, sonuçlar modelin kendisine bağlı olsa bile.

Yine de, bunun tüm bunların Google Translate’i “eski” yaptığından bahsetmek abartılı olur. Ancak, kurulumu ve kullanıma başlatması inanılmaz kolay olduğunda, özellikle yerel bir alternatifi keşfetmeye değer.

Kendi çevrimiçi olmayan çeviri modelimi kurdum

Bir eklenti olarak da çalışıyor

Kurulumum üç parçadan oluşuyor — modelleri çalıştırmak için llama.cpp, modellerin kendisi ve her şeyi tarayıcıya bağlayan bir Chrome eklentisi. Sunucumun seçtiğim tarayıcı entegrasyonuyla çalışan bir uç nokta sunduğu için Ollama yerine llama.cpp’yi seçtim, bu da kurulumu nispeten basit tuttu.

RTX 4070 Ti’mdeki 12GB VRAM ile sınırlanmaya başladığım için model boyutları konusunda gerçekçi olmak zorundaydım. Bu nedenle, deneylerim için Gemma 4 12B (Q4_K_M) ve Qwen3.5-9B (Q5_K_M)’yi seçtim, çünkü bu modeller farklı dil ihtiyaçlarımı karşılayacak ve çok daha yavaş olan sistem RAM’ine taşmadan, yerel LLM’min yanıtlarını yavaşlatmayacak.

llama.cpp çalışır durumda ve GPU yükleme etkinleştirildiğinde, Gemma ve Qwen modellerimi yalnızca GPU’ya sınırlayabildim ve modeli tarayıcımdaki llama.cpp Web UI’ına sundum. Model sunucuda yüklenip hazır olduğunda, llama.cpp-host sunucumu açıkça çeviri modeli olarak kullanmamı sağlayan Margin Chrome eklentisini kurdum. Gemma 4’ten çeviri yardımı istemek için metin duvarlarını kopyalamak ve webUI’a koymak zorunda kalmadım — sadece Margin’i ona yönelttim ve eklenti web sayfalarını anında kendi yerel olarak host edilen LLM’mi kullanarak çevirdi.

Avrupa dilleri için Gemma kullanıyorum ve deneyimim sonucunda elde edilen sonuçlar oldukça başarılı. Çeviriler ihtiyaçlarım için yeterli derecede doğal ve bulut tabanlı bir iş akışına geri dönmeye sebep olacak herhangi bir sorunla karşılaşmadım. Japonca, Çince veya Korece gibi diğer dillerde ise Qwen3.5’in dilbilgisi doğruluğunu kaybetmeden çeviri yapma konusunda çok daha yetkin olduğu gözlemledim.

Herkes Google Translate’i yerel AI ile değiştirmeli mi?

Belirli bir kullanıcı kitlesi en fazla fayda sağlayacak

Herkesin bir öğleden sonrayı yerel bir çeviri modeli kurarak geçirmesini önermem. Google Translate hızlı çeviriler için çok daha pratik ve herkes yabancı dildeki bir menüyü anlamak için bir LLM çalıştırmak zorunda değil. Ancak teknik dokümantasyonla düzenli olarak ilgileniyorsanız, yabancı dil araştırmaları yapıyorsanız veya üçüncü taraf bulut çevirilerine yasal olarak izin vermeyen gizli sözleşmeler ya da NDA kapsamındaki materyaller gibi durumlarla karşılaşıyorsanız, tam da burada çeviriyi tamamen kendi donanımınızda tutmak oldukça güzel avantajlar sunuyor.

Kendi LLM’lerimizden sorumlu olmamızın gizliliği koruduğu konusunda sık sık konuşuyoruz, ancak bu tek satış noktası değil (en büyüğü de değil). Yerel bir LLM, bir dilden diğerine sözcükleri çevirmekten çok daha fazlasını yapabilir. Belirli bir üslubu korumasını, kültürel nüansları açıklamasını, teknik terimleri korumasını veya bir mesajın anlamını kaybetmeden daha doğal soundingmasını isteyebilirsiniz. Google Translate’i bu kadar çok talimati tutarlı biçimde yerine getirmeye çalışın.

Bu esneklik, yerel AI’ı başka bir dilde mesajlar oluştururken özellikle kullanışlı kılıyor; burada teknik açıdan doğru ama ürpertici bir cümle üretmekten çok, gerçek bir kişi gibi konuşmak önem taşıyor.

Çeviri sohbetini iyileştirebilir ve modelden memnun kalana kadar ifadesini ayarlamasını isteyebilirsiniz. Ancak diğer herkes için Google Translate yeterli olacaktır. Ancak çevirileriniz üzerinde daha fazla kontrol istiyorsanız, yerel bir model bu emeğe değer.

De-Googling’in bazı kısımları oldukça kolay

Yerel bir çeviri modeli kurmayacağım sadece başka bir tarayıcı sekmesi açmaktan kaçınmak için, ancak oyun PC’min sadece hızlı ve güzel oyunlar render etmekten çok daha fazlasını yapabilen bir araca dönüştüğünü görmek son derece tatmin edici. RTX 4070 Ti’m oyunlarda zaten yeterince ağır iş yapıyordu. Ona başka bir iş vermek, zaten sahip olduğum bir donanımdan daha fazla yararlanmak gibi.

Kendi LLM’lerimizden sorumlu olmamız, aklımızı verirsek, kullandığımız her bulut hizmetini yerine koyabildiği için gerçekten etkileyici. Artık bir şirketin bize hangi özelliklere ihtiyacımız olduğunu, hangi sınırlamaları kabul etmemiz gerektiğini veya belirli bir aracın ne kadar var olması gerektiğine karar vermesini beklemeden, son derece yetkin alternatifler oluşturabiliriz.

Llama.cpp, büyük dil modellerini bilgisayarınızda yerel olarak çalıştıran açık kaynaklı bir çerçevedir.