Grammarly Pro Yerine GPU’mda Yerel Bir Model Kurdum: Taslaklarım Artık Bilgisayarımdan Ayrılmıyor.

Her ay, adını “abonelik pandemisi” olarak koyacağım bir şeye yaklaştığımız hissini taşıyoruz. Her hizmet, ayın ilk günü hesabınızı düşüren ve sizi kendi ekosisteminin içine çekmeye çalışan bir “Pro” ya da “Premium” seviyesi için prim istiyor. Zamanla, ödediğiniz hizmetin gerekli bir gider olduğu inancı yerleştiriliyor ve banka hesap hareketinizde oldukça dirençli bir yere sahip oluyor.

Şimdi Grammarly Pro olarak satılan Grammarly Premium, ödemek zorunda olduğuma ikna olduğum bu ücretlerden biriydi; ancak tek seferlik 30 dolarlık sabit bir ücretten biraz daha maliyetli olduğu, açıkça çıkmadıkça her taslağın ve her düzenlemenin modellerini eğitme riski taşıdığı farkına varmam biraz zaman aldı. Bu, yerini bulmanın belki de en kolay aboneliklerden biri için bir pazarlık konusuydu; özellikle GPU‘m taslaklarımı başka birinin sunucusuna göndermeden yazılarımı okuyabilen yerel bir LLM‘yi zaten çalıştırabiliyordu.

Grammarly, her hesabı varsayılan olarak yapay zeka eğitimine dahil ediyor

Taslaklarınız başkaları için hizmeti iyileştirebilir, sizin maliyetinizle

Grammarly’de ücretsiz ve ücretli tek kullanıcılı Pro planı dahil herhangi bir seviyede bireysel bir hesaba giriş yaptığınızda, şirketin “Ürün İyileştirme ve Eğitim” olarak adlandırdığı şeye varsayılan olarak dahil olursunuz. Gizlilik SSS’sine göz atarsanız, Grammarly’nin ürünü iyileştirmek için yazılarınızdan rastgele seçilmiş, kimliği kaldırılmış bölümleri örnek alabildiğini göreceksiniz. Gizlilik ayarlarını hiç okumadıysanız, tüm taslaklarınız bu amaç için uygun demektir.

Bu tür bir hizmetin kimliği kaldırılmış veriyi bile sunucularına göndermesindeki sorun, bir yazışma asistanının nadiren tek bir taslağın sınırları içinde kaldığı ve zamanla kişisel e-postalardan kurumsal iletişime kadar yazdığınız her şeyin bir parçası haline geldiği gerçeğidir; üçüncü bir tarafın müdahalesini istemediğiniz bir durumda bu.

Üyelik ayarlarınızdan Ürün İyileştirme ve Eğitimi kullanımdan kaldırmış olsanız bile, hizmet metninizi analiz etmek için bir internet bağlantısına ihtiyaç duyar; dolayısıyla yazdığınız her şey yine de önceden sunucularına ulaşmak zorundadır.

Ücretsiz bir uygulama, yerel modelimi sistem çapında bir düzeltme aracına dönüştürdü

Sadece metni seçip bir kısayola basıyorum ve düzeltilmiş metn anında orada beliriyor

Yerel modelleri Grammarly ile karşılaştırdığımda her zaman oldukça kısıtlanmış bulduğum konulardan biri erişim alanıydı. Doğru düzeltme ihtiyaçlarınız için mükemmel olan ince ayarlı bir yerel modeli yüklemiş olsanız bile, sohbet penceresiyle sınırlı kaldığında Grammarly’in yaptığı işin yalnızca yarısını yapabildiğini görürsünüz. Bu nedenle, metni içeri ve dışarı yapıştırmanız gereken bir sohbet penceresinde hapsolan bir yerel model temel bir kullanılabilirlik sorunu taşır. Oysa yazdığınız neredeyse her uygulamaya eşlik edebilen Grammarly böyle değildir.

Grammarly için bir yerini alacak bir çözüm savunmaya hiç yaklaşamadan, dikkat edilmesi gereken merkezde bir sorun vardı. Neyse ki, bunun için açık kaynaklı bir çözüm mevcut. Github’daki theJayTea tarafından geliştirilen Writing Tools, işletim sisteminin sistem tepsisinde kalabilen ve seçtiğiniz herhangi bir metni seçtiğiniz bir yerel modele gönderebilen ücretsiz bir uygulamadır.

Tüm kurulum, GitHub sürüm sayfasından bir zip dosyası indirmekten, dosyayı açmaktan ve çalıştırılabilir dosyayı çalıştırmaktan ibaret. Kutudan çıktığı gibi varsayılan olarak Google Gemini’yi seçer, ancak birkaç tıklamayla bunu değiştirebilirsiniz. Kurulum sırasında OpenAI Uyumlu seçeneğini seçtim ve onu zaten RTX 4070 Ti Super’ım üzerinde çalışan llama-server örneğine yönlendirdim; bu da onun “beynini” UD-IQ4_XS nicelleştirmesindeki Qwen3.6-35B-A3B modelim yaptı.

Writing Tools yalnızca llama-server ile bir localhost adresi üzerinden iletişime geçtiği için yaptığım her istek, üçüncü taraf bir sunucuya dokunmadan yalnızca kendi GPU’ma giden-gidip gelen bir işlem gerçekleştiriyor. Bu aynı zamanda erişilebilirlik sorununu da güzelce çözüyor. Seçili metnin üzerinde Ctrl+Space tuşuna basarak hatalar için yeniden okumasını seçebilir, dostça ya da profesyonel gibi çeşitli üslup ve ses seçenekleri arasında seçim yapabilir ya da modeli bir taslağın “öz” varyantını üretmesi için isteyerek uzunluğu ayarlayabilirim.

Hangi ön ayarı seçersem seçeyim, seçimimi yazdığım yerde doğrudan değiştiriyor ve sonucu beğenmediyseniz ya da farklı ifade etmek isterseniz basit bir geri al komutu (Ctrl+Z) orijinal metni geri getiriyor.

Doğrulayıcı, yerleştirdiğim 24 hatanın hepsini düzeltti

Ve bir kez bile kredi kartı bilgilerimi soramadı

Kullanılabilirlik boyutu halledildikten sonra, günlük doğrulama işlerinizi üstlenen bir aracın güvenilir olması, güvenirliği de tamamiyle kendi başınıza bırakabileceğiniz, yani çok meşgul olduğunuz ve çıktısını tekrar tekrar kontrol edemediğiniz günlerde el değmeden çalışan bir güvenilirlikte olması gerekir. Nitekim, kendi hatalarını düzeltmek için size fazla mesai yaptıran bir araç, aslında hiçbir sorunu çözmemiş demektir, değil mi?

Ne kadar güvenebileceğimi görmek için, “John Rockstar”‘a, PC sürümünün atlandığını iddia eden “Grand Car Thief 6” hakkında 24 tanesi yerleştirilmiş hata içeren kasıtlı bir karışıklık e-postası çalıştırdım. Doğrulayıcı, yerleştirdiğim hatanın hepsini tek tek düzeltti ve istenmeyen tek değişiklik, anlamı hiçbir şekilde önemli ölçüde değiştirmemek kaydıyla yalnızca bir cümleyi yeniden ifade etmek oldu.

Sınırlamaları konusunda dürüst olmak istiyorum: Profesyonel gibi diğer butonlar, genel anlamı koruma konusunda o kadar isabetli değil. Başka bir denemede, yaklaşan Grand Theft Auto VI‘yı bahane ederek Rockstar Games’e hitap ederek şakalı e-postamı “düzeltmeye” çalıştı. Bu ön ayar, tıpkı çoğu yapay zeka üretimi girdi gibi, ciddi biçimde bir gözetim gerektiriyor.

Yerel yapay zeka sayesinde ayın birinde bir ödeme daha az

Yerel bir model ve llama.cpp çalışma zamanı kullanarak, Grammarly Pro için yaptığım neredeyse her şeyi yerelleştirebildim ve açık kaynaklı bir araç, metin girebildiğim neredeyse her yerde erişilebilir hale getirmeme yardımcı oldu. Yine de llama.cpp tek yol değil. Writing Tools’un yerleşik bir Ollama sağlayıcısı var ve LM Studio’nun yerel sunucusu, OpenAI Uyumlu seçeneğine bağlanıyor; bu nedenle komut satırı işini en aza indirmek isteyenler için her ikisi de aynı kısayolla kullanılabilir. Her iki alternatif de yine de abonelik ücretlerinden tasarruf sağlıyor ve verilerinizin bilgisayarınızda kalmasını garanti ediyor.