Yerel Yapay Zekâyı Bulut Modellerle Asla Güvenmeyeceğim 4 İşlevi Ücretsiz Yönetiyor.

Son zamanlarda, bulut yapay zekâ hizmet sağlayıcılarına her türlü veriyi paylaşmanın gizlilik kaygıları hakkında düşünmeye başladım. Önceden, yapay zekâ sohbet botlarının platformlarının doğası gereği, arama motorlarının asla erişemediği kadar çok kullanıcı verisine erişebildiğini ve bunun onları benzersiz şekilde savunmasız kıldığını konuşmuştum. Sınır modelleri çok moduł ve metin, görsel, belge ve hatta video alıyor; oysa bir arama motoru yalnızca kullanıcının ne aradığını takip ediyordu.

Buna rağmen, büyük dil modelleri geniş bir kullanıcı kitlesinin çeşitli görevlerde faydalandığı araçlardır ve bu yeteneğin ertesi gün ortadan kalkması birçok iş akışını zorlar. Neyse ki, bu yeteneği korurken hiçbir verinin buluta gönderilmediği dengeli bir yaklaşım var ve bunu kendi donanımımda yerel modeller kullanarak mümkün kılabiliyorum. İşte kişisel kimliğimi ortaya getiren hiçbir verinin bulut sağlayıcısının sunucusuna gönderilmemesi için yerel dil modelimin benim için üstlendiği birkaç görev.

Bilgisayarımda yazdığım her şeyi düzeltme

Çünkü özel e-postalarımdan kimseyin eğitim verisi olmaz

Bulut tabanlı dilbilgisi düzeltme hizmetlerinin dikkat çeken tuş bir yanı, son yıllarda çoğunun ya bir şekilde ya da başka bir şekilde yapay zekâ ile bütünleşmiş olması ve bu hizmetlerden birine kaydolmak çoğu zaman bilinçsizce bir modeli eğitmeye izin vermek anlamına gelmesidir.

Bunun temel sorunu, bu hizmetlerin oldukça yaygın olmasıdır; çoğu, açtığınız her metin kutusunda çalışabilecek tarayıcı eklentileri olarak çalışır ve ara sıra kaçan bir tire işaretini düzeltirken siz yazdıkça sessizce eğitim yapar. Teknoloji yazmaya başlamadan önce, büyük bir İngiltere perakende bankasında finansal suç uyumluluğu alanında çalıştım ve banka yönetim kriterlerine göre bu yazılım bir anahtar kaydedici (keylogger) sayılırdı.

Bu tür hizmetlerin kullanımın beni en çok rahatsız ettiği yer e-postalar. Bazıları gizli olan ve tek bir kişiye yönelik isimler, rakamlar ve konuşmaları taşıyorlar. Bu yüzden yazılarımı, metni benim kontrol etmediğim bir sunucuya göndermek yerine, Qwen3.6-35B-A3B modelini RTX 4070 Ti Super’umda çalıştıran açık kaynaklı Writing Tools adlı araçla okumayı tercih ediyorum.

Bilgisayımı bir ajanla sürdürmek

Bulut sunucusunun görmemesi gereken çok şey var

Son zamanlarda, birçok kullanıcının bilgisayar bakımı söz konusu olduğunda can sıkıcı bulduğu çeşitli görevleri bir ajanın ve alt ajanlarının üstlenmesi oldukça moda haline geldi. Birçok teknoloji etkileyicisi ve YouTuber, bu ajanların Antigravity veya Claude Code çerçeveleri üzerinden çalıştırılan çeşitli yeteneklerini sergilemeyi seviyor; ancak ben her zaman bu uygulamaların hizmet sağlayıcılara, özellikle kişisel bilgisayarlarda ne kadar bilgi iletmesi gerektiği konusunda düşünmek gerektiğini düşündüm.

Aynı zamanda, uygulamaları en son sürümlerine güncellemek gibi sıradan görevlerde tamamen kendi başına bırakmanın çekiciliğini de anlıyorum; bunun yerine dosyaları kendin kovalamak yerine sadece bir istem bırakman yeterli. İşte bu yüzden Nemotron 3.5 Bolt’u kendi GPU’mda Hermes Agent üzerinden çalıştırıyorum. Bu görevlerin tümünü yerine getirme, makineim hakkında öğrenmesi gerekenleri öğrenme ve kolay kullanım için notlarını her oturuma yükleme gücüne sahip; ancak bunların hiçbiri kendi ağımın dışına çıkmıyor.

Belgelerimi ve resimlerimi kişisel kimlik bilgileri açısından inelemek

Her şey tek bir istemle paylaşılabilir

Screenshot’lar işimi sunmanın önemli bir parçası ve aynı zamanda kişisel bilgilerinin sızabildiği bir alan. Windows Ayarlar uygulamasının sol üst köşesindeki bir e-posta adresi, Hızlı Ayarlar’daki bir Wi-Fi ağ adı veya klasör görünümündeki bir dosya adı olabilir ve bunlar benim fazla gevşek olmam halinde kamuya açık alana düşebilir. Buradaki püf nokta, ham bir screenshot’u bir bulut modeliyle kontrol etmenin, gizli tutmaya çalıştığım o bilgileri yüklemek anlamına gelmesidir.

Hesap uzmanlığı ve finans, ayrıca pazarlama ve hukuk gibi birçok başka mesleğin de müşteri isimleri ve hesap detayları etrafında benzer endişeleri olması muhtemel. Benim için, atladığım bir şey olup olmadığını görmek adına ikinci bir bakış atmanın en güvenli yolu, verileri llama.cpp üzerinden sunulan yerel bir modele beslemek ve bu görev için genellikle kullandığım, yerel olarak görsel dosyasıyla çalışan Qwen3.6-35B-A3B modelidir.

Finansallarımı anlamlandırmak

Vergi döneminde gerçekten işe yarar

Yerel LLM’ler bir şey olmadan önce, vergi döneminiden ortalama bir insandan daha çok korkardım. Banka hesaplarım arasında hareket ettirdiğim paranın iki kez görünmesi—bir kez giriş, bir kez çıkış—ve bir düzine birbirine benzer işlem labirentinde gözden kaçan bazı işlemler nedeniyle paranızı anlamlandırmakla ilgili oldukça fazla sorun var. En kötü yanı da, muhasebecinizin hiçbir şey sunulmadan önce o satırların her birini eşleştirmesi ve açıklaması gerektiğidir.

Banka hesap eklerim, bakiyeler, hesap numaraları ve ödediğim her kişi veya işletme ile en açığa çıkan belgelerimdir, bu yüzden bulut sunucusunda olmasını isteyeceğim son şeylerdir. Yerel olarak GPU’mda çalışan, o bilgi okyanusunu kolayca analiz edebilen ve tüm hesaplarımdaki işlemleri sorunsuzca ayrıştırıp eşleştiren, eşleştiremediği herhangi bir şeyi işaretleyerek benim de bunu açıklayabilmemi sağlayan yerel bir modelle bunların tüm zorluklarıyla karşılaşmıyorum.

Yerel AI yığınım dolarlarımı, tokenlerimi ve gizli verilerimi kurtarıyor

Yerel LLM’im, kişisel ve hassas verilerimin gizliliğini korurken üretkenliğimi de destekliyor ve bu konuda en azından şimdilik yeterli bir temin sağladığımı düşünüyorum. Ancak iş akışımı Qwen3.6-35B-A3B gibi yetkin bir modelle tamammanın sağladığı ek bir avantaj da, aynı görevler için aylık abonelik ücreti alan bulut hizmetlerine olan bağımlılığımı azaltması; bu nedenle sürücünüzde sık sık işlerin bir kısmını devredebileceğiniz ve jetonlarınızı en çok hak eden görevler için saklayabileceğiniz bir model bulundurmak genel olarak mali açıdan sorumlu bir yaklaşım.