Yerel LLM’me Her Gece Çalışan Tek Bir İş Verdim; Bir Yıl Sohbet Etmekten Daha Fazlasını Başardı.

Yerel LLM‘lerle oldukça fazla zaman harcadım; farklı modeller denedim, yeteneklerini test ettim ve bunları pratik biçimde kullanmanın yollarını buldum. Bazıları şaşırtacak kadar iyiydi, ancak etkileşimlerimin çoğu aynı kalıbı izledi. Bir sohbet penceresi açar, modele bir istek gönderirim, bir yanıt alır ve geçip giderdim. Son zamanlarda farklı bir şey denemeye karar verdim – gece boyunca üstleneceği tek bir iş verdim.

n8n ve Qwen 3.5 9B kullanarak e-postalarımdaki, Asana görevlerimdeki ve mesajlarımdaki tamamlanmamış taahhütleri, kaçırılan takipleri ve dikkatimi gerektiren konuları tarayan bir iş akışı kurdum. Her şeyi öncelik sırasına koyuyor ve her sabanın bir özetini e-posta ile gönderiyor. Görel olarak basit bir kurulum, ancak yerel LLM’lerle bir yılı aşkın süredir ilgileniyorum ve bununla yaptıklarımın en faydalı olanlarından biri olduğundan eminim.

Yerel LLM’imin bir işi faydalı biçimde yapmasını istiyordum

Gerçek bir amacı olan küçük bir iş

Uzun süredir baş etmekte zorlandığım konulardan biri, yapmayı taahhüt ettiğim her şeyi takip edebilmek. İşim e-postalarda, Asana’da ve mesajlarda yayılıyor ve her şey düzgün bir görev listesine girmiyor. Bazen biriyle ilgili e-posta ile güncelleme göndermeyi taahhüt ediyorum, bir görüşme sırasında bir konuyu araştırmayı söz veriyor ya da Asana’da yarıda kalmış bir görevi geride bırakıyorum.

Her akşam her şeyi elle tarayarak biraz zaman harcayabilirdim, ancak bu da yapmayı unutmam gereken başka bir görev olurdu. İşte yerel LLM’nin gerçekten yardımcı olabileceği noktada burası. Yerel modellerle yaptığım deneyimlerin çoğu, onlardan talep üzerine bir şey yapmalarını istemeyi içeriyordu; ister kod üretmek, ister belgeleri özetlemek isterse soruları yanıtlamak olsun. Sorun şu ki, etkileşimleri başlatmaya devam ediyorum. Modele bir konu hakkında sormayı unutursam, kendi kendine beni hatırlatmayacaktır.

Bu durumu değiştirmek için modele tekrarlayan bir iş verdim. Her gece, zaten sahip olduğum bilgileri tarayıp dikkatimi çekmesi gereken herhangi bir şeyi belirleyecek ve ertesi sabah için kısa bir özet hazırlayacak. Ne sormam gerektiğini hatırlamak ya da farklı uygulamalar arasında vakit kaybetmek zorunda kalmayacaktım.

Bu aynı zamanda daha küçük, yerel bir model için mantıklı bir görev gibi görünüyordu. Sadece günlük konuşmaları anlaması, üstesinden gelinemeyen taahhütleri tanıması ve dikkatimin önce neye hak verdiğini çıkarmama yardımcı olması gerekiyordu. İş akışı otomatik çalışacağından, yerel LLM’imden sohbet arayüzünü bile açmadan faydalı bir şeyler alabilirdim.

n8n ve Qwen 3.5 9B ile gece iş akışı kurdum

Hiçbir şey yapmadan her şey çalışıyor

n8n’i zaten ev sunucumda çalıştırıyordum, bu yüzden proje için omurga o oldu. Gerçek AI işlemesi içinse Qwen 3.5 9B’yi yerel olarak kullandım. İş akışını her gece başlatan n8n içinde bir Zamanlama Tetikleyicisi düğümünden başladım. Oradan iş akışı üç kaynaktan bilgi çekiyor – e-postalarım, Asana ve mesajlar. E-postalar, konuşmalarımın ve takiplerimin çoğunun gerçekleştiği yer; Asana atanmış görevlerimi ve son tarihlerimi içeriyor; mesajlarsa ya e-postaya ya da Asana’ya düşmeyen küçük taahhütleri içerebiliyor.

n8n bu bilgileri topladıktan sonra, özellikle taahhütleri, bekleyen yanıtları, yaklaşan son tarihleri ve tamamlanmayan görevleri arayan bir prompt kullanıyorum. Modelin ayrıca, bir şeyi yapmayı taahhüt ettiğim bir durumla, sadece tartışılan bir durum arasında ayrım yapması gerekiyor.

Modelden uzun bir paragraf yerine yapılandırılmış bilgi döndürüyorum. Her öğe, asıl görevi, kaynağını ve aciliyet ile mevcut bağlama göre bir öncelik içeriyor. Bu da n8n’in sonuçları düzenlemesini, tekrarlayan kayıtları kaldırmasını ve her şeyi okunabilir bir özeze dönüştürmesini kolaylaştırıyor.

Son adım da, brief’i her sabah kendi gelen kutuma gönderen başka bir e-posta düğümü. Ayrıca iş akışının yalnızca dikkat edilmesi gereken durumları raporladığından, mesajlara otomatik yanıt vermediğinden ya da Asana’daki görevleri değiştirmediğinden emin oldum. Model bağlamı yanlış anlayabilir ve bir hatayı düzeltmek yerine yanlış bir eylem gerçekleştirmesinden çok, yanlış bir hatırlatma almayı tercih ederim.

Yerel LLM’me verdiği en faydalı iş bu

Bazen en basit görevler en büyük farkı yaratır

Yerel LLM’lerin, bulut modellerinin yapabileceği her şeyi beklemek yerine onlara daha küçük ve iyi tanımlanmış görevler verdiğinizde çok daha faydalı olduklarını fark ettim. Yerel modellerle sıfırdan özellikler geliştirmeyi, hataları düzeltmeyi ve diğer karmaşık görevleri yönetmeyi denedim ancak deneyimler çoğu zaman hayal kırıklığıyla sonuçlandı. İşleri gerçekten bitirmek yerine, daha fazla talimat verip hataları düzeltmek ve modeli tekrar doğru yola getirmek için harcadığım zaman daha fazla oluyor.

Sonuç olarak bu modelleri otomasyonlara entegre etmeye başladım. Mantık, nispeten az zeka gereştiren ancak yine de bir LLM’in dahil olmasından faydalanan görevler vermektir. Qwen 3.5 9B ile her gece çalıştırdığım iş akışı buna iyi bir örnek. Daha karmaşık projeler üzerinde çalışırken faydalı sonuçlar almayı başaramadığım tam olarak bu model, burada nihayet değerini kanıtladı.

Bir önceki deneyimde, Together AI’dan karar verme modeli olan Tev1’i, e-postaların yanıt gerekip gerektirmediğine göre kategorilere ayıran bir n8n iş akışına entegre ettim. Bu da küçük, uzmanlaşmış bir modelin mantıklı olduğu başka bir basit görev.

Sınırlarını bildiğinizde yerel LLM’ler daha iyi çalışır

Yerel LLM’lerle daha fazlasını yapabilmeleri için çok zaman harcadım ancak bu deney, onlardan daha az şey yapmalarını istemenin daha iyi olduğunu öğretti. Küçük bir modelin faydalı olması için ChatGPT ya da Claude ile rekabet etmesine gerek yok. Ona net bir şekilde tanımlanmış bir görev verin, doğru araçlara bağlayın ve otomatik olarak çalışmasına izin verin.