Zaten yerel bir LLM kullanarak, yerleşik sesli komutların anlayamadığı istekleri yönetiyorum. Söylediklerimin çoğu hâlâ normal niş eşleştirmesi üzerinden gidiyor, ancak daha karmaşık istekleri yorumlayan bir modelin olması kurulumu çok daha kullanışlı kılıyor. Şeyleri doğal bir şekilde ifade edebiliyor ve tam komutu ezberlemek yerine var olan bir rutini seçtirebiliyorum. Bu işleyince, yerel bir modele otomasyonlarınız üzerinde daha fazla kontrol vermek cazip bir sonraki adım oluyor.
Sorun şu ki, bir modelin yorumu evinizde olacakları belirliyor ve yerel model her zaman beklediğiniz kadar doğru değil. Ayrıca en zeki de değil. Bana defalarak takıldı. Bazen küçük şeyler oluyor: Lambaları kapatmamı istediğimde ışıkları kapatıyor, kullandığım doğru kelimeleri kullanmış olmama rağmen. Bu tür pek çok durum oldu ve şimdi bana bir tür güvenlik önlemi (guardrail) ekleme zorunluluğu doğurdular.
Modeli bağlamak oldukça basit
Mac’imde Qwen3 1.7B kullanıyorum
Mac’imde Qwen3 1.7B kullanıyorum, Home Assistant ise ayrı bir makinede çalışıyor. Modelin Home Assistant ile aynı donanım üzerinde çalışması gerekmiyor. Yerel ağ üzerinden sunabiliyor ve istekleri ona göndermek için bir konuşma entegrasyonu yapılandırıyorsunuz.
Bunu yapmanın yollarından biri Ollama. Modeli Mac’inizde çalıştırıyorsunuz, sunucuyu yerel ağ üzerinden erişilebilir hale getiriyor ve Home Assistant altında Ayarlar > Cihazlar & hizmetler bölümüne Ollama entegrasyonunu ekliyorsunuz. İki ayrı makinede çalıştığı için sunucu adresinin Mac’inizin yerel IP adresine işaret etmesi gerekiyor. Ardından modeli seçiyor ve sesli asistan yapılandırmanızda konuşma ajanını kullanıyorsunuz.
Entegrasyonun “Home Assistant’ı Yönet” seçeneği, modelin Home Assistant’ın araçlarını kullanarak Assist’e sunduğunuz varlıklarla etkileşime girmesini sağlıyor. Bunlar yatak odası ışıkları, bireysel lambalar, fanlar ve termostatlar dahil olabilir. Model isteğinizi yorumluyor, bir araç ve parametrelerini seçiyor, Home Assistant da bunu uyguluyor.
Mevcut rutinler ayrıca scriptler aracılığıyla kullanılabilir hale getirilebilir. Örneğin, yatarak öncesi scripti TV’yi ve oturma odası ışıklarını kapatabilir, ardından banyo ışığını kısa bir süre açık bırakabilir. Bu scripti açmak, modele eve yatarak için hazır denildiğinde sırayı başlatması için bir yol veriyor. Script’in açıklaması modele rutinin ne yaptığını ve ne zaman kullanması gerektiğini söylüyor.
Modelime oldukça fazla şeye erişim verdim. Bu, yönetebileceği istekleri genişletiyor ama aynı zamanda bana bir şey yapmamı söylediğimde, 1.7 milyar parametrelik bir modelin arasından seçebileceği daha fazla cihaz ve eylem de veriyor.
Model bazen temel istekleri yanlış anlıyor
En can sıkıcı hatalar en temel olanlardır
En can sıkıcı hatalar, basit olması gereken komutlarla ilgili. Lambaları kapatmamı istiyorum, model ise ışıkları kapatıyor. Zaten atadığım isimleri kullanıyorum, bu yüzden o belirli isteği daha anlaşılır kılmak için yapabileceğim fazla bir şey yok. Yine de yeterince sık oluyor, bu yüzden asistanın gerçekten ne yaptğına dikkat etmek zorundayım.
Soruların eyleme dönüşmesini de yaşadım. Bir ışığın açık olup olmadığını sormak, bana mevcut durumu hakkında bir cevap vermeliydi, ancak model “İyi geceler” yardımcımı tetikledi. Komut kapsamı başka bir tekrarlayan sorun. Bazen bir odadaki ışıklar için yapılan bir istek, evin her yerindeki ışıkları etkiliyor. Hepsi tekrar açılmak hatayı düzgün şekilde geri almıyor, çünkü bazıları zaten kapalıydı.
Ardından, asistanın hiçbir şeyi çalıştırmadığı durumlar var. Fonksiyon çağrısı sözdizimini okuduğunu, aksiyonu yerine getirmek yerine sesli olarak tekrarladığını gördüm. Bu hataların çoğu işi bitirmeye yetmez ve her zaman gerçekleşmez. Ancak olduqlarında sizi geriye atar ve komutun bozduğu şeyi düzeltmeye zorlar. Özellikle gece rutini gibi karmaşık bir otomasyonysa, yatmadan önce uğraşacağınız bir işin daha olmuş olur; benim başıma da oldukça sık geldi.
Modelin yapabileceği şeyleri sınırlamanız gerekir
Artık neye erişebileceğine çok dikkat ediyorum
Bu hataları yeterince kez yaşadıktan sonra, sonunda kurulumuma koruyucu önlemler eklemeye başladım. Öğrendiğim şeylerden biri, modele sadece bir şeyi yapmamasını söylemenin yeterli olmaması. Örneğin, sistem istemine evdeki tüm ışıkları yalnızca açıkça istenmedikçe kapamayacağını belirten bir satır ekleyebilirsiniz, ancak yine de bu talimatı doğru yorumlaması için aynı modele güvenmeye devam edersiniz. Bir şeyin gerçekleşmesini istemiyorsanız, bu kısıtlamaları komutları gerçekten çalıştıran araçlara ve otomasyonlara koyun.
Öncelikle, modelin Home Assistant içinde erişebileceği şeyleri sınırladım. Home Assistant, yerel modellerle dene yapırken 25’ten az varlığın gösterilmesini öneriyor ve bu iyi bir başlangıç noktası. Düzenli kullandığım ışıkları, cihazları ve rutinleri modele erişime açık tutuyorum, ancak evimdeki her şeye erişim vermem için bir sebep yok. Ayrıca hangi betiklere ve yardımcılara erişim verdiğiniz konusunda da dikkatli olmalısınız. Görünüşte zararsız bir betik, birkaç başka otomasyonu tetikleyebilir, böylece modeli olduğundan daha fazla cihaza erişim sahibi yapmış olursunuz.
Yardıcı başka bir şey de, birden fazla cihazı içeren her şey için önceden tanımlanmış betikler kullanmak. Örneğin, gece rutinim. Modelin hangi ışıkları kapatacağına, hangi sıcaklığı ayarlayacağına ve banyo ışığının ne kadar açık kalacağına karar vermesine izin vermek yerine, tüm bunları yöneten bir betik kullanıyorum. Modelin yapması gereken tek şey isteğimi tanımak ve bu betiği tetiklemek. Geri kalanı, önceden tanımladığım ve test ettiğim bir sırayla gerçekleşiyor.
Tabii ki bu, modelin betiklere gönderdiği her komuta körüce güvenmeniz gerektiği anlamına gelmiyor. Bu araçların aslında yapabileceği şeyleri sınırlamanın da önemli olduğunu fark ettim. Örneğin, termostat aracını belirli bir aralığın dışındaki sıcaklıkları reddedecek şekilde ya da ışık aracını yalnızca belirli bir odaya komut kabul edecek şekilde yapılandırabilirsiniz. Anahtar, bu kontrolleri betiğin veya aracın kendisinin uygulaması. Daha hassas işlemler için, bunun yerine güvenilir bir arayüz üzerinden onay istemeyi ya da bu kontrolleri modelin erişiminin dışında tutmayı tercih ederim.
Modeli tasmada tutuyorum
Yine de evimle doğal bir şekilde konuşmanın rahatlığını istiyorum, ancak modeli sınırsız kontrolle güvenmiyorum. Hatalar bunun için çok sık. Benzer bir şey deniyorsanız, erişimi genişlemeden önce tam olarak neyi yönetebileceğine karar verin.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.