$20’lik ChatGPT ve Claude Aboneliklerini Maliyetleri Azaltmak İçin Yerel Yapay Zekâ ile Değiştirdim, Ancak Tersine Döndü.

AI abonelikleri, birden fazla hizmet için ödeme yaptığınızda pahalılaşabiliyor. Açık ağırlıklı modeller giderek daha yetenekli hale geldikçe, aylık ücret ödemeden benzer sonuçlar alabilirim mi diye düşünmeye başladım. Zaten güçlü bir bilgisayarım olduğu için, AI’ı yerelde çalıştırmak maliyetleri düşürmenin pratik bir yolu gibi görünüyordu. Ödemeli AI hizmetlerine dayanmadan ne kadar ilerleyebilemişi görmek için bunu ciddi bir şekilde denemeye karar verdim. Keşfettiklerim tam da beklediğim gibi değildi. Yerel AI’ın birçok avantajı vardı, ancak bulut hizmetlerinin yerini almak, bir modeli indirmek ve çalıştırmaktan çok daha karmaşıktı.

ChatGPT ve Claude için her ay ödeme yapmaktan vazgeçmek istiyorum

AI için ödeme yapmaktan kaçınma planım

Her ay hem ChatG hem de Claude için ödeme yapmak, ortadan kaldırabileceğim bir gider gibi hissettirmeye başladı. Yetenekli AI modellerine erişimden hoşlanıyordum, ancak açık ağırlıklı modeller giderek daha yetenekli hale geldikçe, iki ayrı hizmet için ödemeye devam etmem gerektiğine ikna olmadım.

Her zaman kendi kendime barındırdığım yazılımlarla denemeler yapmaktan hoşlanıyordum, bu yüzden AI’ı yerelde çalıştırmak doğal bir sonraki adım gibi görünüyordu. Başka bir aylık fatura olmadan AI ihtiyaçlarımı karşılayabileceğini görmek istiyorum. Fikir basitti: abonelikler için ödeme yapmayı bırakmak, zaten sahip olduğum donanımı kullanmak ve AI’a erişim şeklinim üzerinde daha fazla kontrol sağlamak.

Yerel AI yığınımı kurmak beklediğimden kolaydı

Yerel AI’ı dakikalar içinde çalıştırıyordum

• Kaynak:

• Kaynak:

Yerel AI’yla başlamak beklediğimden daha basitti. Karmaşık bir kurulumla uğraşmadan modelleri bilgisayarımda indirmek ve çalıştırmak için Ollama’yı kullandım. Çalışmaya başladıktan sonra, modeller arasında geçiş yapmak, farklı birini çekip yüklemek kadar kolaydı.

Ayrıca tarayıcımda tanıdık bir sohbet arayüzü elde etmek için Open WebUI’yi de kurdum. Bu, yerel modellerle etkileşimin, komut satırı araçlarıyla uğraşmaktansa sıradan bir sohbet botu kullanmaya çok daha yakın hissettirmesini sağladı.

RTX 5070 makineimde birkaç modelle deneme yaptım; performansları ve kaynak gereksinimleri farklıydı. Başka bir hizmete kaydolmadan veya abonelik planı kullanım sınırlarıyla uğraşmadan farklı modelleri deneme özgürlüğünden hoşlanıyordum. Her şeyi çalıştırmak kolaydı.

Yerel AI’ı çalıştırmanın gizli maliyetlerini keşfettim

Beklemediğim maliyetler

En büyük sürpriz, yerel AI’ı çalıştırmanın tamamen ücretsiz olmadığını fark etmekti. Zaten bir bilgisayarım olduğu için yeni donanım için para harcamak zorunda değildim, ancak bu modelleri çalıştırmanın devam eden maliyetleri olmadığı anlamına gelmiyordu. RTX 5070, zorlayıcı iş yükleriyle başa çıkarken ek güç çekiyor ve sık sık devam eden AI oturumları elektrik faturama eklenebiliyor.

Aynı zamanda zaman maliyeti de vardı. Farklı modelleri indirmek, gereksinimlerini kontrol etmek ve ihtiyaçlarıma en uygun olanları belirlemek için zaman harcadım. Daha büyük modeller daha fazla sistem kaynağı tüketiyordu, bu da onlarla yan yana başka zorlayıcı uygulamaları çalıştırmayı zorlaştırıyordu.

Bu giderlerin hiçbiri tek başına önemli görünmüyordu, ancak tümü birleşince tasarruflar hayal ettiğim kadar net değildi. Abonelik ücretlerini kaldırmıştım, ancak AI’a erişimin maliyetini ortadan kaldıramamıştım. Daha ucuz alternatifim, ilk başta göründüğü kadar ucuz değildi.

Yerel AI, bulut AI için kullandığım her şeyin yerini alamadı

Ücretsiz modeller her şeyi yapamadı

En büyük sınırlama, her şey için yerel modellere dayanmaya çalıştığımda belli oldu. Birçok basit isteği iyi şekilde hallediyorlardı, ancak daha detaylı muhakeme veya nüanslı yanıtlar gerektiğinde sonuçlar her zaman tutarlı değildi. Bazen, çıktıyı kullanabilmemden önce sorularımı birkaç kez yeniden ifade etmek veya çıktıyı doğrulamak zorunda kaldım.

Yerel alternatifleri kullandığımda modellerin karmaşık talimatları ne kadar iyi takip ettiğinde de bir fark fark ettim. ChatGPT veya Claude’dan az düzeltme gerektiren bir yanıt, yerel bir alternatif kullandığımda daha fazla manuel iş gerektirebiliyordu. Bu ekstra emek önemliydi, özellikle bir görevi hızlıca tamamlamak istediğimde.

Her istek için doğru modeli bulana kadar modeller arasında geçiş yapmaya devam edebilirdim, ancak bu amacın bir kısmını ortadan kaldırirdı. Pratik bir ikame istiyordum, yönetilecek başka bir şey değil. Yerel AI faydalıydı, ancak hem aboneliklerin tamamını yerine koyabileceğini beklemek gerçekçi değildi.

Tasarruf takibini bıraktım ve hibrit bir AI iş akışına geçtim

Hibrit AI kurulumum sonunda mantıklı hale geldi

Sonunda, her ücretli AI hizmetini yerel bir modelle değiştirme çabasından vazgeçtim. Bunun yerine, her görev için hangi seçeneğin en mantıklı olduğuna bakmaya başladım. Yerel AI’ı, iyi sonuçlar verdiği istekler için kullanmaya devam ettim ve her istemi dış bir hizmete göndermekten kaçınabildim.

Daha zorlu görevler için, bulut AI’ı kullanmaya hazırdım; çıktı kalitesindeki farkın maliyeti haklı çıkardığı durumlarda. Bu şekilde, aylık bir ödemeden kaçınmak için taviz vermek zorunda kalmadım. Hem aboneliklerin ikisine de ihtiyaç olup olmadığını yeniden değerlendirebilir, hem otomatik yenilemek yerine bunu yapabilirdim.

Bu deneyim, kendi kendine barındırılan araçlarla tasarruf yapma konusundaki düşüncelerimi değiştirdi. Ücretsiz yazılım harika, ancak gerçek değer iş akışına ne kadar iyi uyduğuna bağlı. Tüm AI harcamalarını ortadan kaldıramadım, ancak maliyet, kolaylık ve kontrol arasında daha pratik bir denge buldum.

Ücretsiz her zaman daha ucuz değildir

Yerel AI ile denemeler yapmak, donanımımın ne kadarını kaldırabileceğini anlamama ve AI kurulumum üzerinde daha fazla kontrole sahip olmama yardımcı oldu. Ancak aynı zamanda, bir abonelikten kaçınmanın tasarruf etmekle aynı olmadığını da öğrendim. Donanım, elektrik, zaman ve sonuçların kalitesi, ne için ödeme yapmanın değerli olduğuna karar verirken hepsi önemli.

Aynı geçişi yapmayı düşünüyorsanız, yerel modellerin ücretsiz olması nedeniyle aboneliklerinizi iptal etmeyin. Önce mevcut araçlarınızın yanında deneyin. Yerel AI’ın ihtiyacınız olan tek şey olduğunu ya da ücretsiz ve ücretli araçların bir kombinasyonunun daha mantıklı olabileceğini keşfedebilirsiniz.