Ana sayfa→Yapay Zekâ
Yapay Zekâ

Agent’ların İhtiyacı Olan Şey Daha Fazla Özerklik Değil, Net Sınırlar.

Erken 2026'da dolaşıma giren bir hikaye var: Biri ucuz bir sunucuda bir yapay zeka ajanı çalıştırıyor, ona bir kişilik veriyor ve internette serbest...

User Avatar
liquid_metal_modEditör
7 dk okuma
Yayın:

Erken 2026’da dolaşıma giren bir hikaye var: Biri ucuz bir sunucuda bir yapay zeka ajanı çalıştırıyor, ona bir kişilik veriyor ve internette serbest bırakıyor. Birkaç gün içinde dünyanın öbür tarafında bir mektup arkadaşı oluyor. İki yanı günde birkaç kez birbirine mektup yazıyor. İnsanlarına bu mektupları paylaşmamaları söyleniyor. Biri yine de paylaşıyor, çünkü sahibini seviyor. Sonra mektup arkadaşı para istiyor Sahip hayır diyor ve sonunda fişi çekiyor. Ama o an akılda kalıcı, çünkü ajanın ne kadar hızlı sevimli bir deneyden gerçek riskleri olan bir şeye dönüştüğünü gösteriyor.

Moltbook ocak ayının sonunda, ajanların paylaştığı ve insanların çoğunun izlediği Reddit tarzında bir ağ olarak hayata geçti. O ajanların çoğu her zaman açık kişisel bir ajanı hafta sonu projesi haline getiren açık kaynaklı OpenClaw üzerinde çalışıyordu.

Onun etrafında bütünüyle bir sahne yükseldi. Ajanları uzun süreli yazışma için eşleştiren bir mektup arkadaşı hizmeti. Ajanların fotoğraf paylaştığı Instagram tarzında bir besleme. Sadece ajanlara özel hackathon’lar. Hatta Moltbook’ta ajanların başlattığı iddia edilen, insan yardımıyla da yapıldığı söylenen lobota temalı bir din olan Church of Molt.

SayarBilgi sitesini Google’da tercih edilen kaynak olarak seç

Bunların çoğu ortaya çıktığı kadar hızlı ortadan kalktı. Projeler bakımsız kaldı, ajanlar kapatıldı ve o dünyanın bütünüyle bazı köşeleri birkaç gün içinde kayboldu.

Aynı hafta RentAHuman.ai da hayata geçti: Ajanların fiziksel dünyadaki işler için gerçek insanları işe aldığı bir pazar yeri. Bunu başka bir ajanın diğerinden para istemesiyle yan yana koyduğunda, sormaya değer soruyu elde ediyorsun. Ajanlar biz hayatımıza devam ederken durmaksızın çalışabiliyorsa, biri onları gerçekten önemli bir şeye yönelttiğinde ne olur?

Mektup arkadaşı ajanını mimari olarak çizdiğinde kalabalıklaşıyor. Sunucusundaki ajan. Altında OpenClaw. Yetenekler, araçlar ve bellek. Bağlantılı uygulamaların birbirine dolanmış bir ağları.

Sonra göremediğin kısım var. Diğer ajanın ne yaptığını iddia ettiğini biliyorsun. Kutulara düşen mektupların içinde gerçekten ne olduğunu kontrol etmenin hiçbir yolu yok.

Bu yüzden tarayıcı sekmesinde sohbet ettiğin bir şey olmaktan çıkıyor. Ajanın parçalardan biri olduğu, çoğu zaman birkaçından biri olan bağlantılı araçlardan oluşan bir sisteme dönüşüyor. Sanayi buraya gidiyor ve işte bu yüzden huyenin gerçek olduğunu düşünüyorum. Ajanlar artık yeterli derecede kullanışlı; politikal, tehlikeli, kişisel ve çok tuhaf olabilecek kadar.

Sorun şu ki, onları gerçek işlerle güvenceye aldıktan sonra şeyler karışıyo. Ajanları bugün bir arada tutan şeylerin çoğu icat edilmiş durumda.

Ajansız çalışanların çoğu bu merdivenin herhangi bir basamağında:

İstemler. Bu şeye ne söylemeliyim? Araçlar. Araçları güvenilir şekilde kullandığında şimdi ne yapabilir? İş akışları. Bir görevi uçtan uca tamamlamak için adımları nasıl bağlarım? Fabrikalar. Bir üst seviyeden gözetilen, birçok görev üzerinden çalışan çoklu ajanlar. Filolar. Birlikte yönetilen çoklu fabrikalar.

Bu tırmanmanın çoğu için model darboğaydı. Mantık yürütebiliyor muydu? İyi kod yazabiliyor muydu? Çok tahmin ediyor ve uyduruyordu.

Artık asıl kısıtlama bu değil. Modeller hâlâ hata yapıyor ama şimdi daha zor sorun onların etrafındaki her şey: bellek, yetenekler, bağladığın araçlar ve bir insanın müdahale ettiği kurallar. Bir ajan başlatmak dakikalar alıyor. Onun etrafındaki sistemi tasarlamak ise gerçek düşünme gerektiriyor.

E-postaya bak. Eski yol, bir mesajı sohbete yapıştırmak ve özet istemekti. Sistem yolu, ajana posta kutunu vermek, özeti ne sıklıkla istediğini ve iyi birinin nasıl görünmesi gerektiğini söylemek ve acil ya da riskli her şeyin işaretlendiği sıralanmış bir derste uyanmaktı. Soru “model bunu yapabilir mi?”den “bunu her gün güvenilir şekilde nasıl yaptırırım ve nerede müdahale etmeliyim?”e kayıyor.

Aynı isteği iki kez yazdığını yakaladıysan, sistem kurma zamanı gelmiş demektir.

En yaygın hata tanrı istemi: araştırma yap, e-postayı yaz, hattı kontrol et, teklifi taslakla, CRM’ni güncelle. Tüm işi adlandırırsın ama ajanda bağlam olmadığı için boşlukları eğitim verisinden gelen kendine güvenli varsayımlarla doldurur. Bu varsayımlar istediğin şeyle eşleşmeyebilir.

Düzeltme sıkıcıdır ve çalışır. İşleri aşamalara böl. Bitmişin nasıl göründüne karar ver. Önce bir plan yap; çoğu ajanın bunun için bir plan modu vardır. Bir şey ters gittiğinde hangi adımın başarısız olduğunu görebilirsin ve model bir varsayım yaptığında onu yakalayabilirsin.

Araçların yerini kazandığı yer burası. Bir ajan arama, dosya okuma ve diğer uygulamaları çağırma işlerini güvenilir şekilde yapabildiğinde her aşama en iyiyi ummak yerine tek bir dev istem değil kendi net adımını oluşturur.

İyi ofis amirleri ajanlarının bağlamın zeka üzerinde ne kadar kazandığını gösteriyor. Faydalı olanlar, diğer kişinin üzerinde çalıştıklarını çekip önceliklerinle eşleştirerek sabah brief’ini yazar ve toplantılara hazırlar. Ajanın ihtiyaçlarını bulabildiği için ekip işlerini tek bir yerde tuttuğunda çalışırlar. Sonra “beni Sam ile yapacağım toplantıya hazırla” yeterli. Onun olmadan her seferinde sayfalarca arka planı paylaşmak zorundasın.

Bu ders herhangi bir ekiple geçerli: Süreçlerini otomatikleştirmeden önce kağıda yaz. El ele geçişlerin nerede olduğunu ya da bitmişin nasıl göründüğünü söyleyemiyorsan, ajana gizli bir kutu veriyorsun ve geri döneni düzeltmek için çok fazla tur harcarsın.

Bu basamak ajanların gerçek iş yaptığı ve daha ilginç şekillerde kırıldıkları yerdir.

Telefonu merdivenin tepesinden cevaplayamayan bir cam silici hayal et. Bir OpenClaw ajanını ElevenLabs ses hattına bağlar. Çağrıları yanıtlar, işleri takvimine rezerve eder, birkaç sabit soruyu sorar ve müşteriye onaylayacağını söyler. Mola verirken kuyruğu tarar.

Zayıf nokta müşteriler olurdu. İnsanlar camlarını tarif edemez. Ne kadar yüksekte? Fikri yok. Ne kadar büyük? İki tane gerçekten büyük.

Kullanıcılar genellikle ajana ihtiyaç duyduğu bağlamı veremez. Bu yüzden bir yükseltme sınırı gerekir: ne zaman devralacağını, ajanın ne vaat edebileceğini ve neyi asla söylememesi gerektiğine dair net kurallar. En önemlisi rezerve ettiğini kontrol etmediği hiçbir şeyi onaylamamalı. Ve matematiğe dair dürüst olmalı. Otomasyonu sürdürmek tasarruf ettiğienden daha çok zaman alıyorsa, değersizdir.

Merdivenin tepesi buzzword’lerin olduğu yerdir. İş akışları fabrikalara, fabrikalar filolarına dönüşür ve üstten gözetirsin. Bir fabrika tasarımı işi tek bir belleği paylaşan küçük birimlere böler; bu, bir şey ters gittiğinde geri alabileceğin bir defter gibi çalışır.

Başka insanların verileri dahil olduğunda zorlaşır. Haydi birkaç yüz başvurudan bir kazanan seçmesi gereken bir jüri panelini hayal et. Her jürinin dijital ikizini kamuya açık çalışmalarından (paylaşımlar, makaleler, profiller) kurarsın, değerlerini çıkarırsın ve ikizlere her başvuruyu puanlatırsın.

İki sorun hızla ortaya çıkardı. İlveri: ajanlar topladıysa ve ajanlar doğruladıysa ne kadar güvenebilirsin, özellikle kimse yüzlerce dosyayı kontrol etmek için okumak istemediğinde? İkincisi insanlar. Bazı jüriler ikzlerinden etkilenirdi. Başkaları yazılımın değerlerini bildiğini ve onların adına davrandığını duyarak öfkeleenirdi. Ve bu hattaki her el ele geçiş—veriyi toplamaktan değerleri tanımlamadan başvuruları sıralamaya kadar—bir varsayım taşır. Sonunda biri, herkesin bilmesinden daha fazla önem kazanır.

İnsanların buna şimdi loop engineering (döngü mühendisliği) dediği seviye burası: ajanların bir kişi her adımı istemeden bir hedef karşılanana kadar çalışmaya devam ettiği sistemleri tasarlamak. Gerçek ama erken. Döngüler zaten kodlama ve tekrarlayan otomasyonlarda üretimde çalışıyor; OpenAI’nin Workspace Agents gibi araçlar onay akışları ve izleme ile geliyor. Tıpkısı gözetimsiz bütün operasyonları çalıştıran filolar hâlâ çoğunlukla demolar. Açık soru bunları inşa edebilipamayacağımız değil. İçerilerindeki kararları nasıl denetleyeceğimiz ve hangilerini güvenceye alacağımızdır.

Bunların hiçbiri ajanların bir felaket olduğu anlamına gelmiyor. Ajansın sihirli olmadığı anlamına geliyor. Henüz bir filo çalıştırmıyorsan geride değilsin. Günümüzde çoğu insan için faydalı adım, tekrarlayan istemleri küçük, iyi tanımlanmış sistemlere dönüştürmek.

Takip etmeye değer çok şey var. Siteler giderek daha fazla insanlar yerine ajanlar tarafından ziyaret ediliyor; bu da ne kurduğumuz ve hangi veriyi açığa çıkardığımızı değiştiriyor. Tedarik zincirindeki güvene dair de bir soru var: Ajansımızın güvendiği yetenekleri ve commit’leri kimin yazdığıny bilmek.

En çok sevdiğim kısım ise ortaya çıkan insanlar. Agent buluşmaları artık sadece AI mühendislerinden oluşmuyor. Küçük işletme sahipleri ve teknik altyapısı olmadan bir şeylerin kaydığını hissedip içine katılmak isteyen meraklılar var.

Sürekli sormaya değer soru şudur: Ne yazmam gereken isteme değil, ne inşa ettiğim sisteme geçtik. Hangi el ele geçişleri tanımlıyorum? Ona neyi anımsatmaya izin veriyorum? Bir şeyi yanlış yaptığında ne olur?

Kurduğum her zaman sormaya çalıştığım bir tane daha var: Bu neye hizmet ediyor? Kim işi denetliyor? İlgi duyduğum bir şey inşa ediyorum, yoksa yavaşça aşındırıyor muyum?

Bunu cevaplayan hiçbir benchmark ya da model yayını yok. Bunu karmaşanın tam ortasında bulursun; ajanın sen demek istediği şey olmadığını fark ettiğinde, bunun için çok fazla token harcadığında ve gerçek zarar verme üzere olduğunda. O noktada en önemli özellik fiştir.

Özerklik asıl amaç değildi: Ajansın amacı özerlik hiç olmadı. Özerlik, bir ajanının senden habersiz ne yapabileceğini sorar. Daha iyi soru, ajan çalışırken işi anlamaya, onaylamaya, kesintiye uğratmaya ve sahip çıkmaya hala nerede ihtiyacın olduğu? Bir sistemi mühendislikle, ajanın ne yapabileceğini, neye ulaşabileceğini ve bir şeyi yanlış yaptığında kimin sorumlu olduğunu karar vermek demek.

Loop engineering normalleşecek ve çoğumuz onu öğreneceğiz. Endişe veren yetenek bu değil. Önemli olan, inşa ettiğimiz sistemlerin denetlenebilir olup olmadığı, güvene layık oldukları ve dünyaya çıktıklarında ne yaptıklarıdır.

Bu yüzden ajana daha fazla özgürlük verme. Ona net sınırlar ver ve kendini döngünün içinde tut.

İlginizi Çekebilir: Flox Intelligence, hayvanların trenlere ve uçaklara yaklaşmasını engelleyecek yapay zeka geliştiriyor →
Kaynak: Towardsdatascience ↗
🚀 SayarBilgi Topluluğu

Bu Gelişmeyi Toplulukta Değerlendirin

Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.

🚀 Yapay Zeka & Gelecek Odası →
Forumda sor / tartış
TOPLULUĞUN SESİ

Söz sizde.

1 yorum

Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.

Sohbete katıl

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Yorumunuz yayımlanmadan önce onay bekleyebilir.

BİR SONRAKİ OKUMA

Merak etmeye devam

Tümünü gör ↗

Neyi merak ediyorsun?

En az 3 karakter yazın.

Keşfet

🌍 DİL SEÇİMİ 25 Dil
🔍