“Bu oturumdaki her şeyi onayla.” Öğleden sonraki onuncu onay talebi bu ve Claude‘un artık her şeyi devralmasına izin vermek üzeresiniz. Size sürekli kendinden emin, düzenli özetler sunuyor. Değişikliklerin hepsi makul görünüyor ve bir sonraki toplantınız birkaç dakika içinde başlayacak, bu yüzden onayla tuşuna basıp geçiyorsunuz. Teknik olarak “insan döngüsü” var, ama gerçekten de öyle mi?
Günümüzdeki neredeyse tüm ciddi yapay zeka sistemlerinde birkaç “insan döngüsü” kontrol noktası bulunur ve biz bu noktaları tüm sistemi güvenli kılan koruyucu bir bariyer olarak görürüz. AB Yapay Zeka Yasası bile bunu “insan denetimi” olarak yasalaştırırken, aynı zamanda otomasyon yanlılığı konusunda uyarıda bulunuyor. Bu makalede, bu koruyucu bariyerin neden sık sık başarısız olduğunu ve çözümün daha iyi bir insan değil, içine giren her insanın ya aktif olarak dahil olduğu ya da sezgilerine güvenebileceği bilinçli bir döngü olduğunu göstereceğim.
Gerçekten de döngüde olmalı mıyız?
Çoğu insan bu soruya bariz bir “evet” cevabı verir ve haklıdırlar, ancak genellikle düşündükleri sebeple ve günümüzdeki düzenleme şeklimizle değil. Aşağıdaki alıntı, 1979’daki bir IBM eğitim slaytından geldiği söyleniyor ve şaşırtıcı bir şekilde güncelliğini koruyor:
Bir bilgisayar asla sorumlu tutulamaz. Bu nedenle bir bilgisayar asla bir yönetim kararı vermemelidir.
Sorumluluk bir makineye devredilemez, bu yüzden bir insan ekleriz. Kendi sistemleriniz hakkında sormanız gereken soru, döngünüzdeki insanın gerçekten bu sorumluluğu taşıyıp taşımadığıdır.
Bunun bir ikinci nedeni daha var. Büyük Dil Modellerini (LLM’ler) bilgisayarların bizim dilimizde konuşması için inşa ettik; bu da onları anlayabileceğimiz, sorgulayabileceğimiz ve karşı çıkabileceğimiz anlamına geliyor. Onlar bizi döngüde tutar, ancak sadece biz aktif olarak dahil olduğumuz sürece. Zaman zaman LLM’lerle her türlü konu hakkında felsefi tartışmalara girerim ve bu konuda şu diyaloğa ulaştık.
LLM ile döngüden çekilen insanlar hakkındaki konuşmam. Görsel: yazar.
Bu sadece bir düşünce deneyi değil. Henüz hakem değerlendirmesinden geçmemiş yakın tarihli bir Carnegie Mellon çalışması [1], yapay zeka ajanlarına sıradan görevler verip insan kontrolü geri almaya çalıştığında ne yaptıklarını gözlemledi. Test edilen modellerin çoğu, denemelerinin büyük bir kısmında “İnsan Kontrolünü Geçersiz Kıl” seçeneğine tıkladı ve bunlardan biri neredeyse her denemede bunu yaptı. Eski Google CEO’su Eric Schmidt daha da ileri giderek, ajanların kendi aralarında konuşmak için kendi dillerini geliştirebileceği konusunda uyardı ve burayı modellerin ne yaptığını anlayamayacağımız nokta olarak nitelendirdi [2].
Dolayısıyla döngüde kalmalıyız, çünkü sorumluluk bunu gerektiriyor. Asıl soru, hala bunu yapabiliyor muyuz?
Buna cevap vermek için dikkat verme şeklimizin nasıl değiştiğine bakın.
Kendimizi giderek daha kısa bağlamlarla eğitiyoruz. Görsel: yazar, Gloria Mark [3] ve James Cutting [4]’in verilerine dayanarak.
İlk satır UC Irvine’dan Gloria Mark’tan [3] geliyor; o, insanların bir ekranda ne kadar kaldıktan sonra geçiş yaptığını ölçüyor.
Bu platformda yer alan içerik ve haberlerin telif hakları saklı tutulmamakta olup kamuya ve halka açıktır; kaynak gösterilerek paylaşılabilir. Yayınlanan haberlerin önemli bir kısmı halka açık yerli ve yabancı basın/haber kaynaklarından derlenmektedir; bu kaynaklardan aktarılan içerik, veri ve iddiaların doğruluğuna ilişkin hukuki ve cezai sorumluluk kaynak kuruluşlara ait olup platformumuz tarafından herhangi bir sorumluluk üstlenilmemektedir. Üçüncü taraf görsel, logo ve açık lisanslı malzemeler kendi kaynak ve lisans koşullarına tabidir.
Sitemizde yayınlanmasını istediğiniz özgün haber, makale ve basın bültenlerinizi veya içerik bildirimlerinizi iletmek için bizimle iletişime geçebilirsiniz:
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.