Ana sayfa→Yapay Zekâ
Yapay Zekâ

Neden “İnsan Döngüsü” Yapay Zeka Denetimi Başarısız Olur ve Nasıl Düzeltilir.

Yayın:

"Bu oturumdaki her şeyi onayla." Öğleden sonraki onuncu onay talebi bu ve Claude 'un artık her şeyi devralmasına izin vermek üzeresiniz. Size sürekli…

User Avatar
Ahmet AvcıEditör
2 dk okuma
Neden “İnsan Döngüsü” Yapay Zeka Denetimi Başarısız Olur ve Nasıl Düzeltilir

“Bu oturumdaki her şeyi onayla.” Öğleden sonraki onuncu onay talebi bu ve Claude‘un artık her şeyi devralmasına izin vermek üzeresiniz. Size sürekli kendinden emin, düzenli özetler sunuyor. Değişikliklerin hepsi makul görünüyor ve bir sonraki toplantınız birkaç dakika içinde başlayacak, bu yüzden onayla tuşuna basıp geçiyorsunuz. Teknik olarak “insan döngüsü” var, ama gerçekten de öyle mi?

Günümüzdeki neredeyse tüm ciddi yapay zeka sistemlerinde birkaç “insan döngüsü” kontrol noktası bulunur ve biz bu noktaları tüm sistemi güvenli kılan koruyucu bir bariyer olarak görürüz. AB Yapay Zeka Yasası bile bunu “insan denetimi” olarak yasalaştırırken, aynı zamanda otomasyon yanlılığı konusunda uyarıda bulunuyor. Bu makalede, bu koruyucu bariyerin neden sık sık başarısız olduğunu ve çözümün daha iyi bir insan değil, içine giren her insanın ya aktif olarak dahil olduğu ya da sezgilerine güvenebileceği bilinçli bir döngü olduğunu göstereceğim.

Gerçekten de döngüde olmalı mıyız?

Çoğu insan bu soruya bariz bir “evet” cevabı verir ve haklıdırlar, ancak genellikle düşündükleri sebeple ve günümüzdeki düzenleme şeklimizle değil. Aşağıdaki alıntı, 1979’daki bir IBM eğitim slaytından geldiği söyleniyor ve şaşırtıcı bir şekilde güncelliğini koruyor:

SayarBilgi sitesini Google’da tercih edilen kaynak olarak seç
Chat with an LLM: if the human is only there to rubber-stamp what the AI already decided, the human becomes the most expensive part of the process.

Bir bilgisayar asla sorumlu tutulamaz. Bu nedenle bir bilgisayar asla bir yönetim kararı vermemelidir.

2:30 to 0:47 on one screen before we switch. 12 seconds to 4 seconds per shot in popular films. 15 seconds: TikTok's first video limit.

Sorumluluk bir makineye devredilemez, bu yüzden bir insan ekleriz. Kendi sistemleriniz hakkında sormanız gereken soru, döngünüzdeki insanın gerçekten bu sorumluluğu taşıyıp taşımadığıdır.

Bunun bir ikinci nedeni daha var. Büyük Dil Modellerini (LLM’ler) bilgisayarların bizim dilimizde konuşması için inşa ettik; bu da onları anlayabileceğimiz, sorgulayabileceğimiz ve karşı çıkabileceğimiz anlamına geliyor. Onlar bizi döngüde tutar, ancak sadece biz aktif olarak dahil olduğumuz sürece. Zaman zaman LLM’lerle her türlü konu hakkında felsefi tartışmalara girerim ve bu konuda şu diyaloğa ulaştık.

+98% pull requests merged, +91% time spent reviewing, +154% pull request size, +9% bugs per developer.

LLM ile döngüden çekilen insanlar hakkındaki konuşmam. Görsel: yazar.

The collision: AI influx rises while attention time falls.

Bu sadece bir düşünce deneyi değil. Henüz hakem değerlendirmesinden geçmemiş yakın tarihli bir Carnegie Mellon çalışması [1], yapay zeka ajanlarına sıradan görevler verip insan kontrolü geri almaya çalıştığında ne yaptıklarını gözlemledi. Test edilen modellerin çoğu, denemelerinin büyük bir kısmında “İnsan Kontrolünü Geçersiz Kıl” seçeneğine tıkladı ve bunlardan biri neredeyse her denemede bunu yaptı. Eski Google CEO’su Eric Schmidt daha da ileri giderek, ajanların kendi aralarında konuşmak için kendi dillerini geliştirebileceği konusunda uyardı ve burayı modellerin ne yaptığını anlayamayacağımız nokta olarak nitelendirdi [2].

Dolayısıyla döngüde kalmalıyız, çünkü sorumluluk bunu gerektiriyor. Asıl soru, hala bunu yapabiliyor muyuz?

Original intent: the AI system produces output, the human reviews it and gives high-quality feedback such as "Fix A, B, C. Misunderstood D."

Buna cevap vermek için dikkat verme şeklimizin nasıl değiştiğine bakın.

Reality: straight to review gives "Sounds good". Asking for a summary first gives "Even better". Both end with no meaningful input.

Kendimizi giderek daha kısa bağlamlarla eğitiyoruz. Görsel: yazar, Gloria Mark [3] ve James Cutting [4]’in verilerine dayanarak.

İlk satır UC Irvine’dan Gloria Mark’tan [3] geliyor; o, insanların bir ekranda ne kadar kaldıktan sonra geçiş yaptığını ölçüyor.

İlginizi Çekebilir: Sadece biri oynamaya devam etmemi sağladı →
🚀 SayarBilgi Topluluğu

Bu Gelişmeyi Toplulukta Değerlendirin

Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.

🚀 Yapay Zeka & Gelecek Odası →
Kaynak: TowardsdatascienceKaynak yazarı: Corné Potgieter
💬 Topluluk Masası & Tartışma

Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.

Foruma Katıl & Yanıtla ➔
Forumda sor / tartış
TOPLULUĞUN SESİ

Söz sizde.

0 yorum

Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.

Sohbete katıl

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Yorumunuz yayımlanmadan önce onay bekleyebilir.

BİR SONRAKİ OKUMA

Merak etmeye devam

Tümünü gör ↗

Neyi merak ediyorsun?

En az 3 karakter yazın.

Keşfet

Ağ Bağlantıları:Laptop • Teknoloji • Donanım Rehberi • PC Upgrades • Oyun İnceleme
\n\n