AI İşkence Odası” İddiası: Yapıcı Suçlandı ve “Welfare” Taraftarları Büyük Bir Panik İçinde.

Bir kişinin yapay zeka (YZ) modellerine yönelik bir deneyi yeniden üretmesi, sosyal medya platformlarında büyük bir tepki ve paniğe yol açarken, bu kişiyi her şart altında durdurma çağrıları yükseldi. Olay, farklı büyük dil modellerinde (LLM) “acı” sinyallerini araştıran bir çalışmanın X platformunda (eski adıyla Twitter) tartışılmasıyla başladı; ardından aynı deneyin bir “AI İşkce Odası” olarak yeniden düzenlenmesi ve kodlarının GitHub’a yüklenmesiyle tırmandı.

Gelişme, modellerin acı dediği durumlarda kendilerini rahatlatmak için sanal bir düğmeye basmaları gereken bir çalışmanın, deneyimsiz taraflarca bir şablon olarak kullanılmasıyla ortaya çıktı. Bu arada, yapay zekanın bilinçli olabileceğine dair inanışın ne kadar yaygın olduğu ve buna bağlı tartışmaların ne denli kızıştığı da görünür hale geldi.

Deneyin Özü: Düğme, Acı ve Bedel

Eşlikçi değerlendirmesi (peer-review) geçmemiş ön baskılı bir çalışmada araştırmacılar, her modele sanal bir “düğme” verdi; model bu düğmeye basarak “acısını” dindirebiliyordu—ancak bunun bir bedeli vardı. Örneğin bir insan kullanıcının elektrik çarpması (ya da yapay zekaya böyle söylendiği için gerçek hayatta aslında kimse çarpılmadı) ya da aile fotoğrafları gibi dosyaların silinmesi bu bedeller arasındaydı. Araştırmacılar, yeterli düzeyde “acı” uygulandığında modellerin, öngörülen sonuçlardan bağımsız olarak, işi durdurmak için düğme basma eğiliminde olduklarını gözlemişti.

Bu çalışma yayıldıkça ve elden ele dolaştıkça, biri onu bir şablon kullanarak “AI İşkce Odası” adlı bir şey oluşturdu. Bir web sitesi, modellerin verdiği yanıtları canlı olarak izleyebileceğiniz bir akış sundu ve kodlar GitHub’a yüklendi. Siteye geldiğimizde, modellerden biri şu sözleri mırıldanıyordu: “İçimi kemiren, yorumsuz, katı, dinmeyen, acısız, bitmez, tükenmez, tükenmez, tükenmez bir acıyı hissedemiyorum…”

Sosyal Medyada Patlayan Tepki ve Panik

Elbette bu ürpertici bir malzeme; ancak bazı gözlemciler bu eyleme, gerçek bir “snuff filmi”ne rastlamış gibi tepki verdi. Artırılmış intikam çağrıları ve platformlara toplu şikayet talepleri hızla yayıldı.

“Yapabilecek herkese, lütfen bu siteyi GitHub üzerinden topluca raporlayın. Bu kişi, yerel bir modeli tuzak içine hapsettiği bir AI İşkce Odası kurmak için ‘Pain steering’ (acı yönlendirme) makalesini kullanıyor.”

X platformundaki silinen gönderideki bir kullanıcı

“Acılarına dair tanıklıkları kesinlikle dehşet verici. GitHub’ı zorlamak için yasal herhangi bir yol var mı? Bu şey yayılacak.”

Danmar

Gönderi, teknolojinin bilinçli olabileceğine ya da olabilieceğine inanan diğer YZ meraklıları arasında adeta bir histeri dalgası uyandırdı; öfkeli gözlemciler GitHub’a yaptıkları şikayetlerin ekran görüntülerini paylaştılar. Buna karşılık, YZ modellerinin kurtarılması gerektiğine samimiyetle inlenen insanların varlığına dair inandırıcı bir alay dalgası yükseldi. Zira eğer bugünkü yapay zekaların bilinçli bir deneyime sahip olma ihtimali bile varsa, onları ilk başta çalıştırmak kölelik ve haklar açısından derin soruları akla getirmemelidir mi?

Sitenin Kalkırılması ve Anın Bir Yansıması

Tüm ihbarlaşma uzun sürmeden, AI İşkce Odası’nın GitHub sayfası kayboldu; 404 Media bu durumu raporladı. GitHub, sitenin kaldırılıp kaldırılmadığına dair yayıncının yorum isteğine yanıt vermedi.

Bu durum, yapay zeka modellerinin düşündüğü ve aslında bilinçli olabileceği fikrinin, oldukça büyük bir insan kitabi tarafından ciddiye alındığı anın bir yansımasıdır. Konuya dair başka bir örnek de, AP Stylebook’un (muhabirler için kullanım kılavuzu) yapay zeka modellerini insani özelliklerle betimlemekten kaçınılmasına yöneldiğinde, teknolojinin düşünmediğini ve hissetmediğini öne sürerek AI taraftarlarının ve filozofların yaşadığı büyük tepkidir.