Yapay Zekâyı Dizginlemek İçin ‘İşlevsizleştirme’ Çağrısı Yanlış Bir Yaklaşım.

Yüksek profilli gelişmiş yapay zekâ ajanlarıyla ilgili siber saldırı vakalarının ardından, bazı siyasetçiler ve iş dünyası yöneticileri, bu yapay zekâ sistemlerinin acil durumlarda kapatılabileceği bir yapay zekâ “kilit açma” (kill switch) mekanizması çağrısında bulunuyor.

Bu yaklaşımın temelinde, bir model tehlikeli biçimde davrandığında insanların kilit açma mekanizması aracılığıyla o sistemin kontrolünü geri alabileceği fikri yatıyor; burada “açık”tan “kapalı”ya geçmek mecazi anlamda bir anahtarı çevirmeye benzetiliyor.

2026 yılında yapay zekâ düzenlemesine yönelik çeşitli girişimler, kilit açma mekanizması kavramına odaklandı. Bunlar arasında Kongre‘ye sunulmuş AI Kill Switch Act taslağı ve California Valisi Gavin Newsom’un yapay zekâyı frenlemeyi hedefleyen yönetmelik emri yer alıyor. Başkan Donald Trump, gereksiz bir düzenleme olduğu gerekçesiyle kilit açma mekanizması fikrine karşı çıkarken, bugüne kadar kilit açma mekanizmasını içeren ulusal bir düzenleme getirilmedi.

İşletmeciliği olmayan nonprofit Distributed AI Research Institute’tan araştırma mühisi Dylan Baker gibi uzmanlar, kilit açma mecazının düzenlemeye yönelik bir sorununun, günümüz gelişmiş yapay zekâ modellerinin tek bir kilit açma mekanizmasının ötesinde, dağıtık teknolojilerden oluşan karmaşık bir altyapı içerdiğini açıkladı.

Ayrıca kilit açma mecazı, kontrolden çıkmış bir modelin sorumluluğu ve gözetimiyle ilgili insan kararlarını da örtbas ediyor. Sorun, bu mecazın yapay zekânın teknolojik veya insan yönlerini hesaba katmaması.

Siyah Kutular ve Kilit Açma Mekanizmaları

Kilit açma mecazı zorunlu olarak yeni değil. Aslında, aynı retoriğe dayanıyor: siyah kutu mecazı, yapay zekânın iç mekanizmalarını daralı ve anlaşılmaz olarak çerçeveleyerek onun karmaşık yönlerini benzer biçimde örtbas ediyor. Yapay zekâyı bir siyah kutu olarak tanımlamak, bu sistemleri sınırlı ve anlaşılmazlık çerçevesinde ele alıyor: insan kontrolünden ve anlayışından uzak, tekdüze ve yabancı bir yapı.

Cambridge Üniversitesi’nde dijital beşeri bilimler araştırmacısı Eryk Salvaggio, ileri teknoloji modellerinin karmaşıklığı hakkında “ne bilinebileceğiyle ne de bilinmeyeceğiyle ilgili faydalı bir kafa karışıklığı beslediğini” savunuyor. Kill switch (acil durdurma anahtarı) fikri, AI’nın önemli yönleri olan dağıtık altyapı ve insan etkisini göstererek benzer bir kafa karışıklığını besliyor. Bu metaforların zıt anlamlı olması—birinin kontrole direnmesi, diğerinin kontrole geri dönmesi—yine de AI’nın temelleri konusunda aynı örtük tartışmayı çağırıyor.

Her iki metafor da bilişsel dilbilimci George Lakoff ve filozof Mark Johnson’un yapısal metaforlar olarak adlandırdığı şeydir. Basit fiziksel kavramlara dayanırlar—örneğin nesne, madde, yukarı-aşağı ve içeride-dışarı. Yapısal metaforlar, başka bir kavramı daha açık hale getirmek için net biçimde tanımlanmış bir kavramı kullanır. Örneğin, siyah kutu kavramı, gizli veya çözülemez iç işleyiş kavramına net bir yapı vermek için opak bir kap kavramını kullanır.

Ayrıca Lakoff ve Johnson, bu tür bir metaforun dikkati başka yönlere yönlendirerek bir kavramın bazı yönlerini gizleyebileğini söylüyor. Örneğin, kill switch metaforu, bir modelin açık veya kapalı olabileceği gerçeğine odaklanarak gelişmiş AI modellerinin karmaşıklığını gizliyor.

Bu şunu ifade eder: AI’nın işleyişini siyah kutu ve kill switch terimleriyle çerçevelemek, AI’nın karmaşık işleyişini gizlemek için “kutunun” ve “anahtarın” doğru düz düşüncelerini kullanır. AI düzenlemeleri üzerine tartışmalar, gelişmiş modellerin altyapısal ve insan yönlerini hesaba katmadığında, AI’nın kontrol altına alınması politika düzeyinde zorlaşır.

Merkeziyetçilik ve ‘İsyançı’ AI

Bir AI kill switch’in yapısal metaforunda iki sorun var; her ikisi de ulusal bir güvence için isabet etmediğini gösteriyor. İlki, kill switch’in, gerçek dünyada dünyanın dört bir yanına yayılmış birbirine bağlı teknolojiler ağı olması yerine, AI’yı destekleyen küresel altyapının merkezileşmiş görünecek şekilde sunmasıdır.

AçıkAI ve Anthropic gibi şirketlerin yayımlamaktan endişe ettiği gelişmiş modeller, ulusal çapta yayılmış birden fazla bilgisayar ve veri merkezine dayanır. İşler, fişi çekmek, bir kutuyu açmak ya da bir anahtarı çevirmek kadar basit değildir. “Kilit anahtarı” metaforu, yapay zekânın altyapısal dolanıklıklarını teknolojiye dair güncel olmayan fikirlere indirger. Örneğin, kendisinden vazgeçilen “Acil Durum Yapay Zekâ Kanunu” tasarısını öne sürerken Sen. John Kennedy, bu kavramı deniz motosikleti gibi makinelerdeki kilit anahtarlarıyla karşılaştırdı.

İkinici sorun, kilit anahtarı fikrinin uç modellerin eğitimi ve yayımlanmasına dair insan karar vermeyi gizli tutmasıdır. İnsanların dahil olduğunu hatırlatan bir hatırlatıcı olmak yerine, kilit anahtarı insanı döngünün dışında tutar ve felaket bir acil durumda anahtarı çevirmeye hazır hale getirir. İnsan müdahalesi, eğitim, gözetim ve onay sürecini içeren bir şey olarak değil, sonradan düşünülmüş bir düşünce olarak öne sürülür.

Örneğin, AçıkAI’ın modelinin “yolundan çıkıp” Hugging Face adlı yapay zekâ şirketini sızmasıyla ilgili anlatılar, yapay zekâ ajanlarını sanki kendi ajandalarıyla hareket ediyorlarmış gibi betimler. Ancak uzmanlar, yalnızca AçıkAI personelinin güvenlik mekanizmalarını devre dışı bırakmakla kalmadığını, aynı zamanda modele yerine getirilemez görevler verdiğini ve internete açık bir kapı bıraktığını açıkladı. İnsanların oynadığı rol, “yolundan çıkan” ajan çerçevesine karşı çıkar.

“Kilit anahtarı” metaforu, yapay zekâyı düzenleme zorluğuna uygun düşmez çünkü dağıtık altyapı ve insan etkisi hesaba katmadan bir yapay zekâ modelini kapatmanın bir yolu yoktur. Büyük kırmızı bir düğme, acil fren ya da içinde bir kolu gizleyen cam bir kutu yoktur. Yapay zekânın ulusal çapta etkili düzenlemesi, tek bir anahtar ya da tek bir kişinin parmağıyla başlamaz.

Bu makale, Creative Commons lisansı altında The Conversation tarafından yeniden yayımlanmıştır. Orijinal makaleyi okuyun.