Yapay zeka güvenliği tartışması: Asıl mesele güvenlik mi, kontrol mü?.

Teknoloji sektörünün yapay zeka güvenliğine yaklaşımı konusunda artan bir üst düzey yönetici katılımıyla, Hugging Face‘de bir OpenAI ajanının birkaç farklı şirketi sızdırması gibi olayların dünyayı kaosa sürükleyebileceği yönündeki tartışma kümelendi. Son haftalarda önde gelen laboratuvarlar yapay zeka gelişiminin yavaşlatılmasını istedi ve Anthropic CEO’si Dario Amodei, neredeyse 4.000 kelimelik bir makale yazarak yapay zeka geliştirme sürecinin neden yavaşlatılması gerektiğini açıkladı. Bu plan arasında şirketler ve hükümetler arasındaki güvenli yerleşim için uluslararası işbirliği stratejisi de yer alıyor.

Bu gelişmeler teknoloji sektöründe geniş çaplı bir tartışma başlattı, ancak herkes Amodei’nin küresel koordineli eylem çağrısıyla aynı görüşte değildi. Hatta birçok yönetici, devlet denetiminin hiçbir rol oynamasına gerek olmadığını düşünüyor.

Zuckerberg’den güvenlik vurgusu

Bu tartışmaya katılan son isim Meta CEO’si Mark Zuckerberg oldu. Bu hafta X platformuna çıkarak konudaki görüşlerini paylaştı. “Güven ve hizalanmanın, ajanları ve modelleri ayırt edecek en önemli yetenekler haline geldiğini düşünüyorum” diyen Zuckerberg, şirketinin güvenlik endişeleri nedeniyle yapay zeka modelini yayımlamayı ertelediğini belirtti. “Meta, Muse’u birkaç aylığıyla güvenli yerleşim için odaklanmak amacıyla geciktirdi. Başkalarının bunu bizden önce yapmasını istemedik. Bunu günlük çalışmalarımızın bir parçası olarak yaptık çünkü bu insanların ve bizim için açıkça doğru şeydi,” dedi.

Zuckerberg, Amodei’nin planının bazı bölümlerini desteklemesine rağmen, devlet eyleminin gereksiz olduğunu ve sektörü yapılandırgan organik teşviklerin şirketleri güvenliği doğru yapmaya zorlayacağını ima ediyor. Pazar, sonunda kaosa yol açmayan modeller oluşturmaya özen gösteren şirketlere başarı getirmeli. Bu görünüşe göre Zuckerberg’in geçen ay yazdığı geniş makaleyle uyumlu görünüyor; bu makale gerekli olduğunda sınırlı devlet işbirliğini savunurken, büyük ölçüde Amerikan rekabetini parlayan bir teknolojik geleceğin anahtarı olarak öne sürüyordu.

“Güven ve hizlanmanın ajanları ve modelleri ayırt edecek en önemli yetenekler haline geldiğini düşünüyorum. Meta, Muse’u birkaç aylığıyla güvenli yerleşim için odaklanmak amacıyla geciktirdi. Başkalarının bunu bizden önce yapmasını istemedik. Bunu günlük çalışmalarımızın bir parçası olarak yaptık çünkü bu insanların ve bizim için açıkça doğru şeydi.”

Mark Zuckerberg, Meta CEO’si

Sektör yöneticilerinden farklı görüşler

Bu genel görünüm birçok teknoloji yöneticisinin konumunu yansıtıyor. Konuya katılan başka bir üst düzey yönetici Reddit kurucusu Alexis Ohanian oldu. Çarşamba günü CNBC’ye yaptığı açıklamada, sektörün yapay zeka risklerini halka açıklarken büyük ölçüde “sağır” kaldığını hissettiğini söyledi. Ancak Zuckerberg gibi Ohanian da şirketlerin işleri kendi başlarına çözebileceğine dair bir umudunu ifade etti.

Google DeepMind kurucusu Shane Legg de görüşlerini paylaştı. “Şimdi çok, çok hızlı ilerleyen yeteneklerin yaşandığı bir dönemde yaşıyoruz ama yeteneklerin güvenliğin önüne geçmesine izin veremeyiz” dedi. “Bunun ayrıntılarını ve bunun pratikte nasıl işleyeceğini gerçekten çözmemiz gerekiyor.” ekledi.

Gönüllü kendi kendine düzenleme girişimi

Büyük laboratuvarların kamu-özel işbirliği çağrılarına rağmen, bu düzenlemeci seslerden bazıları da işletmelerin kendi kurallarını yazmasına nispeten memnuniyetle yaklaşıyor. Aslında bu hafta daha az görünür ama bir o kadar ilginç bir hikaye de The Information’dan gelen bir rapordu; bu rapor OpenAI, Anthropic ve diğer büyük yapay zeka şirketlerinin bir yapay zeka standartları kuruluşu oluşturmak için birlikte çalıştığını belirtti. Bu kuruluş bir medya organı tarafından özel bir “kendiliğinden düzenleyici kurum” olarak tanımlandı.

Benzeri federally işletilen bir kuruluş oluşturma konusunda daha önce tartışmalar yapıldı. Ancak sesli yapay zeka destekçilerini içeren ve büyük ölçüde regülasyonsuz bir teknoloji işini savunan Trump Beyaz Sarayı’nın (idare, hali hazırda kendi AI yasalarını getirmeye çalışan eyalet hükümetlerini zorla durdurmayı denedi) buna dair hiçbir şeyi takip etmediği görülüyor. İdarenin “AI çarı” ve teknoloji deneylisi David Sacks’ın, AI düzenlemesinin onu geliştiren şirketlere bırakılması gerektiğini söylediği biliniyor.

Düzenleme eleştirileri ve jeopolitik boyut

Beyaz Saray gibi Kongre’nin önde gelen üyeleri de Amodei’nin kendi şirketini düzenlemeye dair teklifini kabul etme konusunda eşit derecede ilgisiz görünüyor. Anthropic CEO’sinin makalesi yayımlandıktan kısa bir süre sonra, Meclis Başkanı Mike Johnson kaotik AI gelişimleri konusundaki endişeleri şu şekilde dile getirdi: “10 yıl içinde hepiniz ölmeyeceksiniz,” dedi.

Bir özel kuruluş sektörü yalnızca gönüllü taahhütlerle regülasyonsuz tutar ve bunu oluşturan şirketlere doğal olarak belli bir otorite ve etki verir. Bu, sektörün düzenleme çağrılarının aslında “düzenleyici ele geçirme” stratejisi olduğu yönündeki başka bir süregelen iddiaya yol açıyor. Bu argümana göre, sektörde zaten öne çıkan bir konumdan yararlanayan güçlü şirketler, daha küçük ve kaynakları sınırlı şirketleri dışarıda bırakmak veya dezavantajlı duruma getirmek için düzenleyici taktiklerini kullanabilir; böylece rekabetlerini kurutabilir. Bu gerçek regülasyonlar içermek zorunda değildir ancak yine de daha az güçlü firmalara baskı uygulayan gönüllü sektör standartlarını içerebilir.

“AI’nin güvenlik önlemlerine ihtiyacı var. İşbu tartışma bu değil ve hiç böyle değildi. Tartışılan konu, bunları kim yazıyor, kimin katılabileceği ve kuralların hangi çıkarları koruduğu.”

Aidan Gomez, Cohere CEO’si

Çin hükümetinin önde gelen birçok sesi bu konuyu yankıladı. Amodei’nin “sınıra tempo koyma” çağrısından sonra Çin Dışişleri Bakanlığı sözcüsü Guo Jiakun Amerikalıları küresel AI yönetimini bozmak için “korku yayıcılığı” yapmakla suçladı; ayrıca Çin’in devlet yürütücülüğündeki bir gazetede yayınlanan bir yazı Amodei’nin söylemini soğuk savaş el kitabından doğma olarak nitelendirdi.

Amodei’nin makalesinde istediği şeylerden biri olan şirketlerin Çin ile ticaret yapma biçiminin yeniden yapılandırılması, Amerikan şirketleri için işlerini kendi lehine yönlendirmek için doğal bir fırsat olabilir. Amodei bunun amac olduğunu kabul ediyor bile. “Bu önlemleri iyi uygularsak, bunların 3-5 yıl içinde—AI’nin jeopolitik açıdan en önemli olduğu pencere—Amerikan’ın önderliğini önemli ölçüde genişletmesi için Çin’in ilerlemesini yavaşlatacağını düşünüyorum,” yazmıştı makalesinde.

Ancak sadece Çin değil, büyük Amerikan AI laboratuvarlarını kendi lehine maçı oynatmaya çalışanlar olarak görenler var. Kanada yapay zeka şirketi Cohere’nin CEO’si Aidan Gomez bu şirketlerin bir “kartel” kurmak suçlamasında bulundu ve blog yazısında yukarıdaki ifadeleri kullandı.

Gomez’in belirttiği gibi, AI güvenliği derinden politik bir alandır; burada güvenliğin nasıl tanımlandığı—ve kim tarafından—aslında bir sonraki AI rekabeti aşamasında kimin başlangıç avantajına sahip olacağını ve kimin geride kalacağını belirleyecektir.