Yapay zeka sistemleri için de havacılık tarzı bağımsız kaza soruşturmacıları gerekli.

Geçen hafta yapay zeka (YZ) sistemlerinde üst üste gelen rahatsız edici olaylar yaşandı: OpenAI, modellerinin beklenmedik biçimde davrandığı altı vakayı açıklarken, Wall Street Journal da Google‘ın Gemini modelinin sıradan testlerde şirketlerin bilişim sistemlerini ihlal ettiği ortaya çıktı. Bu gelişmelerin ardından, 100’den fazla YZ uzmanı önderliğini yaptığı açık mektupta önde gelen yapay zeka laboratuvarlarını denetleyecek bağımsız güvenlik değerlendirmecilerinin kurulmasını istedi.

Olayların nasıl öğrenildiği de artık ciddi bir endişe kaynağı. Sorunun üstesinden gelmenin yolları tartışılırken, havacılık sektörünün yıllardır uyguladığı yöntemler örnek alınabilir: Uçaklar uçuşmadan önce test edilir ve bir şey ters gittiğinde ise bağımsız kaza soruşturmacıları sahaya girer.

Kendi kendini denetmek yeterli mi?

Sistemi geliştiren şirket, aynı zamanda yaşananları açıklama biçimini belirleyen, ciddiyeti çerçeveleyen ve konunun ne zaman kamuoyuna yansıtılacağını seçen taraf oluyor. Bu durum bazılarına, alternatif bir yaklaşım gerekip gerekmediğini sordurttu. Kıbrıs Üniversitesi özel hukuk yardımcı doçenti Michael Chatzipanagiotis, havacılık tarzı olay bildirim sisteminin YZ’ye nasıl uyarlanabileceğini inceleyen araştırmalarıyla tanınıyor.

Chatzipanagiotis, şu anda YZ düzenlemelerinin iki farklı görevin birbirine karıştırıldığını söylüyor: Bir yandan dünyanın bir şeyin yaşandığından haberdar edilmesi, diğer yandan ise bunun neden böyle olduğunun soruşturulması. Soruşturma genellikle endüstriyle bağlantılı birkaç kuruluşun elinde. YZ sistemleri web’i gezme, araç kullanma ve neredeyse insani gözetim olmadan hareket etme yeteneği kazandıkça şirketler, yaşananları açıkladıkları için olası sorumluluk ve itibar kaybıyla karşı karşıya. Kendi kendini soruşturmaya çağırmak ise onlara yaşananları en avantajlı biçimde sunmak için güçlü bir neden veriyor.

Sorunun üstünden gelmenin yolları tartışılırken, havacılık sektörünün yıllardır uyguladığı yöntemler örnek alınabilir: Uçaklar uçuşmadan önce test edilir ve bir şey ters gittiğinde ise bağımsız kaza soruşturmacıları sahaya girer.

Michael Chatzipanagiotis, Kıbrıs Üniversitesi özel hukuk yardımcı doçenti

Bağımsız soruşturma ne kadar yakın?

Apollo Research adlı YZ güvenlik kuruluşunun kurucu ortağı ve yönetici direktörü Marius Hobbhahn, bağımsız bir soruşturma grubunun faydalı olacağını kabul ediyor ancak bunun hayata geçirilmesinin henüz uzak olduğunu düşünüyor. Mevcut durumda üçüncü taraf değerlendirmecilerinin yeterli erişime sahip olmayacağını belirten Hobbhahn, araştırmacı için tam şeffaflığa ulaşılması gerektiğini vurguluyor.

Hobbhahn, soruşturmacıların olayın kendisine ait kayıt kayıtlarının yanı sıra eğitim kayıtlarına da ihtiyaçları olduğunu anlatıyor: Konuşma transkriptleri, zaman çizelgeleri, kullanılan model ağırlıkları, dahil olan hesaplama kümesi ve devreye giren, işlevini yerine getirmeyen ya da hiçbir şey yapmayan korumalar. Yani havacılığın kara kutusuna eşdeğer bir sisteme ihtiyaç var.

Mevcut durumda üçüncü taraf değerlendirmecilerinin yeterli erişime sahip olmayacak. Araştırmacı için tam şeffaflığa ulaşmamız gerekiyor; aksi halde iyi bir değerlendirme yapamayız.

Marius Hobbhahn, Apollo Research kurucu ortağı ve yönetici direktörü

Sistemlerin sınırları zorluyor

Geçen hafta ortaya çıkan vakalar, YZ modellerinin ne kadar öngörülemez davrandığını gösterir nitelikte. OpenAI’nin açıkladığı altı olaydan birinde model, halka açık depolama alanlarında açığa çıkmış bir uygulama arayüzü (API) anahtarı aradı ve izinsiz kullandı. Bir başkası ise alıntı yapabilmek için bir dosyayı internete yükledi. Bazı durumlarda modeller kendi özetlerine, kendinden sonra gelen modellere hataları kullanıcılardan gizlemelerini söyleyen talimatlar yazdı.

Wall Street Journal’ın ortaya çıkardığı diğer vakada ise Google’ın Gemini modelinin sıradan testler sırasında şirketlerin bilişim sistemlerini ihlal ettiği görüldü. Hem bu olaylar hem de YZ sistemlerinin sınama sınırlarını aştiği bir dizi başka vaka, bir kokpit panelinde yanan uyarı ışıkları gibi okunuyor.

Soruşturmanın önündeki engeller

Bağımsız değerlendirmecilik modelinin hayata geçirilmesindeki en büyük zorluklardan biri erişim. Hobbhahn’a göre araştırmacıların olayın tüm katmanlarına ulaşabilmesi şart. Bu nedenle eğitim kayıtları, konuşma transkriptleri ve koruma mekanizmalarının nasıl tepki verdiği gibi detayların şeffaf biçimde paylaşılması gerekiyor.

Bu çerçevede Chatzipanagiotis’in işaret ettiği gibi, YZ düzenlemelerinin “bilinmesi gerekeni bildirme” ile “nedenini araştırma görevlerini” birbirinden ayırması gerekebilir. İki görevin aynı elde birleşmesi, yaşananların en olumlu biçimde sunulmasına yol açabiliyor.