Yapay Zekâ Döneminde Kanıt Artık Gözle Görülmüyor: Fiziksel Tanıklar Eskinden Daha Çok Önemli.

Elon Musk, Tesla‘nin en yeni Roadster’ını sunduğunda, dikkat çoğunlukla gözle görülür bu gösteriye yöneldi. Ortada, bilim kurgunun en eski vaatlerinden birinin nihayet gerçeğe dönüştüğü görülüyordu: uçan bir araba.

Gösteri, çağdaş teknolojik tiyatronun sizden bekleyebileceğiniz her şeye sahipti. Fütüristik aracın, döngülü bir pistte yükselip döndükten ve alçaldıkça izlemek, Hot Wheels pistlerini, bilim kurgu filmlerini ve 20. yüzyılın ikinci yarısında çocuk kitaplarını dolduran gelecek tasvirlerini aklınıza getirmemek mümkün değildi.

Ancak performans ve kamuya iletişim alanında bir araştırmacı olarak beni en çok etkileyen şey arabanın kendisi değil, seyircilerdi. Etkinlik canlı yayınlandı, çoklu kamera açılarından çekildi ve çevrimiçi olarak hızla yayıldı. İnsanlar ayrıca bunu fiziksel olarak tanık olmak için bir araya getirildi. En gösterici biçimiyle, Musk’ın canlı seyircilerin orada olmasının, görüntülerin AI ile üretilmiş olduğunu düşündürecek kimse olmasını engellemek istemesi nedeniyle orada olduğu aktarıldı. Tek bir cümlede, günümüzün tanımlayıcı kültürel kaygılarından birini yakaladı: inanma söz konusu olduğunda, görme artık yeterince yeterli değil.

Bir yüzyıldan fazla bir süreden, üretilme teknolojileri fiziksel varoluşun önemini kademeli olarak azalttı. Mekanik Üretimin Döneminde Sanat Eseri’nde kültür eleştirmeni Walter Benjamin, özgünlüğü bir eserin özgün örneğinin kendine has “zaman ve mekândaki varoluşu”na bağladı. Fotoğraf, daha önce hiç gidilmemiş bir yeri görmemizi sağladı, film bu ilkeyi genişletti, televizyon bunu daha da ilerletti ve internet coğrafyayı tamamen ortadan kaldırdı. Bir süre için fotoğraf ya da hareketli görüntü kendi kanıtlayıcı otoritesini kazandı: kayıtlı bir şeyi görmek, makul ön şartlarla, bir etkinin gerçekleştiğini kabul etmek için yeterli dayanak sayılırdı.

Roadster, uçan yeteneklerini Hot Wheels’i andıran bir pistte sergiledi.

Yapay zekâ bu ilişkiyi sarsıyor. İkna edici görseller artık hiç yaşanmayan olayları betimleyebiliyor. Deepfake’ler insanların asla söylemediği sözleri sanki söylemiş gibi simüle edebiliyor. Önemli değişim, giderek daha ikna edici biçimde sunulan gerçeklik temsillerinin fiziksel dünyada bir başlangıç olayına sahip olması gerekmemesi.

Bu meraklı bir tersine dönüş yaratıyor. Temsiller teknolojimiz ne kadar gelişirse, görselin tek başına nereden geldiği hakkında o kadar az şey söyleyebiliyor. Bu bağlamda Tesla gösterisindeki kalabalık beklenmedik bir işlev kazanıyor: kanıta tanıklık etmekle kalmıyor, onun bir parçasına dönüşüyor. Seyirciler kendi kayıtlarını ve görsellerini üretiyor, böylece güvenilirlik artık yalnızca Tesla’nın resmi kayıtlarına dayanmamış. Etkinlik dağıtılmış bir doğrulama biçimi kazanmış.

Ama burada önemli bir sorun var. İnsan tanıklar insan oldukları için güvenilir değil. Büyücü David Copperfield Nisan 1983’te Liberty Heyveli’nin ekranda kaybolduğu izlenimini yarattığında, canlı kalabalık illüzyonun ayrılmaz bir parçasını oluşturuyordu. Yaklaşık 50 milyon televizyon izleyicisinin izlediği belirtiliyor, ancak fiziksel olarak orada bulunanlar heyvelin görünüşte yok olduğunu gerçekten görmüş olduklarını söyleyebilirdi – ki tabii ki hiçbir yere gitmemişti. Copperfield’ın kalabalığı bir gerçeklik açıklamasını onaylamadı, bir deneyimi onayladı.

Bu nedenle bir etkinlik gerçek olabilir, ancak tanıklar her zaman gösteriyi doğruluğa dönüştürmez. Seyirciler manipüle edilebilir veya onayladıkları performansın bir parçasına dahil edilebilir. Bir illüzyonun yüz kaydı, yine illüzyonun yüz kaydıdır.

Belki de sorun o zaman görselin gerçek olup olmadığından çok, kökeniyle ilgili bir soruna dönüşür. Bu görsel nereden geldi ve bunun hesabını verecek kim var?

Senteetik medya (yapay olarak oluşturulan, değiştirilen veya üretilen metin, görsel, ses, video veya 3D varlıklar) önünde bir nesne olan bir kameraya, hatta betimlenen bir sahnenin var olmasına ihtiyaç duymaz. Bu, özgünlüğün doğasını değiştiriyor.

Bu sorunu, “onaylanmayan konuşmacı” fikri üzerinden inceledim. Kamu iletişimi, artan ölçüde konuşma metinleri yazma, düzenleme, platformlar, algoritmalar ve özetleme katmanları aracılığıyla bize ulaşıyor. Zorluk, yalnızca ifadelerin doğru ya da yanlış olduğunu belirlemek değil; aslında hangi sesle karşılaştığımızı ve sonunda bunun arkasında kimin durduğunu tespit etmek. Sentez medya, insan kaynağı ve dolayısıyla sorumluluk giderek belirlemesi zorlaşırken temsillerin dolaşıma girmesine olanak tanıyarak bunu daha ileri taşıyor.

Bir tanık bu sorunu çözemez. İnsanlar yanılabilir, yalan söyleyebilir ya da yaşadığı şeyi yanlış anlayabilir. Ancak bir tanık oradadır ve potansiyel olarak sorgulanabilir. Bir tanık, kendini olayın içinde konumlandırabilir ve “Oradaydım” diyebilir. Bir bakıma, onların varlığını ödünç alıyoruz. Belki de görüntüler yalnızca güvenilir kanıt olarak işlevini kaybettiğinde değerli olan şey tam da bu. Soru, “bu gerçek görünüyor mu?”dan “bu nereden geldi?” ve “arkasında kim duruyor?”sorularına kayıyor.

Tüm roketleri, robotları ve uçan arabalarıyla teknolojik gelecek, dolayısıyla, son derece eskiçil bir şeye dayanabilir: Bir araya gelen, bir şeye bakan ve sonrasında “Oradaydım. Olduğunu gördüm.”demeye hazır insanlar.

Bu makale, editoryal nedenlerle dahil edilen kitaplara atıf içermekte ve kitapshop.org’a bağlantılar içerebilir. Bağlantıların birine tıklayıp bir şey satın alırsanız, The Conversation UK bir komisyon kazanabilir.

• Yapay zekâ (YZ)