İnsanların Perdesi Aralanıyor: Yapay Zeka Arkasındaki İnsanlar.

Antropolog Joseph Wilson, yeni kitabı “Humans of AI” (AI’ın İnsanları) aracılığıyla yapay zekanın arkasında duran insanların hikâyesini ortaya koyuyor. Toronto merkezli bir yapay zeka çip laboratuvarına ve küresel veri etiketleme ağlarına yerleşen Wilson, teknolojinin ardındaki insan güçlerini anlamak için hem önderleri hem de eleştirenlerle görüşüyor. BetaKit’in yönetici editörü Sarah Rieger ile yaptığı söyleşide, yapay zeka geliştiricilerinin adetlerini ve kültürünü çalıştırma nedeni, teknoloji arkasındaki görünmez emeği ve okuyucularının neler öğrenmesini umduğunu anlatıyor.

Bilimin Kültürden Dışarıda Olduğu Yanılgısı

Wilson, yapay zeka hakkında yazanların çoğunun ya teknoloji sektöründe ya da teknoloji eleştirenleri olduğunu belirterek, konuya bir antropolog bakışı getirme nedenini açıklıyor. Bilimin kendisini kırıntılı sosyal dünyadan arındırmaya çalıştığına dair bir inanç bulunduğunu aktaran Wilson, bunun aksine her şeyin kültürel olduğunu vurguluyor.

Yapay zeka özellikle bilimsel araştırma, halka açık uygulamalar ve insan olmanın ne olduğu hakkındaki retorikle harmanlanmış bağırcı bir karışım. Büyük sosyal sorular ile bilim ve teknoloji konuları güzelce iç içe geçmiş; işte antropologların sevdiği kafa karıştırıcılık da burada.

Joseph Wilson, Antropolog

Bu karmaşık tablo, aynı zamanda yapay zekanın “yapay” olmadığı iddiasını da besliyor. Wilson, teknolojinin yabancı, her şeyi yapabilen ya da insan özellikleri taşıyan bir varlık gibi sunulmasının risklerini de değerlendiriyor.

“Yapay Zeka Her Zaman Öğrenir” Mitinin Arkasındaki Gerçek

Wilson’a göre yapay zekanın insancıl bir varlıkmış gibi sunulması, ilk olarak sistemlerin etik kararlar verebileceğine dair sahte bir kapasite atfetmeye yol açıyor. Modellerin aslında eğitildikten sonra kilitlendiğini belirten Wilson, “Yapay zeka her zaman öğreniyor” şeklindeki yaygın görüşün teknik açıdan nasıl bir yanlış anlaşıldığını örnekliyor.

Bu sistemleri aşırı derecede insancılaştırmamızı endişelendiren ikinci konu, tasarım gereği bu sistemlerin yapımına giren gerçek insan emeğini belirsizleştirmesi ve silmesidir. Bunu yapan insanlar.

Joseph Wilson, Antropolog

Bu bağlamda teknolojinin yalnızca bir “teknoloji yığını” değil, aynı zamanda bir “insan yığını” olduğu vurgulanıyor. Bu insan yığınının katmanlarından biri olan ” hayalet işçiler”in kim olduğu da bu çerçevede açıklanıyor.

Hayalet İşciler: Görünmez Emek Dünyası

“Ghost work” (hayalet iş) terimini, dünyadaki örüntüleri inceleyen başka bir antropolog Mary Gray’ın ortaya attığını aktaran Wilson, insanların çoğunun Küresel Güney’de çalıştığını ve uygulamaların ile arayüzlerin pürüzsüz ve otomatik çalışıyormuş gibi görünmesini sağlamak için sahne arkasında emek harcadıklarını belirtiyor. Bu kişiler, şiddet ya da cinsel içerikli veri gibi bazen oldukça rahatsız edici verileri süzerken; otonom araçlar ve güvenlik videoları için görüntü ve video tespiti konusunda yapay zekanın gelişmesine yardımcı olmak amacıyla verileri etiketliyor.

Büyük teknoloji şirketlerinin bu sistemleri kullanmasının nedeni, veri çalışmalarını küçük görevlere bölerek insanlara görev başına ödeme yapmaları. En iyi ihtimalle güvensiz olan bu çalışma koşulları potansiyel olarak gerçekten travmatik; iş güvenliğü olmayan birçok kişinin sağlık sigortası yok ve yaptıkları şey hakkında konuşmalarının yasak olduğunu belirten gizlilik sözleşmeleri (NDA) imzalıyor.

Toronto’daki Çip Laboratuvarı: NextChipAI

Wilson, yapay zeka çipleri yapan Toronto merkezli bir şirkete 18 ay boyunca yerleşti ve kitabında bu şirketi “NextChipAI” takma adı altında anlattı. Yapay zekanın yalnızca otonom değil, aynı zamanda bedensiz bir bulut olarak sunulduğunu belir Wilson, veri merkezlerindeki fiziksel altyapı tartışmasının da bu bulut metaforunun ne kadar yerinde olduğunu gösterdiğini söylüyor.

Bir stajyerdim. Bu şirket bilgisayar çipleri üretiyor. Kola krakeri boyutunda olan bu çipler, jeneratif yapay zekanın oluşturduğu sinir ağlarını çalıştırmak için tasarlanmış. Mühendislerin nasıl işbirliği yaptığını, kağıttaki bir fikrin ışıkla milyarlarca transistör kazınmış neredeyse büyülü nesneye nasıl dönüştüğünü anlamaya çalışırken mutfakta ve kahve makinesinde vakit geçirdim.

Joseph Wilson, Antropolog

Mühendislerin fiziksel çalışmalarının detayları Wilson’u derinden etkiledi. Silikon için kullanılan kum türünden üretim hatalarını yakalamak için çipleri koklayan mühendislerine kadar uzanan bu süreç, bedenleşmiş emek ve bedenleşmiş biliş örneği sunuyor.

Sosisin Nasıl Yapıldığına Dair Gerçek

Wilson, gözlemlediği mühendislerin şüpheci tavrı ve problem çözme sanatına odaklanmasının, yapay zeka ürünlerini pazarlayanların zaman zaman gösterdiği abartıyla bir çelişki oluşturduğunu aktarıyor. Toronto’daki donanım üzerinde çalışan mühendislerin, yapay zekayı bilinçli ya da akıllı bir sistem olarak tartışmaya pek ilgi duymadığını belirten Wilson, bu kişilerin sosisin nasıl yapıldığını bildiğini ve pazarlama departmanının iddialarına şüpheyle yaklaştığını söylüyor.

Bunlar paraya ihtiyaçları var çünkü para toplayan kişi hikâye anlatır. Ancak çoğu zaman yapay zeka hikâyesinden dışarı itildikleri için inciniyorlar. Zor ve karmaşık bir iş; bu adamlar hafta sonları ve akşamları çalışıp ailelerini görmüyorlar; işleri hikâyeden siliniyor.

Joseph Wilson, Antropolog

Bu emeğin belirsizleştirilmesinin kasıtlı olup olmadığı sorusuna Wilson, komplo teorik bir yaklaşım olmadan bunun kasıtlı olduğunu yanıtlıyor. Bilim sürecinin ürünü kendi başına durması için emeği yok sayma eğiliminde olduğunu belirten Wilson, yapay zekada ise bu sistemin otonom ve insanüstü akıllı gibi satılması amacıyla özel olarak yapıldığını vurguluyor: “Hiçbir insana gerek yok” teklifinin parçası bu.

Criti-Hype Kavramı

Wilson, kitabını okurken tanıştığı “criti-hype” kavramını açıklarken iki argümanı karşılaştırıyor: Biri yapay zekanın süper akıllı sistemler tarafından sorunların çözüleceği görkemli bir geleceğe yol açacağı iddiası; diğeri ise kontrolümüzden kaybedilebileceği ve insan ırğını yok edebileceği endişesi. Bu iki görüş yüzeyde birbirinin zıtı gibi görünse de, Wilson eleştirilerin teknolojiyi insan ırğını bitirecek kadar güçlü olarak nitelendirmenin, aslında o denli güçlü olduğunu kabul etmek olduğunu savunuyor.

Anthropic ve OpenAI’den gelen bu eleştiriler ile yok oluş anlatısı, tartışmayı daha da büyük bir çılgınlığa sürüklüyor. Yapay zeka gelişimine dur demei çağıranlar yine de IPO’larını hazırlıyor.

Joseph Wilson, Antropolog

Bu kişilerin yüzde yüz alçakgönüllü ya da kötü niyetli olduğunu düşünmediğini; bazılarının gerçekten buna inandığını ve endişe içinde olduğunu belirten Wilson, bu insanların girişimci ancak sosyal etkiler konusunda uzman olmadıklarını ekliyor.

Ahlak Sorularının Cevapsızlığı

Bir konferansta bir katılımcının “bunların hepsinden önce ahlaka dair düşünmek zorunda değildik” şeklindeki mırıldanmasını aktaran Wilson, ahlakın her zaman teknolojinin bir parçası olduğunu ancak halkın teknoloji ahlakına ilgisi bu denli keskinleşmeden önce çoğunu şaşırttığını söylüyor. Mühendislerin bulmacalar ve gerçekten zor sorunlarla uğraşma tutkusundan bahsettiğini aktaran Wilson, birçok kişi için ahlak sorusunun çok zor olduğunu; temelde cevapları ya da temiz, net, belirlenebilir cevapları olmayan sorular olduğunu belirtiyor.

Görünürlük Talebi

Wilson, okuyucularının kitabından almasını umduğu ilk şeyin, yapay zekanın dünya çapında dağılmış şaşırtıcı derecede çeşitli insanlar tarafından kasıtlı olarak nasıl yapıldığına dair bir anlayış olduğunu söylüyor. Daha temel umudu ise insanların bu sık sık anlamadıkları şeyle ilgili korku ve kaygılarını hafifletmek.

İnsanların anlamaması satış teklifinin bir parçası. Tıpkı “Korkuyorsun. Anlamıyorsun. Bize yapmamıza izin ver. Biz daha iyi biliyoruz” gibi. Bu, korku içinde oturmak keyifli bir yer değil. Daha iyisini talep edebiliriz. Veri uygulamaları, emek uygulamaları ve düzenlemeler etrafında daha fazla görünürlük talep edebiliriz.

Joseph Wilson, Antropolog

Bu çerçevede ileriye birlikte adım atıp bilinçli olarak ne yapmamız gerektiğini belirleyebileceğimiz vurgulanıyor. Özellik resmi Joseph Wilson’a aittir.