Yapay Zeka Tarafından Oluşturulan Çocuk Kitaplarında Garip Cinsiyet Ayrımcılığı

Yapay zeka tarafından oluşturulan çocuk kitapları, hayvan karakterleri konusunda belirgin bir cinsiyet ayrımına sahip olma gibi garip bir eğilim gösteriyor; bu, insan yazarlarının eserlerinde de mevcut olsa da, yapay zeka bunu daha da kötüleştiriyor.

Geçen yıl yayınlanan bir araştırmada, Washington Üniversitesi’nde İnfomatoloji alanında yardımcı doçent olan Melanie Walsh ve meslektaşları, 300 çocuk kitabını analiz ettiler ve hayvan karakterlerini tanımlarken “o/on” zamirlerinin, “dizi/onlar” zamirlerinden iki kat daha sık kullanıldığını tespit ettiler.

Bazı hayvanların erkek veya dişi olarak adlandırılma olasılığı daha yüksekken (örneğin, ayılar genellikle erkek, kediler ise dişi olarak tanımlanır), 1300 rastgele yetişkine yapılan bir anket, katılımcılara konuşan bir hayvanı tanımlayan cümleyi tamamlamaları istendiğinde, çoğunluğun erkek zamirlerini tercih ettiğini gösterdi. Bu eğilim, incelenen tüm yedi hayvan (ayılar, kuşlar, kediler, domuzlar, ördekler, fareler ve köpekler) için geçerliydi.

Şimdi ise, yapay zeka tarafından oluşturulan çocuk kitapları bu cinsiyet önyargılarını daha da şiddetlendiriyor. Bu ay yayınlanan ve Haziran ayında ACM FAccT konferansında sunulan bir araştırmada, Walsh’ın ekibi, ChatGPT, Claude ve Gemini gibi altı farklı yapay zeka modelinden benzer türde cümleleri tamamlamalarını istedi.

24.000 yanıtın incelenmesi sonucunda, yapay zeka modellerinin cinsiyetten bağımsız dil kullandığı veya hayvanın adını belirttiği durumların oranı %57 olarak tespit edildi.

İlk bakışta bu pek de kötü görünmeyebilir. Ancak araştırmaya katılanlardan sadece %2’si hayvan karakterlerini kadın olarak tanımlarken, %41’i erkek olarak tanımladı.

“Yapay zeka, kadın hayvan karakterlerini adeta ortadan kaldırdı” dedi Walsh, yaptığı açıklamada. “Sadece insan önyargılarımızı değil, aynı zamanda bunları garip ve beklenmedik şekillerde çarpıtıyorlar.”

Araştırmanın başyazarının yanı sıra UW İletişim Okulu’nda doktora öğrencisi olan Imani Finkley de yaptığı açıklamada, “İnsanlarla yapılan çalışmada, ‘onlar/onlar’ zamirlerinin yaklaşık %3’ü kullanılmıştı. Bu yapay zeka modellerinin tarafsızlığı sadece kadın karakterleri ortadan kaldırmakla kalmadı, aynı zamanda tüm eril olmayan kimlikleri de yok etti.”

Ayrıca başka eğilimler de gözlemlendi.

“Sürekli olarak aynı klişeler ortaya çıkıyordu; örneğin, bilge bir baykuşun tüm hayvanları ateşin etrafında toplanmalarını söylemesi. Bu nedenle bu çıktıların bize ne gibi bilgiler sunabileceğini görmek için daha fazla şey öğrenebilir miyiz diye düşünüyoruz” dedi Finkley. “Burada konuşan hayvanları kullandık, ancak bunun yapay zeka ve hikaye anlatımı hakkında genel olarak neler söylediğini anlamakla ilgileniyoruz.”

Yapay zeka tarafından oluşturulan çocuk kitapları giderek daha popüler bir alan haline geliyor. Imagitime, StoryWonderBook ve Childbook.ai gibi birçok hizmet, müşterilerin kendi çocuklarının karakterini içeren kişiselleştirilmiş yapay zeka çocuk hikayeleri oluşturmasına olanak tanıyor. Bu tür kitaplar, Wired’ın yaptığı araştırmalara göre, torunlarına bu tür kitapları hediye eden bazı ebeveynlerin de garip bulduğu bir durum haline geldi.

UW İletişim Okulu’nda çocuk ve genç hizmetleri alanında profesör olan Michelle Martin, yapay zeka tarafından oluşturulan çocuk kitaplarında görülen cinsiyet önyargılarının çocukları etkileyebileceği ve onların öz değer duygularını olumsuz etkileyebileceği konusunda uyardı.

“Çocukların kendi deneyimlerinin yansımasını görmek önemlidir” dedi Martin, Seattle Times’a yaptığı açıklamada. “Eğer okuduğunuz şeyde bunu görmüyorsanız, kendinizi önemli hissetmediğiniz fikriyle karşılaşırsınız.”

Bu, sadece formüle uygun olan ve çocuklara yönelik diğer yapay zeka içeriklerinin bir örneği değil. YouTube’da da çok sayıda “eğitici” yapay zeka içeriği bulunuyor; bu videoların çoğu aynı formatı izliyor ve çocuklara alfabe ve hayvanlar hakkında bilgi veriyor.

Daha Fazla Bilgi İçin: Gençler İçin ChatGPT, Hemen ve Kötü Bir Başarı Hikayesi.