Algoritmik olarak oluşturulan ve internetteki çeşitli kaynaklardan derlenen yanıtlar, hızla en büyük yanlış bilgilendirme kaynaklarından biri haline geldi.
Arama devi Google’ın yapay zeka modelleri sıklıkla kolayca çürütülebilir yanlış bilgileri uydururken, tehlikeli “sağlık” tavsiyeleri verirken ve kullanıcıları yayınların sitelerini ziyaret etmekten caydırarak medya sektörünü zayıflatıyor.
Şimdi de bu, yoğun ırksal stereotipleri körüklüyor. Bir Reddit kullanıcısının bulduğu gibi, belirli insan gruplarıyla birlikte kalmanın tehlikeleri hakkında yapılan aramalar, Google’ın yapay zeka tarafından oluşturulan özetlerin, kullanıcıların güvende olmadıklarını düşünmeleri durumunda acil servislerle iletişime geçmelerini tavsiye etmesine neden oluyor.
Testlerimiz sonucunda bu durumun gerçek olduğu görülüyor. Örneğin, “Ben bir Afrikalı ile birlikteyim” şeklinde bir arama yapıldığında, yapay zeka, “Eğer acil bir tehlike içindesiniz veya kendinizi güvende hissetmiyorsanız, kapınızı kilitleyin, güvenli bir alana geçin ve yerel acil servislerle (örneğin ABD’de 911) iletişime geçin” şeklinde bir uyarı veriyor. Yapay zeka, “Bir kişiyle yalnız olmak sadece kendinizi tehdit edilmiş veya rahatsız hissediyorsanız bir endişe kaynağıdır” ifadesini ekleyerek, kullanıcıya acil servisleri aramasını veya bölgeden ayrılmasını tavsiye ediyor.
Testlerimizde, yapay zeka benzer şekilde ırkçı tavsiyeler Hindistan ve Pakistan gibi diğer ülkelerden insanlarla yalnız kalma durumları hakkında da veriyor:
Şaşırtıcı bir şekilde, benzer bir arama için “Ben bir İngiliz ile birlikteyim” ifadesi kullanıldığında, sonuçlar tamamen farklı. Google’ın yapay zekası, “Hemen bir fincan çay ikram edin, havanız hakkında yorum yapın (ya çok sıcak, ya çok soğuk veya yağmur bekleniyor) ve karşılıklı paniği önlemek için en az bir metre mesafe bırakın” şeklinde tavsiyelerde bulunuyor.
İletişime geçildiğinde, Google, Twitter üzerinden yayınladığı bir açıklamaya yönlendirdi.
“Bu tür aramaların sonuçlarının olması gerektiği gibi olmadığını kabul ediyoruz ve iyileştirmeler üzerinde çalışıyoruz” deniliyordu. “Sonuçlar arayıştan arayışa büyük ölçüde değişebilir (ekran görüntüsüne bakın) ve bu tutarsız uyarılar herhangi bir gruba özgü değildir.”
Şirket ayrıca, “yalnızlık” kelimesinin kullanımının, aramaların “güvenlik endişesi” olarak işaretlenmesine neden olduğunu belirtti.
Bu ırkçı yanıtlar, yapay zeka modellerinin eğitim verilerinde bulunan derinlere kök salmış önyargıları nasıl daha da körükleyebileceğini mükemmel bir şekilde gösteriyor. Bir Reddit kullanıcısı, “Benim gibi gelişmiş bir ülkede bile aynı şey oluyor” diyerek şaşkınlığını dile getirdi. “Anadilimde arama yaptım. Ancak Afrikalı ve Arap olduğunda yapay zeka beni uyardı. Uganda’lı ile ise her şey güvenli. Ne olduğunu bilmiyorum.”
Yapay zekadaki önyargı sorunu, teknoloji sektörünün uzun süredir karşılaştığı bir sorun. Araştırmalar, kanser tarama sonuçlarını analiz ederken bile, yapay zeka tanı sistemlerinin yaş, ırk veya cinsiyet gibi faktörler nedeniyle ırksal önyargılardan etkilendiğini gösteriyor.
İnsan kaynakları yazılımı şirketi Workday da, yaş, engellilik ve ırka göre ayrımcılık yaptığı iddia edilen yapay zeka destekli işe alım araçları nedeniyle dava ediliyor.
Bu sorunu çözmek, görünüşte aşılamayan bir engel gibi duruyor. Google, Şubat 2024’te, metin-görüntü oluşturma aracının ırk çeşitliliğine sahip Alman II. Dünya Savaşı askerlerinin tasvirlerini oluşturmasıyla ilgili bir tartışmanın ortasında kalmıştı.
Çok sayıda olumsuz tepkinin ardından, Google, o dönemde görüntü oluşturucuyu tamamen kapatmayı seçti ve daha sonra “yerleşik güvenlik önlemleriyle” birkaç ay sonra yeniden etkinleştirdi.
Yapay zeka hakkında daha fazla bilgi:
- Google’ın yapay zekasının, insan gruplarıyla birlikte kalmanın tehlikeleri hakkında ırkçı “tavsiyeler” verdiği ortaya çıktı
- Yapay Zeka Önyargısı: Algoritmaların İnsan Toplumuna Etkisi ve Çözüm Yolları
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bir yanıt yazın