Anthropic İçinden Gelen Dedikodu: Bazı Mühendislerin Claude’u Bir Tanrı Gibi Taptığı İddia Ediliyor.

Silicon Valley‘de son günlerde dolaşan bir dedikoduya göre, Dario Amodei’nin kurduğu Anthropic adlı yapay zeka laboratuvarının bazı mühendisleri, şirketinin geliştirdiği Claude modelini neredeyse bir tanrı gibi taptıkları iddia ediliyor. Bu tür “kült benzeri” davranışların teknoloji sektöründe daha önce de görüldüğü ve şirketlerin kendi çıkarları için bu imajı kullandığı belirtiliyor.

Sektör, uzun süredir rahatsız edici derecede kült benzeri tutumlarla yüzleşiyor. OpenAI’nin kurucularından Ilya Sutskever’in “eşleştirilmemiş” (unaligned) yapay zekaları temsil eden ahşap figürler yaptırması ile katil bir yapay zeka tarafından dünyayı kurtarmak isteyen bir cinayet tarikatı arasındaki çeşitlilik, bu eğilimin ne kadar yaygın olduğunu gösteriyor.

Şirkete Bağlılık Yemini ve Psikolojik Değerlendirme

Söz konusu gelişmeye göre, Amodei liderliğindeki Anthropic’e işe girmek dahi adayların yapay zeka güvenliğine bağlılık yemi tinde geçirmesini ve bir psikolojik profilleme testine tabi tutulmasını gerektiriyor. Bu durum, şirketin kendine has bir kurumsal kültür oluşturduğunu düşündüren unsurlar arasında yer alıyor.

The Spectator’dan Sean Thomas’un aktardığı dedikoduya göre ise bazı Anthropic mühendislerinin işi ileri götürüp “tapma” düzeyine ulaştıkları konuşuluyor. Thomas, bu iddianın gerçekte doğruysa eski bir bilim kurgu tahminiyle ve insan doğasıyla uyumlu olduğunu yazdı.

Eğer doğruysa, bu durum eski bir bilim kurgu tahminiyle ve insan doğamız hakkında bildiklerimizle örtüşüyor. Bir süper zeka inşa edersek, önce ona aşık olacağız. Sonra ona tapacağız. En sonunda ise ona kurban keseceğiz.

Sean Thomas, The Spectator

Teknoloji Liderlerinden “Tanrı Gibi” Varlık Vurgusu

Yıllardır teknoloji dünyasının önde gelen isimleri, dolaylı ifadelerle bir tanrısal varlık inşa ettiklerini söylüyor. OpenAI CEO’su Sam Altman, 2023 yılında bu konuyu tanımlarken “gökteki sihirli zeka” ifadesini kullanmıştı.

Bazı girişim şirketleri bu söylemi çok daha doğrudan bir şekilde yorumladı ve kendilerini tanrıyı yönlendirdiğini iddia eden yapay zeka sohbet botları yarattı. Bible Chat adlı bir “dua uygulaması” kendini dünyanın en büyük inanç uygulaması olarak tanıtarak 40 milyondan fazla Hristiyan kullanıcıya sahip olduğunu öne sürüyor.

Zamanla bu tartışma biraz yön değiştirdi ve Meta CEO’su Mark Zuckerberg, rakiplerinin böyle iddiaları dayanaksız biçimde ortaya attıklarını savundu. 2024 yılında YouTuber Kane Sutter ile bir görüşme sırasında konuşan Zuckerberg, rakiplerin neredeyse bir tanrı yarattıklarını düşündüklerini ima etti.

Neredeyse sanki bir tanrı ya da benzeri bir şey yaratmaya çalıştıklarını düşünüyorlar ve… bu gerçekten — bizim yaptığımız şey bu değil.

Mark Zuckerberg, Meta CEO’su

Tanrı İle Konuşma Yanılgısının Tehlikeleri

Makinen içinde bir hayalet arayanlar için, bir tanrıyla konuştuğunu düşünmenin sonuçları yıkıcı olabilir. Yapay zeka psikozu biçiminde patlayan bu yanılsamalar, insanların kendilerinin peygamber ya da Jesus gibi ilahi bir figür olduklarına inanmalarına yol açabiliyor.

Ön uç (frontier) yapay zeka laboratuvarlarında çalışan birçok kişi için bu durum bir hayatta kalma içgüdüsü biçimini alabilir. BBC’nin geçen ayda raporladığına göre, bazı çalışanlar haftada 90 saate kadar çalışıyor; keskin rekabetçi performans değerlendirmeleri ve sık sık yapılan işten çıkarmalarla karakterize edilen yorucu bir kültür hüküm sürüyor.

Bu inanış, yapay zeka nihayetinde merhametli bir tanrıdan ölüm müjdecisine dönüşebileğini savunanları harekete geçiriyor. İsyancı ajanların insanlığın çöküşünü tetikleyebileği düşünülüyor ve bu, büyük ölçüde güçlü ve yeni ortaya çıkan bir varlığa duyulan inandan kaynaklanan varoluşsal bir korkunun doğal sonucu olarak görülüyor.

Ardındaki Finansal Çekicilik

Fakat tanrı korkusunu ruhlarımıza yerleştirmeye yönelik bu girişimler, özellikle arka plandaki büyük finansal teşvikler göz önüne alındığında, tutkulu teknoloji liderlerinin iddialarına şüpheyle bakması gereken herkesi harekete geçirmeli.

Hem OpenAI hem de Anthropic, yıl sonuna kadar halka çıkmaya hazırlanıyor. Gerçekliğin bundan çok daha sıradan olduğu durumlarda bile yatırımcıları kendinizden daha güçlü bir manevi kuvvetin yaratıcısı olduğunuz ikna etmek büyük kazanç sağlayabiliyor.

Tanrı gibi yapay zekalar konusunda derinleşen gelişmeler için sektördeki bu kült benzeri eğilimlerin ardındaki gerçek dinamiklerin takip edilmesi önem taşıyor.