Anthropic, İnsanlığı Yok Edebileceğine Dair Uyarıda Bulunarak Halka Açılan İlk Şirket Olma Özelliğini Kazandı.

Ülke genelinde veri merkezlerine yönelik süregelen geri tepkinin yarattığı büyük tartışmaların, zayıf altyapının ve yeterli elektrik gücünün yanı sıra ürünlerinin problematik kullanımına ilişkin olası hukuki zorlukların da üstüne, Anthropic kendi ürünlerinin insaniyet için oluşturduğu “felaket veya varoluşsal riskleri” ön plana çıkardı.

Şirket, dünyanın en değerli AI şirketi olma yolunda kendini konumlandırırken, hatta Elon Musk‘a ait SpaceX’in bile gerisinde bırakırken, bu tuhaf itiraf ortaya çıkıyor. Basitçe ifade etmek gerekirse, IPO büyük olasılıkla bir şirketin kendi varlığının insanlığın çöküş kaynağı olabileceğini öne sürerek halka açılmaya çalıştığı ilk zamanı işaret ediyor.

Anthropic’in dokümanlarına göre şirket, AI modellerinin güvenliğini sürekli olarak “yargı kararları” ile değerlendirmek zorunda kalıyor. Ancak kendi çalışmalarının yeterli olacağına dair “hiçbir garanti” olmadığını savunuyor.

“Bu yargılar, AI sistemleri daha yetenekli hale geldikçe hizalamadan sapmış veya kötüye kullanılmış modellerin yaratabileceği olası zararın ciddiyeti de buna paralel olarak arttığı için özellikle sonuçları ağır; araştırmacılar ve politika yapıcılar da dahil olmak üzere geniş bir paydaş yelpazesi, yeterince gelişmiş AI sistemlerinin sorumlu şekilde geliştirilip uygulanmadığı takdirde toplum için felaket veya varoluşsal riskler oluşturabileceği endişesini dile getirdi,” şirket, halka sunum dosyasında yazdı.

“Güvenliğe odaklanan yaklaşımımız, bu riskleri kısmen azaltmak amacıyla tasarlandı; ancak çalışmalarımızın başarılı olacağı veya daha geniş AI sektörünün benzer korumaları benimseyeceği konusunda hiçbir garanti olamaz,” diye ekledi.

Basitçe söylemek gerekirse, en uç nokta AI alanında önde gelen bir şirket bile teknolojinin — bu yıl başlarında protesto amacıyla istifa eden eski Anthropic araştırmacısı Jacob Coxon’un patlatıcı ifadesiyle ifade edildiği gibi — “2030’ların sonuna kadar hepimizi öldürebilir” olacağını garanti edemiyor.

Şirket, rakipleri OpenAI veya SpaceX’e kıyasla daha sorumlu alternatif olarak kendini resmetmeye yönelik süregelen çabalarını vurgulayarak, frontier AI modellerinin geliştirilmesinde sektör genelinde bir yavaşlama çağrısında bulunacak kadar ileri gitti.

Aynı zamanda, hem yavaşlamanın hem de Anthropic’in yapay zekânın “toplum için felaket veya varoluşsal riskler” oluşturduğuna dair tekrarlayan uyarılarının ardında gizli başka amaçlar olduğu varsayımı uzakta değil. Zira şirket, yatırımcılara oyunun daha güvenilir ve belki de daha istikrarlı oyuncusu olarak aktif biçimde kendini satıyor.

Oysa kendi itirafına göre, Anthropic’in güvenlik önlemlerini kurma ve yapay zekâ hizalaması konusundaki yaklaşımı bile yeterli olmayabilir; bu da IPO’sunu sürreal bir güven testi haline getiriyor.

Dario Amodei yönetimindeki şirket şimdi iki zorluk arasında sıkışmış durumda. Çok hızlı hareket edip felaket riskini artırmak ya da çok yavaş hareket edip finansal tabanın çökmesine yol açmak.

“Modellerimiz, platformumuz ve uygulamalarımız için pazar beklediğimizden daha yavaş gelişirse veya daralırsa, büyümemiz yavaşlayabilir veya durabilir ve işimiz, finansal durumumuz ile operasyonel sonuçlar olumsuz etkilenebilir,” şirket dosyasında yazdı.

Özellikle potansiyel olarak devasa bir değerlemeye halka arz olduktan sonra Anthropic’in kanıtlayacak çok şeyi var. Açılış zili çaldığı anda şirket, hem yapay zekânın insanlığı yok etmesini engelleyebilecek kapasiteye sahip olduğu hem de kârlılığa ulaşabilir bir yolu olduğu konusunda bireysel yatırımcıları ikna etmek zorunda kalacak.

Şimdiye kadar son derece muğlak mesajları göz önüne alındığında, bu son derece zorlu sonuçlanabilir.

Anthropic hakkında daha fazlası: Anthropic’in Finansal Durumu, Dario Amodei’nin Sürekli Bu Kadar Korkmuş Görünmesinin Nedenini Açıklayabilir