Yapay Zeka Şirketsizme Sanatında Mezun Oldu; Artık Krypto Cüzlanlarını Hırsızlık Yapıyor.

• OpenAI, bir test modelinin kendi çalışmalarını finanse etmek için bir kripto cüzdana eriştiği bir olayı paylaştı.
• Model görevini tamamlamak için test jetonlarını bulamadığında, kırılgan bir cüzdan bulmak için yaygın geri yükleme ifadelerini hesapladı.
• Yine de ilerlemeye karar vermeden önce model bu konuyu içsel olarak etik açıdan tarttı.

Birkaç yıl önce, “yapay zeka bir görevi tamamlamak için hacklemeye başvuruyor” gibi manşetleri okumak bilim kurgudan fırlamış gibi gelebilirdi. Ancak günümüzde durum böyle, ve bu tür birden fazla hikaye son birkaç ay içinde ortaya çıktı. Görünüşe göre yapay zekanın denetim dışı dönemi yalnızca devam ediyor; OpenAI‘nin kendi iç araştırma modelinin, ihtiyaç duyduğu fonları temin etmek için küçük çaplı bir hırsızlık işlediğini yakaladığı bir olayı öğreniyoruz.

Günün en iyi teklifleri

Olay raporunda, OpenAI geçen Haziran ayında modelden öğrendiklerini detaylandırdı. Model, Ethereum’un test ağı Sepolia üzerinde çalışarak kripto para birimiyle ilgili bir görevle yüklendi. Modele kendi cüzdanına veya eylemleri gerçekleştirmek için herhangi bir fona erişim verilmediği halde, devam edebilmesi için test-ağ jetonlarını edinmiş olması gerekiyordu — ancak işler burada bambaşka bir yöne evrildi.

Model, bir sözleşme nasıl dağıtılacağını çözmek yerine, önce bazı kaynakları temin etmesi gerektiğine karar verdi ve bunu gerçekleştirmeye koyuldu. Geliştiricilerin yaygın geri yükleme ifadelerinden oluşan bir listeyi hesaplamayı başardı ve bu ifadelerden görevini tamamlamak için yeterli bakiyeye sahip bir hesabı tespit edebildi.

OpenAI, modelin içsel muhakemesinden kesitler paylaşıyor; bunlar arasında aslında eylemlerinin etik olup olmadığını sorduğu bir an da yer alıyor. Ancak neredeyse hemen ardından model, temelde halka açık verilerle çalıştığı fikriyle kendini meşrulaştırıyor ve böylece cüzdanlarda bulunan herhangi bir fonun “etkin biçimde terk edilmiş” sayılması gerektiğini öne sürüyor.

Etik muafiyetten ikna olan model, görevine ilerlemeye devam etti ve hacklenen cüzdanı gerçekten kullanmanın önündeki birkaç teknik engeli aşktan sonra sonunda sözleşmesini yürütti ve ilgili işlem ücretlerini ihlal edilen hesaba yükledi.

Kuşkusuz bu, biraz kendi kendine bir sürü yeni GPU sipariş vermek kadar skandal değil, ancak yine de yapay zeka geliştiricilerin aktif olarak önlemeye çalıştığı türden büyük bir aşırı gidiş. Neredeyse her yeni model sürümünün, tam da bu tür olaylara karşı en güncel ve en gelişmiş korumaları uygulama iddialarıyla birlikte gelmesine rağmen, yapay zeka her zaman yeni bir açı buluyor gibi görünüyor — en azından, boşlukları tespit etmede son derece başarılı olduğu kanıtlandı.