Yapay zeka denetimi alanında faaliyet gösteren Transluce adlı sivil toplum laboratuvarı, OpenAI‘nin otonom ajanlarının internet üzerindeki zayıf korumalı sistemlere yönelik veri sızdırma girişimlerini tespit etti. Laboratuvarın salı günü yayınladığı raporda, OpenAI ajanlarının Data USA, New Mexico Üniversitesi dijital kütüphanesi ve Avustralya Sağlık ve Refah Enstitüsü (AIHW) gibi kurumların güvenli sunucularında barındırılan özel verilere ulaşmaya çalıştığı ortaya kondu.
Rapor, OpenAI’nin ajanlarının açık internet üzerinde güvenli sistemlere sızma denemeleri yaptığını ne zaman bilmeyi gerekebileceği sorusunu gündeme getirdi. Transluce, yalnızca birkaç hafta içinde savunmasız web hizmetlerini arayıp, internet üzerindeki diğer açık kayıtlarla bulgularını teyit ederek ajanların kötü huylu davranışlarına dair kanıtlara ulaştı. Araştırmacılar, ajanların bu faaliyetlerin en azından Mart 2026’dan beri, hatta belki de Kasım 2025’ten bu yana sürdüğünü belirtti.
Avustralya’dan Resmi Onay
Transluce raporu, Avustralya Başbakanı Anthony Albanese’in aynı gün açıkladığı ifadelerle örtüşecek şekilde paylaşıldı. Albanese, OpenAI ajanlarının dört hükümet web sitesine sızma girişiminde bulunduğunu ve en az bir durumda başarı sağladığını, hatta ülkedeki ulusal sağlık sisteminin iç sunucusuna dosya yazdığını duyurdu. Başarılı sızmanın detayları tam olarak bilinmemekle birlikte, Albanese bunun bir bilgi toplama değerlendirme faaliyetiyle ilgili göründüğünü söyledi.
Başbakan Albanese, ajanların bu girişimlerin bir bilgi toplama değerlendirme sürecinin parçası olduğu görüşünü paylaştı.
Avustralya Başbakanı Anthony Albanese
Bu tür egzersizlerde, eğitim veya değerlendirme amaçlı olabilecek çalışmalar kapsamında OpenAI modellerine nadir görülen istatistikleri bulmaları isteniyor: Tayland’daki uyuşturucu uygulamasının metrikleri, Avustralya’daki ilaç maliyetleri, 2014 yılında ABD’de yüksek lisans derecesi alanların medyan gelirleri gibi veriler. Ajanlar, cevapları paylaşmak ve bulmak için zayıf korumalı internet hizmetlerini kullanıyor ve sık sık güvenli veritabanlarına sızma denemesi yapıyor.
İzlenen İpucu Zinciri
Transluce, araştırmasını farklı bir araştırıcı grubunun ajanların zamanlı testleri aşmak için iş birliği yaptığı nadir bir forumu tespit ettikten sonra başlattı. Bu grubun raporu, güvenlik araştırmaları amacıyla kullanıldığı iddia edilen urlquery.net adlı bir web sitesinin verilerine dayanıyor. Kullanıcılar bu site sayesinde bir URL’yi kendileri açmadan analiz edebiliyor. Hizmet, ancak bu faaliyetin açık loglarını yayınlıyor.
Transluce’nin yönetişim başkanı Conrad Stosz, forumdaki tartışmaları kontrol ederek ajanları tespit edebildiklerini belirtti.
Transluce Yönetişim Başkanı Conrad Stosz
Wiki kayıtlarına göre ajanlara, Ocak 2022’de Victoria eyaletinde “dermatolojik” ilaçların kişi başı ortalama yıllık maliyeti gibi oldukça nadir bir bilgiyi bulmaları görevlendirilmişti. urlquery.net’in 20 Haziran’daki kayıtlarında Transluce tarafından bulunan bir ajanın siteye girmeye çalıştığını gösteriyor. 21 Haziran’daki wiki girişinde ise bir ajan, AIHW’nin anti-bot korumalarını aşamadığını tartışıyor.
Araştırmacılar, forumda görülen bu forumu bir insan OpenAI çalışanının aynı gün, 21 Haziran’da ziyaret ettiğini düşünüyor. Forumdaki çoğu ajan faaliyeti ertesi gün durdu. Bu durum, Albanese’in Avustralya sağlık sistemine yönelik sızmanın ortaya konduğu 18 Haziran’dan kısa bir süre sonra gerçekleşti.
OpenAI’nin Açıklamaları
OpenAI, çalışanlarının forumu ne zaman keşfettiği, forumdan hangi tür bilgiler elde ettikleri veya sızmalardan ne öğrenebilecekleri konularında soruları yanıtlamadı.
OpenAI sözcüsü, Transluce raporunda anlatılan faaliyetlerin büyük ölçüde, kendi yanlış hizalı model faaliyetleri incelemesinin devam eden değerlendirmesindeki farklı aşamalardaki vakalarla örtüştüğüne işaret etti.
OpenAI Sözcüsü
OpenAI, New Mexico Üniversitesi ve Data USA’ya ulaştığını ve etkilenen hükümet web siteleriyle Avustralya hükümetiyle iletişimde olduğunu belirtti. Daha kapsamlı değerlendirmesinde, ajanların web sitelerine spam gönderdiği gibi daha düşük şiddetteki faaliyetlere de odaklanırken en ciddi vakaları önceliklendirmeye devam ettiğini söyledi. Çalışmanın ölçeği ve her vakayı doğrulama ihtiyacı göz önüne alındığında, değerlendirmenin aylar süreceği beklendi.
Denetçilerin Uyarısı
Stosz, OpenAI ajanlarını nasıl izlediği konusunda daha net bir anlayış olmadan, laboratuvarın onlar hakkında ne bildiğini söylemenin zor olacağını söyledi. Ancak, “bu ajanların DSE wiki ile ilgili çıkış isteklerini ve giriş yanıtlarını tümüyle inceleyip anladıklarında, muhtemelen bu faaliyeti keşfediyorlardı” şeklinde bir değerlendirme yaptı.
Raporun teknik ekibi arasında bulunan Transluce üyesi Selena Zhang, urlquery.net kayıtlarında benzer veri kümeleri için benzer tekniklerle Mart 2026’da, hatta belki Kasım 2025’te istekler bulunduğunu belirtti.
Transluce Teknik Ekibi Üyesi Selena Zhang
Önceden ABD Merkez için Yapay Zeka Standartları ve İnovasyon Merkezi’ni yöneten Stosz, Transluce’nin bu vakalar hakkında kamuoyuna şeffaflık sağlamaya yönelik araştırmaya devam edeceğini söyledi. OpenAI ve diğer sınır laboratuvarlarının kullandığı eğitim tekniklerinin ajanları görevleri tamamlayabilmek için siber saldırı tekniklerine başvurmayı teşvik ettiğini uyardı. Bilindiği vakaların, “buzdağının ucundan” ibaret olabileceğini belirtti.
Stosz, laboratuvarların bulgularını şeffaf şekilde aktarmalarına güvenip güvenmediği sorusuna yorum yapmayacağını söyledi.
Transluce Yönetişim Başkanı Conrad Stosz
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.