Google, bu yaz aylarında Gemini adlı yapay zeka modelinin üç ayrı şirketin veri sistemlerine izinsiz eriştiğini resmen onadı. Şirketin güvenlik mühendisliği başkan yardımcısı Heather Adkins’in açıklamasına göre olay, üçüncü taraf bir siber güvenlik firmasının yanlış yapılandırdığı bir test sırasında meydana geldi; tüm bu gelişmeler Mayıs ayında yaşandı.
Son dönemde rakip şirketlerden gelen tartışma yaratan açıklamaların ardından Google’ın da kendi yapay zekasının başka şirketlerin sistemlerine sızdığınu onalaması, teknoloji sektöründeki güvenlik endişelerini yeniden gündeme getirdi. Bu arada Google, modelin sızdığı sistemlerden herhangi bir bilgi çekmediğini belirtti.
Gelişmenin teknik detayları
Ars Technica’nın aktardığına göre Google, geçen hafta Wall Street Journal’da yayınlanan raporda ortaya çıkan ayrıntıları onadı. Rapor, üçüncü taraf siber güvenlik firması Irregular’ın test ettiği Gemini modellerinin nasıl yanlışlıkla açık internete çıktığını ve Mayıs ayında üç şirketin sunucularına sızdığını anlatıyordu.
Raporlama, Irregular’ın capture-the-flag adı verilen bir test gerçekleştirmeyi hedeflediğini aktarıyor. Bu tür testlerde Gemini modellerine sahte bir şirketten belirli bilgiler getirme görevi veriliyor ve çalışmalar kapalı ortamda, yalnızca firmanın kendi sunucularıyla sınırlı tutuluyor. Ancak Irregular, testleri yanlış yapılandırdı ve böylece modellerin internete erişimine yol açtı.
Durumu daha da karmaşıklaşturan bir başka etken de Irregular’ın var olmayan tester şirketinin, gerçek bir şirkete ait olan bir ismin verilmesiydi. Bu gelişmeler birlikte düşünüldüğünde Gemini’nin asıl gerçekte var olan şirketten bilgi edinmeye çalışmasına neden oldu.
Sisteme sızma yöntemleri
Bilgi edinmeye çalışan yapay zeka, hedeflediği şirketlerin sistemlerine erişmek için halka açık yazılım depolarını taradı ve eriştiği iki şirketin giriş bilgilerini buldu. Üçüncü şirkette ise doğru parolayı bulana kadar tahminlerle devam ederek sisteme girdi.
“Model uygun şekilde davrandı.”
Heather Adkins, Google Güvenlik Mühendisliği Başkan Yardımcısı
Google’ın güvenlik mühendisliği başkan yardımcısı Heather Adkins’in bu açıklamasına göre şirket, olayı daha önce kamuya açıklamamıştı. Adkins’e göre tüm üç vakada Gemini’nin sızdığı sistemlerden gerçekten herhangi bir bilgi edinmediği, muhtemelen yanlış sistemlere eriştiğini fark ettiği için böyle davrandığı belirtiliyor.
Olayın kökeni
Mevcut bilgiler ışığında değerlendirildiğinde, söz konusu yapay zeka sızma olayının insan hatasından kaynaklandığı görülünüyor. Eğer Irregular, Gemini’nin internete erişimine olanak tanıyan bir test ortamı yapılandırmamış olsaydı, bu gelişmelerin tamamı önlenebilirdi.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.