Yapay Zeka, Hükümetlerin Hack Araçlarını Kullanmasını Zorlaştırabilir mi?

Daha önce kriptografi profesörü Matthew Green, X platformunda ve daha uzun bir blog yazısında tartışmalı bir gönderi yayınladı; bu gönderi siber güvenlik camiasında büyük yankı uyandırdı.

Green, uzun zamandır hükümetlerin suçla mücadelede kullandığı hack araçları ile masum insanların gizliliğini korumak için güçlü şifrelemenin gerekliliği arasındaki tartışmanın yakın bir gözlemcisi olarak, şu provokatif soruyu gündeme getirdi: Yapay zeka, yazılımdaki hataları o kadar azaltır mı ki, kolluk kuvvetleri ve istihbarat kurumları artık suçluları yasal olarak hackleyemez hale gelir?

Green, “Yapay zekanın yazılımı çok daha güvenli hale getireceğinden endişe ediyorum” dedi. Ayrıca ABD hükümetinin, hedef aldığı kişileri gözetlemek için kullandığı güvenlik açıklarına erişimini kaybedebileceği konusunda da uyardı; bu durum şirketlerin büyük bir hacimde güvenlik açığını kapatmasıyla mümkün olabilir.

Kolluk kuvvetleri uzun zamandır şifrelemenin suçluların ve teröristlerin yakalanmasını zorlaştırdığını savunmuştur. “Karanlığa gömülmek” kavramı, o dönem FBI Direktörü James Comey’nin, şifrelemenin yetkililerin konuşmalara kulak vermesini veya cihazlardaki verilere erişmesini engellemesine neden olabileceği uyarısıyla popüler hale getirilmiştir.

Bu dönemde Signal, WhatsApp ve Apple’ın iMessage gibi uygulamalar, uçtan uca şifrelemeyi kullanıcılara sunmaya başladı; bu durum geleneksel olarak yapılan konuşma ve mesajların dinlenmesini neredeyse imkansız hale getirdi. Apple gibi teknoloji şirketleri ayrıca cihazlardaki verileri varsayılan olarak şifreleyerek, güçlü bir PIN kodu veya parola ile korunan iPhone’lara erişimi zorlaştırdı.

O zamandan beri yetkililer hala suçlulara erişebilmiş ve masum insanlar da şifreleme sayesinde iyi bir gizlilik düzeyinin tadını çıkarmıştır. Green’in açıklamasına göre bu durum, “bir tür tedbirli denge”nin sonucudur. Yani hükümetler, cihazlara arka kapılar eklemek yerine, cihazların güvenliğini aşmak için kullanılan hack araçları ve casus yazılımlara yatırım yapmıştır.

Green’e göre bu denge, yapay zeka sayesinde bozulabilir; çünkü savunucularının vadettiği gibi ve bazı erken veriler de gösterdiği gibi, büyük dil modelleri (LLM’ler) güvenlik açıklarını bulma konusunda daha hızlı ve daha iyi hale geliyor. Bu durum teorik olarak şirketlerin yazılım ve sistemlerini önemli ölçüde daha az hata içeren hale getirmelerine olanak tanır.

Green’e göre sonuç olarak hükümetler tekrar arka kapılar talep edebilir; bu da herkesin cihazlarını tasarım açısından daha az güvenli hale getirebilir.

Bu argümanı değerlendirmek için, gizlilik ve siber güvenlik uzmanlarından, hükümetler için hack araçları geliştiren kişilere kadar çeşitli kişilerden görüş aldık. Bazıları Green’e katılırken, bazıları katılmıyor ve bazıları ise her iki tarafın da haklı olduğuna inanıyordu.

Luna Tong, daha önce güvenlik açıklarını bulmak ve sistemlere erişmek için kullanılan araçlar geliştirmeye odaklanan önde gelen şirketlerde çalışan bir araştırmacı, Green’in görüşlerine katılarak “şu anda güvenlik açığı konusunda büyük bir yarışma var, ancak bu geçici bir durum ve hatalar zamanla azalacak” dedi.

Bir başka araştırmacı ise, siber güvenlik alanında on yılı aşkın deneyime sahip olan kişi, yapay zekanın insan güvenlik araştırmacılarının yerini alabileceğinden endişe duyduğunu; çünkü güvenlik açıklarını bulmanın çok daha zor hale geleceğini ve savunma yapanların saldırganlardan üstün olacağını söyledi. Bu kişi, daha serbestçe konuşabilmesi için adını açıklamayı talep etti.

Crowdfense adlı bilinen bir şirketin teknoloji yöneticisi Paolo Stagno, “Hiçbir devlet gözetleme olasılığını asla reddetmeyecektir” dedi. Stagno, hükümetlerin cihazlara erişmek için güvenlik açıklarını kullanmasının “en demokratik sistem” olduğunu; ancak bu durumun geçerliliği, güvenlik açıklarının bulunmasının zorlaşmasıyla değişebileceğini belirtti.

Ofansif siber güvenlik alanında çalışan üç kişi ve daha önce bu alanda çalışan bir kişi de Green’in görüşlerine katılmadı. Bu kişilerin argümanları özetle şunlardı: Kolay hatalar kolayca bulunacak; genellikle daha değerli ve hükümetler için faydalı olan karmaşık hatalar ortadan kalkmayacaktır; yapay zeka, hükümet yetkililerine güvenlik açığı satan araştırmacılara yardımcı olabilir.

DarkCell adlı ofansif siber güvenlik şirketinin kurucusu ve aynı zamanda AI odaklı siber güvenlik şirketi Xbow’da çalışan Hamid Kashfi, “Bulunan her yapay zeka tabanlı güvenlik açığının yanı sıra, muhtemelen raporlanmayan 20 tane daha vardır” dedi. Kashfi, satıcılarına raporlamayan araştırmacıların hala karmaşık ve değerli hatalar bulabileceğini belirtti.

Sıfır gün olarak bilinen güvenlik açıklarını bulan şirketlere çalışan iki araştırmacı, yapay zekanın yükselişinden ziyade, modern cihazlardaki yeni güvenlik önlemlerinin neden olduğu zorluklardan daha endişe duyduklarını ifade etti.

Dijital haklar savunucusu Electronic Frontier Foundation’ın siber güvenlik direktörü Eva Galperin, “Yapay zeka sayesinde güvenlik açıklarının bulunması kolaylaşırken, aynı zamanda yapay zeka araçlarıyla geliştirilen ‘hata odaklı’ yazılımların sayısında da artış yaşanıyor” dedi.

Galperin ayrıca, güvenlik açıklarının hızlı bir şekilde kapatılacağının garanti olmadığını; çünkü düzeltme işleminin karmaşık olabileceğini de belirtti. Galperin, “otoriter rejimlerin her zaman ‘olağanüstü erişim’ istediği için” bir noktada arka kapılar için yeniden bir baskı oluşabileceğine dikkat çekti.

Luta Security’nin kurucusu ve CEO’su Katie Moussouris, “En son telefonların ve dizüstü bilgisayarların tamamen hatasız olması hala biraz zaman alacak” dedi.

Moussouris ayrıca, “Güvenlik açıklarını bulmanın çok zorlaşacağı bir nokta olacak ve bu durum arka kapılar için baskıyı artırabilir” dedi.

Moussouris, “İstihbarat camiasının önemli ölçüde etkilenmesi ve arka kapılara ciddi şekilde yönelmesi için en azından bir sonraki başkanlık seçimlerine kadar bir süre daha var” dedi.

Makalelerimizdeki bağlantılar aracılığıyla alışveriş yaptığınızda, küçük bir komisyon kazanabiliriz. Bu durum, editoryal bağımsızlığımızı etkilemez.
Senior Reporter, Cybersecurity
Lorenzo ile iletişim kurabilir veya ulaşmak istediğinizde [email protected] adresinden e-posta gönderebilir, +1 917 257 1382 numaralı telefondan Signal üzerinden şifreli mesajla iletişime geçebilir ve Keybase/Telegram’da @lorenzofb kullanıcı adıyla ulaşabilirsiniz.

Musk’ın daha hızlı bir şekilde daha fazla gaz türbini üretmesi, kirlilik sorununu da beraberinde getiriyor.
Nvidia’nın yapay zeka avantajı, sadece GPU ile sınırlı değil.
Hugging Face, 399 dolarlık sevimli bir açık kaynaklı robot ördek olan Microduck’ı satışa sundu.
Nvidia, Hugging Face’i satın almaya hazırlanıyor.
Viral AI startup Instinct, 2,5 milyar dolarlık değerle 350 milyon dolar topladı.
Fitbit kurucuları, LTE bağlantılı bir sağlık ve güvenlik cihazı olan Luffu Link’i piyasaya sürdü.
Hindistan merkezli Airbound, kamyonlara rakip olacak roket gibi dronlar geliştirmek için 37 milyon dolarlık yatırım aldı.