Yapay Zeka Saldırılarına Karşı Geliştirilen Teknik, Şimdi Spam E-postalarında Kullanılıyor

Yapay zeka (YZ) sistemlerine yönelik saldırıları engellemek amacıyla geliştirilen bir teknik, şimdi de spam gönderenler tarafından e-posta platformlarındaki filtreleri aşmak için kullanılıyor. Bu durum, YZ güvenliği alanında yeni bir zorluk teşkil ediyor.

Bu teknik genellikle “ASCII kaçakçılığı” olarak adlandırılıyor. İki yıl önce, bu yöntem, YZ saldırıları olarak bilinen “prompt injection” (giriş enjeksiyonu) türlerini daha gizli hale getirmek için kullanılıyordu. Saldırganlar, e-postalar veya diğer güvenilmez içeriklerde bulunan kötü amaçlı talimatları, doğrudan metin yerine özel bir dizi Unicode etiketini kullanarak gömüyorlardı. Örneğin, U+E0041 etiketi “A” harfini, U+E0061 ise “a” harfini temsil ediyordu.

Ancak bu teknik, yalnızca prompt injection’ları gizlemek için kullanılmıyordu. Microsoft, bu yılın başlarında, ASCII kaçakçılığı kullanan spam mesajlarındaki artışta önemli bir yükseliş tespit etti. Şubat ayının ilk günlerinde, Microsoft Defender for Office tarafından algılanan ASCII kaçakçılığı imzalarının sayısı, yaklaşık 21.000’den hızla 1.3 milyona yükseldi. Dört gün içinde bu sayı 2.5 milyona ulaştı. Bu yoğun saldırı dalgası, Mayıs ayının ortalarına kadar devam etti ve ardından keskin bir düşüş gösterdi.

Microsoft, Perşembe günü yaptığı açıklamada, “Etiket karakterleri insanlar tarafından görünmez olsa da, metin işleme seviyesinde var olduğundan, bu durum hem YZ sistemlerine talimatları gizlemek için kullanışlıdır, hem de bir filtrenin değerlendireceği anahtar kelimeleri gizlemek için kullanılır. Amaç tersine çevrilmiş olsa da, mekanizma benzerdir ve kullanıcının şüphelerini uyandırmaz” şeklinde bir açıklama yaptı.

Spam gönderenler, görünmez metni kullanarak, genellikle “kredi” ve “terim” gibi kelimelerin bulunduğu spam e-postalarında sıklıkla görülen dolar miktarları gibi metinleri arayan filtreleri atlatmaya çalışıyorlar. Örneğin, “finansman” kelimesinin ortasına bu görünmez karakterleri yerleştirerek, filtrenin “eğlence” ve “ding” kelimelerini okumasına neden oluyorlar. Alıcı ise hala “finansman” kelimesini görüyor.

(Görsel açıklama: ASCII kaçakçılığı örneği)

Bu tür görünmez karakterleri kullanarak belirli tetikleyicileri gizlemek yeni bir yöntem değil. Spam gönderenler, onlarca yıldır benzer sonuçlar elde etmek için sıfır genişlikli boşlukları ve kesici olmayan boşlukları kullanıyorlardı. Bu karakterler, tam string eşleşmelerini engelleyebilir ve regex filtreleri tarafından aranılan bayt dizilerini değiştirebilir. Spam gönderenlerin, bu gizli Unicode etiketlerini kullanmasının olası nedenlerinden biri, bazı spam filtrelerinin hala bunları tespit etmek için programlanmamış olmasıdır. Ancak daha önemli bir neden, makine öğrenimi (ML) ve doğal dil işleme (NL) tabanlı YZ sistemlerinin spam tespiti alanında sağladığı avantajlara karşı koyma çabası olabilir.

Microsoft’a göre, bu tür saldırıların temel amacı, yalnızca tam string eşleşmelerini engellemek değil, aynı zamanda giderek daha fazla kullanılan ML ve NL tabanlı YZ sistemlerini devre dışı bırakmaktır. Bir filtre sistemi, bir mesajın görsel görüntüsünü alıp optik karakter tanıma (OCR) ile metni çıkarmadıkça, bu tür saldırıları tespit etmesi zordur. Standart bir e-posta sınıflandırıcısı, genellikle tüm kelimeleri insan gibi anlamak yerine, verimlilik için önce metni token’lara veya alt kelime parçalarına ayırır. Temiz bir tetikleyici terimi olan “finansman”, tanıdık bir token veya alt kelime dizisi olarak temsil edilebilir. Ancak, ortasına görünmez bir U+E0020 karakteri yerleştirildiğinde, tokenizer artık aynı tanıdık birimi görmeyebilir. Bunun yerine, metni “eğlence”, beklenmedik bir etiket karakteri ve “ding” olarak ayırabilir; nadir veya bilinmeyen alt kelimeler üretebilir; veya normalleştirme önce uygulanırsa, U+E0020 karakteri basitçe kaldırılır ve “finansman” kelimesi kalır.

(Görsel açıklama: ASCII kaçakçılığı örneği)

Perşembe günü yayınlanan kılavuz, geliştiricilerin filtreleri daha iyi programlayarak ASCII kaçakçılığını nasıl hesaba katabileceklerine dair bilgiler içeriyor.