Microsoft‘un popüler görüntü düzenleme uygulamaları Paint ve Photos’ta, yapay zeka tarafından oluşturulan içeriklere yerleştirilen görünmez bir filigranın sırrı, araştırmacı bir geliştirici tarafından aydınlatıldı. Bu gelişme, Microsoft’un yapay zeka destekli özelliklerinin derinliklerine inerken ortaya çıkan ilginç detayları gözler önüne seriyor.
Geliştirici, Paint uygulamasının yapay zeka özelliklerini incelerken, öncelikle görünür bir filigranın (Copilot logosu) nasıl yerleştirildiğini anlamaya çalıştı. Ancak araştırmalar ilerledikçe, beklenenden daha karmaşık bir yapı ile karşılaştı. Uygulama yolunda dört adet model dosyasının bulunması, geliştiricinin merakını daha da artırdı. Bu dosyalardan biri ONNX (Open Neural Network Exchange) benzeri bir model iken, diğer üçü şifrelenmiş ONNAX benzeri dosyalar.
Tüm dosyaların şifresi çözülerek incelenmesi, watermarker.dll adlı bir dosyanın keşfedilmesine yol açtı. Başlangıçta bu dosyanın yalnızca görünür filigranlama araçları için kullanıldığı düşünülse de, DLL dosyasının beklenenden büyük olması daha detaylı bir araştırmayı tetikledi. Yapay zeka analizi sonucunda, gizli bir filigrana yerleştiren bir fonksiyonun da mevcut olduğu tespit edildi.
Gizli filigranlama fonksiyonu WmkWriteWatermark olarak adlandırılıyor ve Microsoft’un Stable Diffusion görüntü oluşturma çıktılarında kullanılması zorunlu. Eğer WmkWriteWatermark herhangi bir nedenle başarısız olursa, görüntü oluşturma işlemi hata ile sonuçlanıyor.
Geliştirici, gizli filigran hakkında bazı ek teknik bilgiler de paylaştı. En dikkat çekici nokta ise, filigrana ait bilginin sunucu tarafından verilen bir GUID’in doğrudan piksellere entegre edilmesi. Ayrıca geliştirici, “Paint sadece pikselleri değiştirmekle kalmıyor, aynı zamanda kaydedilen dosyaya C2PA (Coalition for Content Provenance and Authenticity) içerik kimlik bilgilerini de ekliyor” şeklinde belirtti. Bu işlemden sorumlu kod ProvenanceHelper.dll içinde bulunuyor ve provenancesdk.dll tarafından destekleniyor.
Sonuç olarak, yerel görüntü oluşturmanın gerçekleştiği cihazlarda bile, istemin hala Microsoft sunucularına gönderilerek denetlendiğini geliştirici vurguladı. Ayrıca, bu filigranın zorunlu olduğu ve işlemin başarısız olması durumunda Paint’in tüm görüntü oluşturma işlemini durdurduğu belirtildi. Benzer bir GUID mekanizması, yapay zeka kullanıldığında da mevcut; ancak bu durumda görüntü döndürülüyor ve sadece bir hata günlüğe kaydediliyor.
Bu gizli işlemlerin “2 Ağustos 2026’da yürürlüğe giren AB Yapay Zeka Yasası’nın 50. maddesiyle ilgili olabileceği” düşünülüyor. Bu madde, yapay zeka tarafından oluşturulan içeriğin tespit edilebilir, makine tarafından okunabilir bir işaretle etiketlenmesini gerektiriyor; ancak bu işaret isteme özgü bir GUID değil.
Kaynak: Tom’s Hardware
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bir yanıt yazın