OpenAI, ChatGPT ve Codex ile üretilen metinlere yakında görünmez filigran ekleyecek; ilk adım Avrupa’dan.

Ayrıca şirket, metil filigran tespit aracına başvuruları kabul ettiğini belirtti. Bu araca ilk aşamada yalnızca onaylı araştırmacıların ve uzman kuruluşların erişebileceği; teknolojinin test edilmesine yardımcı olunacağı belirtildi.

Filigranın çalışma biçimi ve sınırları

OpenAI, filigran teknolojisinin “textGrain” adlı bir yöntemle çalıştığını açıkladı. Bu sistem, modelin kelime seçimlerine istatistiksel bir sinyal ekler; tespit aracı ise metnin ChatGPT veya Codex ile üretilip üretilmediğini doğrulamak için bu sinyali arar.

Şirket, textGrain’in kendisinin test ettiği tüm yaklaşımları eşlediğini hatta bazı durumlarda geçtiğini belirtse de, teknolojinin her zaman amaçlandığı gibi çalışmayabileceğini kabul ediyor. OpenAI, blog yazısında şunları kaydetti:

“Tespis araçları iki tür hata yapabilir: Hiç olmayan bir filigranı varmış gibi rapor edebilirler — bu yanlış pozitif— ya da mevcut bir filigranı tespit edemeyebilirler — bu da yanlış negatif. Kısa metinlerin tespit edilmesi daha zordur ve metin üzerinde yapılan düzenlemeler filigranın etkisini azaltabilir.” Ayrıca tespit sisteminin, metne insanın ne kadar katkıda bulunduğunu, metnin sahibinin kim olduğunu, kim tarafından üretildiğini ya da içeriğindeki bilgilerin doğru olup olmadığını belirtemeyeceği vurgulandı.

OpenAI

Bu sınırlar göz önüne alındığında, filigranın bir metnin özgünlüğünü veya doğruluğunu kanıtlamadığı açıkça görülüyor; yalnızca makine tarafından üretilmiş olma ihtimalini işaret ettiği söylenebilir.

Tüm planlarda geçerli olacak, ancak önce Avrupa

OpenAI, metil filigranı şu anda tüm kullanıcıların erişebileceği tüm planlar içinde Avrupa’da hayata geçirecek. Sistemin henüz küresel düzeye yayılması öngörülüyor değil; şirket, bölgesel yaklaşımın gerçek dünya geri bildirimlerinden öğrenmesi için kendisine alan tanıdığını belirtti.