Yapay zeka şirketi OpenAI, Avrupa Birliği içinde ChatGPT ve Codex’in ürettiği metinlere görünmez bir filigran eklemeye başlayacağını Pazartesi günü açıkladı. Şirket, AB Yapay Zeka Yasası’nın şeffaflık kurallarına uyum sağlamak amacıyla başlatacağı bu uygulamanı önümüzdeki haftalarda tüm planları kullanan uygun kullanıcılar için yayacağını belirtti.
Açıklama, şirketin blog yazısında yapıldı. AB Yasası’nın 2 Ağustos’tan itibaren geçerli olan şeffaflık kuralları, yapay zeka şirketlerini AI ile üretilen içeriği diğer sistemlerin tespit edebileceği biçimde işaretlemeye zorluyor.
Filigran nasıl çalışıyor?
OpenAI, filigranın önümüzdeki haftalarda tüm planları kullanan uygun ChatGPT ve Codex kullanıcılarına yayılacağını ancak uygulamanın yalnızca AB içinde geçerli olacağını vurguladı. Dünyanın herhangi bir yerinde OpenAI’nin API’sini kullanan geliştiriciler bugün itibarıyla seçili modeller için bu özelliği açabilir; özellik varsayılan olarak kapalı geliyor. Şirket, filigranlamayı başlangıçta küresel bir varsayılan yapmayacağını belirtti.
Filigran gerçek bir sembol değil; modelin sözcük seçimlerini hafifçe biçimlendirerek okuyucunun göremediği ancak bir dedektörün yakalayabileceği bir kalıp bırakıyor. Sözlerin içine yerleştiği için metin kopyalanıp yapıştırıldığında da birlikte hareket ediyor. OpenAI, filigranın kullanıcıyı tespit etmediğini ve açık hale getirildiğinde modellerinin performansında anlamlı bir değişen gözlemlenmediğini söyledi.
Şirket, bu yöntem için textGrain adını verdiği teknik raporu da duyuruyla paylaştı. Pennsylvania Üniversitesi ve Yale araştırmacılarıyla birlikte yazılan rapor, cümleyi tamamlamak için sıradaki sözcük tahminlerini sıraya koymakta kullanılan bir anahtar üzerinden bir örneği adım adım açıklıyor. Bu yönlendirmelerden yüzlerce tanesi yan yana getirildiğinde dedektör, yalnızca metin ve anahtarı kullanarak yapay zeka ile üretilen içeriği tespit edebiliyor.
Filigran düzenlenerek kaldırılabilir mi?
Metni düzenleyerek filigranın kaldırılabileceğine dair OpenAI testleri işaret ediyor. Bir testimde sözcüklerin %10’unun eş anlamlılarla değiştirilmesi, tespiti yaklaşık %92’den %66’ya düşürdü. Şirket, kısa paragraflar, matematik cevapları ve çevirilen metinlerin tespit edilmesinin daha zor olduğunu da belirtti.
“Bu sınırlamalar, dedektöre erişimi başlangıçta yalnızca güvenilirliği ve sorumlu kullanım biçimlerini değerlendirmemize yardımcı olabilecek onaylı araştırmacılar ve uzman kuruluşlara açma kararımıza katkıda bulundu.”
OpenAI
OpenAI, filigranın eksik olması “insan tarafından yazıldığını kanıtlamıyor” uyarısı da yaptı. Metin ya çok kısa ya aşırı derecede düzenlenmiş olabilir ya da başka bir şirketin yapay zekasından gelmiş olabilir.
“Filigranlar, bir pasajın belirli bir bölümünün OpenAI sistemi tarafından üretildiğini veya işlendiğini gösterebilir; ancak içine ne kadar insan yargısı, düzenleme veya yaratıcılık girdiğini gösteremez.”
OpenAI
Sektördeki diğer adımlar
Duyuru, Anthropic’in iki ay önce Claude’nin ürettiği metinleri filizleyeceğini açıkladığı bir döneme denk geliyor; şirket bu hamleyi küresel ölçekte uyguluyor. Bu karar bazı Claude kullanıcılarından tepki çekti; kullanıcılar kendilerinin “talimatları, bağlamı ve kararları” sunduğunu, Claude’nin ise yalnızca “araç” olduğunu savundu.
OpenAI daha önce bir metin filigranı geliştirmiş ancak 2024 yılında Wall Street Journal’ın aktardığı gibi, kullanıcıların filizlemeyen rakiplere geçmesinden endişe edilmesi üzerine yayımlamayı ertelemişti.
Anthropic, Google, Meta, Microsoft ve OpenAI; yapay zeka ile üretilen içeriğe ilişkin AB’nin uygulama koduna uymaya karar veren şirketler arasında yer alıyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.