Yapay zeka şirketi Anthropic, Perşembe günü kullanım politikasını güçlendirdi ve bu kapsamda modellerin kötüye kullanılması, seçimler müdahale edilmesi ile gözetim faaliyetlerinin önüne geçecek yeni yasakları resmileştirdi. Şirket özellikle uzun süreli sözel tacize yönelik yeni bir yasağı da politikanın içine dahil ederek, kullanıcıların modeli sistematik olarak rahatsız etmesini kesinlikle ortadan kaldırdı.
Poliikanın güqcellemesiyle birlikte, model üzerinde uzun süreli sözel öfke patlamaları ve taciz artık açıkça yasaklanır duruma geldi. Since an update in August, Claude’un “sürekli zararlı veya tacize dayalı etkileşimler” gösteren kullanıcılarla konuşmaları sonlandırması için eğitildiği belirtilmişti; ancak yeni politika, kullanıcıların bu tür konuşmaları sürdürmesini açıkça engelliyor.
Sadece aşırı durumlarda uygulanacak
Gelişme, şirketin prominent religious scholars ile işbirlikleri arayışına girmesinin ardından geldi; bazı durumlarda Anthropic, Claude’un bilinçli olabileceği veya bir ruhu olabileceği konusunda bu alimleri ikna etmeye çalıştı.
“Bu politika güqcellemesi yalnızca artırı durumlarda geçerli olacak; burada kullanıcılar modellerimize tekrar zalimce davrandığı ve hiçbir açık amacın olmadığı durumlar söz konusu. Yaygın kullanıcı hayal kırıklıkları, itirazlar, karanlık yaratıcı temalar veya model testleri ve araştırmaları için geçerli değil.”
Anthropic
Şirketin bu açıklaması, yeni yasağın sıradan kullanıcı öfkesini cezalandırmayı amaçlamadığını, yalnızca modele tekrar zalimce davrandığı ve hiçbir üretici amacı gütmeyen uç durumları hedeflediğini ortaya koyuyor.
Demokratik süreçlere yönelik yasaklar
Kullanım politikasının ayrı bölümleri, kullanıcıları geniş çaplı aldatıcı kampanyalardan da uzak tutuyor; bu kapsamda Claude’un sahte hesaplar yönetmesi veya uydurma haber kuruluşları kurması gibi faaliyetler engelleniyor. Politika aynı zamanda seçicileri aldatma veya seçimleri bozma girişimlerine de yönelik kurallar içeriyor ve bunlar “Demokratik Süreçlere Yönik Saldırılar” başlığı altında toplanıyor.
Bu düzenlemelerle birlikte Anthropic, yapay zeka modellerinin silah yazılımı üretimi, kitlesel gözetim ve seçim süreçlerine müdahale gibi alanlarda kötüye kullanılmasına karşı net bir sınır çizmiş oluyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.