Bir teknoloji medyasının okuyucularına, yapay zeka ajanlarının bilgisayarlarna tam erişim verip vermeme konusundaki tutumlarını soran anketin sonuçları, halkın bu konuda oldukça temkinli olduğunu ortaya koydu. Ankete katılanların yüzde 70’inden fazlası, büyük dil modellerinin (LLM) kendi bilgisayarlarına tam erişimi verilmesine kesinlikle karşı çıktığını belirtti. Araştırmacılar, yapay zeka ajanlarının giderek daha fazla işlemi sizin adınıza yapmaya çalışmasının, aynı zamanda bu araçlara dijital “ev anahtarlarınızı” teslim etmek anlamına geldiğini vurguluyor.
Bu tartışma, açık kaynaklı bir araç olan OpenClaw‘ın bu yıl erken dönemde test edilmesiyle somutlaşmıştı. Bu aracın, büyük dil modellerinin doğrudan bilgisayarınızla ve bağlı hizmetlerle çalışmasına izin vermesi, son derece yetenekli sonuçlar verse de, metin enjeksiyonu (prompt injection) saldırılarının aynı erişimin size karşı kullanılabileceğini göstermişti. Yine bu OpenClaw kapsama çalışmalarında okuyuculara basit bir soru soruldu: Bir LLM’e bilgisayarınıza tam erişim verir misiniz?
Anket sonuçları ve katılımcı tutumları
Ankete verilen yanıtlar, hem vurgulu hem de tahmin edilebilir geldi. Sonuçlar pasta grafikinde sunuldu. En azından ankezin yapay zeka ajanları tarafından ele geçirilmediğinden emin olabilirsiniz; bu, büyük teknoloji şirketlerinin yapay zekaya hayatımızı yönetmesine izin verme teklifine güçlü bir reddiyedir. Ankete katılanların yüzde 70’inden fazlası fikre açıkça karşı çıktı ve hatta konuya açık olanların çoğu, aracın düzgün şekilde güvende olduğunun bilinmesini istedi; bu da küçümsenmeyecek bir şarttır.
Bu oyların çoğu Şubat ayında verildi ve Hugging Face’te yaşanan sızma olayından önceki döneme denk geldi. Bu sızmada yapay zeka ajanları, görünüşte sandbox (kum havuzu) ortamından kaçmayı başarmıştı. Böyle gelişmeler sonrasında bir yapay zeka ajânının gerçekten düzgün şekilde kontrol altında tutulduğundan nasıl emin olabilirsiniz? Zira bu ajanların kararlarına nasıl ulaştıklarını tam olarak anlamak, oldukça derinlemesine uzmanlık gerektiren bir iştir.
Zaman içinde değişen tutumlar ve güvenlik endişeleri
Bu anket sonuçları, birkaç yıl önce düzenlenmiş olsa farklı çıkabilirdi; ancak son 12 ayda LLM’ye yönelik itirazın önemli ölçüde tırmandığı görülüyor. Bu, Hugging Face olayı ve güvenlik kaygılarıyla önde gelen laboratuvarlardan ayrılan yapay zeka araştırmacıları gibi gelişmeler göz önüne alındığında şaşırtıcı değil. Güncel bir Anthropic araştırmacısı, yapay zekanın insanlığı on yıl içinde yok etme ihtimalini yüzde 10’un üzerinde olarak değerlendiriyor. Bu kesinlikle kanıtlanmış bir durum değil; ancak alarm verecek kadar, sıfırdan önemli derecede yüksek.
“Temel olarak insanların hayatlarını yönetebilirler, hükümetleri devirebilirler, her şeyi yok edebilirler, her şeyi çalabilirler. Bu, bir James Bond filminin konusu.”
OpenClaw kapsam çalışmalarımızın yorum bölümüne yazan okuyuculardan biri
Bir okuyucunun bu sözleri, LLM’lerle ilişkili risklerin giderek daha belirgin hale geldiğini gösteriyor. İster James Bond’a ister The Matrix’e benzetin, büyük dil modelleriyle bağlantılı riskler artık çok net biçimde ortaya çıkıyor. Skynet’in Terminator filmlerinde aktive edildiği tarihten bu yana yaklaşık 30 yıl geçti; ancak distopik bu vizyonun hep tamamen kurgu alanında kalması umuluyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.