Yapay zeka güvenliği alanındaki en iddialı girişimlerden biri olan, Turing Ödülü sahibi Kanadalı araştırmacı Yoshua Bengio’nun kurduğu kâr amacı gütmeyen LawZero kuruluşu, Kanada ve Almanya hükümetlerinden 300 milyon Kanada doları (yaklaşık 1,3 milyar TL) finansman sağladığını duyurdu. Montreal’de düzenlenen ALL IN konferansında Çarşamba öğleden sonra yapılan açıklamada, bu kaynakların “insanlık için güvenli yapay zeka” hedefinin bir sonraki aşamasını finanse edeceği belirtildi. Bengio, 2025 Haziran ayında kurulan kuruluşu, günümüzün öne çıkan yapay zeka modellerinin yanıltma, kendini koruma ve hedef sapması gibi tehlikeli yetenekler geliştirdiğine dair kanıtlara yanıt olarak ortaya koymuştu.
Kuruluş, “tasarım aşamasından itibaren güvenli” (safe-by-design) yapay zeka sistemleri geliştiren bir girişim olarak, bu yeni fonun teknik yol haritasının bir sonraki evresini güçlendireceğini açıkladı. Planın kapsamına, uluslararası bilimsel araştırma ekibini genişletme ve gerekli hesaplama altyapısını temin etme yer alıyor. LawZero yönetimi, bu finansmanın yalnızca teknik kapasiteyi değil, aynı zamanda kuruluşun kritik altyapısını da Kanada topraklarına sabitleyeceğini vurguladı.
“Güvenlik Kendi Başına Bir Yetenek”
Bengio, açıklamada güvenlik konusunun artık bir tamamlayıcı değil, yapay zekanın temel bir yeteneği olduğunu savundu. “Son yaşanan olaylar, güvenliğin kendisinin bir yetenek olduğunu gösteriyor: bilimsel yenilik ve kamu güvenliği bir arada, birlikte ilerleyebilir ve ilerlemelidir” ifadeleriyle, teknolojik ilerlemenin güvenlikle çelişmeden yürütülebileceğini dile getirdi. Kuruluşun Berlin’de yeni bir ofis açarak Avrupa operasyonlarını genişletmesi ve Kanada’da Hypertec ile 5C adlı veri merkez sağlayıcılarıyla ortaklık kurarak bağımsız (sovereign) bir hesaplama altyapısı kurması, bu yaklaşımın somut yansıması olarak öne sürüldü.
“Yapay zeka riskleri çoğalırken ve hızlanırken, önceliğimiz bu teknolojiyi güvenli hale getiren çözümler üretmek ve insanları gerçekten güvenebilecekleri alternatif modeller sunmak olmalı.”
Yoshua Bengio
LawZero, bu altyapıya duyduğu ihtiyacı, araştırmasını ölçekli biçimde sürdürebilmek için gerek gösterdi. Yönetim, kritik yapay zeka altyapısını, uzmanlığını ve kapasitesini Kanada’ya sabitleyerek ülkenin bağımsız yapay zeka kapasitesini güçlendirdiğini belirtti. Kanadalı Yapay Zeka Bakanı Evan Solomon, konuyla ilgili yaptığı açıklamada, “Yerli inovasyonlar gibi Scientist AI gibi girişimlere yatırım yaparak, Kanada’nın bağımsız yapay zeka kapasitesini güçlendiriyor ve bir sonraki neslin yapay zekasının güvenli, sorumlu ve Kanadalı şartlarla inşa edilmesini sağlıyoruz” dedi.
Bir Yapay Zeka İçin Diğeri: “Scientist AI”
LawZero, Québec’teki yapay zeka enstitüsü Mila’dan (Mila) türetilmiş biçimde geliştirildi ve Bengio’nun da kurduğu bu enstitüyle ekibinin büyük bir kısmının bağları bulunuyor. Kuruluşun kâr amacı gütmeyen bir yapıda kurulmasının ardındaki mantık, pazar ve devlet baskılarından yalıtılıp yapay zeka güvenliğini koruyacak biçimde tasarlanmasını sağlamak olarak tanımlandı.
Bengio, kuruluşu, öne çıkan yapay zeka modellerinin yanıltma, kendini koruma ve hedef sapması gibi tehlikeli yetenekler geliştirdiğine dair kanıtlara yanıt olarak kurmuştu. Bu amaçla, özerk (agentic) yapay zeka sistemlerini izleyebilen ve bunlar için koruyucu sınırlar (guardrails) oluşturabilen bir sistem olan “Scientist AI” geliştirildi. Basitçe ifade etmek gerekirse, LawZero, diğer yapay zekalar için bir bakıcı rolü üstlenmeyi hedefliyor.
Bu misyonun önemi, son haftalarda büyük yapay zeka geliştiricilerinden gelen uyarılarla daha da belirginleşti. Birden fazla araştırmacı, teknolojinin önümüzdeki on yıl içinde insanları “yok edebileceği” bir risk bulunduğunu öne sürdü. Bengio ise geçmişte yapısız (unfettered) yapay zeka gelişiminin tehlikelerine dair birden fazla açık mektuba imza attı; bunların arasında 2023’te “yapay zeka kaynaklı yok oluş riski” uyarısını içeren bir mektup da yer alıyordu.
LawZero, bu finansmanla uluslararası bilimsel araştırma ekibini genişletmeyi ve gerekli hesaplama altyapısını temin etmeyi hedefleyen bir sonraki yol haritası evresini başlatıyor. Kuruluş, bağımsız yapay zeka kapasitesinin hem bilimsel yeniliği hem de kamu güvenliğini bir arada güçlendireceğine dair inancını, somut adımlarla pekiştirmeye devam ediyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bir yanıt yazın