Safeworld: Yapay zeka destekli robotların güvenliği için simülasyon tabanlı denetim şirketi 12 milyon dolar serme yatırımla.

Robotik sektörünün en büyük trendlerinden biri, makinelerin kontrolünü jeneratif yapay zeka modellerine devretmek olsa da bu yaklaşım öngörülebilirlik açısından ciddi bir risk taşıyor. Bu sorunu çözmek için Carnegie Mellon Üniversitesi’nin Güvenli Yapay Zeka (Safe AI) laboratuvarını yöneten Dr. Ding Zhao, deneyimli girişimci Kyle Wong ve makine öğrenimi mühisi Simo Rachidi ile birlikte Safeworld adlı bir şirket kurdu Şirket, bugün 12 milyon dolardan fazla serme yatırımla gizli çalışma döneminden çıkarak yatırımcılara kapı açtı.

Safeworld’ün temel yaklaşımı, robot kontrol sistemlerini gerçekçi insan modelleriyle doldurmuş simülasyonlar içinde değerlendirmek. Bu süreç, Tesla veya Wayve gibi şirketlerin araçlarının yolda karşılaşabileceği sürpriz olaylara nasıl tepki verdiğini kanıtlamaya çalışmasına benziyor; ancak Zhao’ya göre robotlar için bu çok daha zor, çünkü makineler yapılandırılmamış ortamlarda çalışıyor ve bulundukları her tesisin farklı güvenlik standartlarına sahip olması gerekiyor.

Jeneratif yapay zeka neden öngörülemez?

Safeworld’ün ortaya çıkışı, robotların yaygınlaşmasıyla birlikte yükselen bir endişeye işaret ediyor. Jeneratif yapay zeka modelleri geleneksel algoritmalar kadar tahmin edilebilir olmadığı için, tamamen yeni bir insan formunda robotun güvenli olacağından nasıl emin olunacağı sorusu kritik önem taşıyor. Kuruculara göre bu güvenlik sorunu iki bileşenden oluşuyor: gelişmiş jeneratif yapay zeka olasılıksal değerlendirme yöntemleri ve güven.

Gürlediğimiz güvenlik sorunu aslında iki şeyin birleşimi: Birincisi, gerçekten ileri düzeyde jeneratif yapay zeka olasılıksal değerlendirmeleri—olasılıksal bir sistemin riskini nasıl sigortalarsınız? İkinci ve gerçekten zor kısım ise güven tarafı; bir robotu devreye sokmak için ikisine de ihtiyacınız var.

Dr. Ding Zhao, Safeworld Kurucusu ve Carnegie Mellon Güvenli Yapay Zeka Laboratuvanın Direktörü

Simülasyonlar içinde binlerce senaryo

Sirketin uzmanlığı, robot kontrol sistemlerini gerçekçi insan modelleriyle dolu simülasyonlar içinde değerlendirmek. Bu süreç, Tesla veya Wayve gibi şirketlerin araçlarının yolda karşılaşabileceği sürpriz olaylara nasıl tepki verdiğini kanıtlamaya çalışmasına benziyor; ancak Zhao’ya göre robotlar için bu çok daha zor, çünkü makineler yapılandırılmamış ortamlarda çalışıyor ve bulundukları her tesisin farklı güvenlik standartlarına sahip olması gerekiyor.

Bu fabrikadaki kör köşelerden biri olduğunu düşünün. Bu robotun belirli bir insanla çarpışmayacağını nasıl garanti edeceksiniz? Hangi hızı veya hangi durma mesafesini kullanmalısınız? Örneğin elinde kutular taşıyan bir insan varsa, robot onu tespit edebilecek mi?

Kyle Wong, Safeworld Kurucusu

Bu soruları yanıtlamak için Safeworld, Genesis veya MuJoCo gibi modellerde o köşenin dijital bir versiyonunu oluşturuyor, değerlendirdiği robotun gerçek yazılımıyla sürülmuş bir simülasyon ekliyor ve ardından insan modellerinin robotla karşılaştığı binlerce senaryoyu çalıştırıyor. Zhao’ya göre bu göründüğünden daha zor, çünkü insanlar öngörülemez.

Düşüp düşmek de simülasyonla çokça test ettiğimiz bir örnek. Aksi takdirde robot için defalarca düşüp düşmeniz gerekirdi ki bunu sürekli yapmanız oldukça zor bir şeydir.

Kyle Wong, Safeworld Kurucusu

Bağımsız üçüncü taraf onayına ihtiyaç

Safeworld’in inşa ettiği platform ile robot üreticilerinin dahili olarak kullandığı araçlar arasında belirben benzerlikler var. Ancak kurucular, bu özel uzmanlıkların ötesinde, robot üreticilerinin çalışmalarını doğrulamak için—en azından güvenlik durumları hakkında bilgi paylaşmak amacıyla rakiplerle bile olsa—aşağıdan yukarıya bir üçüncü tarafa ihtiyaç duyacağına inanıyor.

Bu kenar durumların çözülmesinin ne kadar zor olacağını birçok kişi hafife alıyor. Endişe verilen, vakum içindeki ya da demo sahnesindeki robot değil; ölçekli biçimde konuşlandırılan ve potansiyel olarak daha önce hiç robot kullanmamış insanlarla karşılaşan robot.

Dr. Ding Zhao, Safeworld Kurucusu

Gritt Robotics ile iş birliği

GITT Robotics‘ın teknoloji direktörü Vishal Dugar, şu anda endüstriyel ölçekli güneş santrallerinde çalışanların fotovoltaik panelleri kurmasına yardımcı olan ve daha karmaşık inşaat görevlerini üstlenmeyi hedefleyen robotlar için yapay zeka beynini geliştiriyor. Şirketi, güvenlik simülasyonlarını geliştirdikçe Safeworld ile iş birliği yapıyor.

Sistemlerimizin çoğu için zorluk şu: Biraz matematik yaparak, bazı denklemler yazıp “evet, sistem güvenli olarak doğrulandı” demek oldukça zor. Bu mutlaka ampirik biçimde yapılmalı.

Vishal Dugar, GITT Robotics Teknoloji Direktörü

Dugar’ın robotları insan çalışanların yanında çalışıyor ve robot kolunun onlara çarpmamasını sağlamak doğal olarak en önemli konular arasında. Bunu pratikte doğrulamak ise tüm olası senaryoları göz önünde bulundurmayı gerektiriyor.

İnsanların birçok farklı görünüşü var. Vükiselleri farklı konumlarda olabilir; eğilebilir, dik durabilir, düşüp düşebilir veya çökebilirler, koşabilirler. Bu sahnelerde insanın sergileyebileceği tüm bu davranışlara yanıt vermeniz gerekiyor; ayrıca kıyafet, boyut, şekil, boy ve cilt rengi gibi insan görünüşündeki çeşitlilik de buna ekleniyor.

Vishal Dugar, GITT Robotics Teknoloji Direktörü

Sektör standardı için erken ama kritik bir dönem

Böylece Safeworld ve robotikte jeneratif yapay zeka hala erken aşamada; şirket ürününün en iyi modeli—dış kullanıcılar için bir platform mu, yoksa hizmet temelli bir yaklaşım mı?—üzerinde hâlâ kafa yoruyor. Ancak ekip doğru sorunu üstlendiklerine dair emin.

Bu alanda kârlı ilk şirket olma ihtimalimiz yüksek. Çünkü kim devreye sokmak isterse, bu işi yönetmemiz için bize ödeme yapmak zorunda kalacak.

Dr. Ding Zhao, Safeworld Kurucusu

Safeworld’in serme turu Shine Capital ve a16z Speedrun önderliğinde gerçekleştirilirken Box Group, Carnegie Mellon Üniversitesi Vakfu, Innovation Endeavors ve SV Angel’dan ek yatırımlar geldi. Yatırımcılar arasında yer alan Jonathan Lai ise güvenlik standardının zamanında oluşturulması gerektiğine dikkat çekiyor.

Sektör için bir güvenlik standardı kurma zamanı şimdi, robotlar tasarlanıp devreye alınırken. Evlere giren robotların çocuklarla çarpıştığı ve güvenlik olaylarına yol açtığı ana geldiğinde çok geç olacaktır.

Jonathan Lai, a16z Speedrun Ortağı

Safeworld’in serme turu 12 milyon dolardan fazla tutarında gerçekleşti; bu rakam güncel kurla yaklaşık 590 milyon liraya denk geliyor (1 USD = 49.06 TL). Şirketin simülasyon tabanlı güvenlik denetimi yaklaşımı, jeneratif yapay zeka entegrasyonunun yaygınlaştığı bir dönemde robotik sektörüne yeni bir güven mimarısı kurma umudu taşıyor.