Lola Vision Systems, yapay zeka modellerini çiplerde çalıştırmayı kolaylaştırmaya çalışıyor.

Washington, DC merkezli Lola Vision Systems adlı girişim, yapay zeka modellerinin cihazlarda ve özel çiplerde daha hızlı ve verimli biçimde çalıştırılması için hem yazılım hem de kendi üretği yarı iletken çipler geliştiriyor. Şirketin kurucusu Tayo Adesanya, manuel kurulumların saatlerce süren bir darboğaz olduğunu vurgulayarak, bu süreci otomatikleştirmeyi ve model ayarlamalarını kısaltmayı hedeflediklerini belirtti.

Adesanya, kariyerine neredeyse 12 yıl önce mikroişlemciler ve yapay zeka işlemcileriyle çalışarak başladığını, daha çok büyük üreticilere donanımlarında hangi çipleri kullanacaklarına dair danışmanlık verdiğini anlattı. Bu yıllarda yapay zeka hesaplama pazarındaki talebin nereye yöneldiğine dair erken bir içgörü edindiğini belirten Adesanya, “Lola Vision Systems’i kurmak, dünyanın nereye gittiğine ve gördüklerime dair bir bahsti,” dedi.

Yazılımın kalbindeki darboğaz

Adesanya, 2024 yılında yapay zeka altyapısı üreten bir şirket olarak Lola Vision Systems’i kurduğunu ve bu şirketin cihazlarda modelleri çalıştırmak için yazılımlar ile çipler geliştirdiğini anlattı. Şirketin temel ürünü, yapay zeka modellerini belirli bir çipin çalıştırabileceği talimatlara dönüştüren bir yazılım. Adesanya bu yazılıma “derleyici araç zinciri” (compiler toolchain) adını veriyor ve son derece büyük bir darboğaz olduğunu söylüyor: Bir yapay zeka modelini yeni donanıma manuel olarak kurmak, testlere başlamak için yalnızca “yaklaşık 200 saat” sürebiliyor.

Lola Vision, bu yazılım katmanını yeniden inşa ettiğini ve ayrıca kendi yarı iletken çiplerini geliştirdiğini, amacının sürecin daha fazlasını otomatikleştirmek olduğunu belirtti. Bir müşteri hem kodunu hem de kullanmak istediği, ister özel yapış ister açık kaynaklı olsun bir yapay zeka modelini sağlıyor ve yazılım ikisini de müşterinin çipinin yürütebileceği talimatlara dönüştürüyor.

“Hız bunun yalnızca bir parçası.” Adesanya, daha hızlı kurulumun havacılık ve “diğer kritik görevli şirketlere” kendi verilerinde “daha doğru modelleri daha düşük güç tüketimiyle çalıştırma” imkanı sağladığını açıkladı.

Tayo Adesanya, Lola Vision Systems Kurucusu

Bu müşteriler için doğruluk ve güvenilirliğin seçilebilir şeyler değil, aksine bir ürünün düzenleyici incelemelerden geçip geçmediğini ve sahada güvenilir biçimde çalışıp çalışmadığını belirleyen unsurlar olduğunu ifade eden Adesanya, konuyu şöyle özetledi: “Bu müşteriler için doğruluk ve güvenilirlik güzel olunması gereken şeyler değil. Bir ürünün düzenleyici incelemeden geçmesini ve sahada güvenilir şekilde çalışmasını belirlerler.”

NVIDIA alternatifi olma iddiası

Washington, DC merkezli Lola Vision, cihazlarda yapay zeka çalıştırmak için NVIDIA teknolojisine bir alternatif sunmaya çalışan birkaç girişimden biri. Adesanya, şu anda birçok şirketin genellikle Nvidia’nın Jetson adlı, cihazlarda yapay zeka çalıştırmak için tasarlanmış kompakt hesaplama modüllerinden veya açık kaynaklı yapay zeka modellerinden başladığını söylüyor. Bu araçların “kutudan çıkar çıkmaz sık sık bozulduğunu ya da kötü çalıştığını”, bu yüzden ekiplerin bunları hiç çalıştırabilmek için günler ya da haftalar harcadığını, ardından modeller kullanılabilir hale gelene kadar daha da fazla hafta hata ayıklamaya harcadığını iddia ediyor.

Buna rağmen bile güç tüketiminin genellikle uç (edge) hesaplama bütçelerini aştığını veya kartın ürünün başarılı biçimde çalıştırması için gerçekten ihtiyaç duyduğu orta ila büyük modeller için yeterli hesaplamayı sağlayamadığını belirten Adesanya, bunun tanıma modellerinin hedeflerin gerisinde kalmasına ya da nesneleri yanlış okumasına yol açtığını söyledi. Uç hesaplama, yapay zekanın uzak bir veri merkezinde değil doğrudan bir kamera ya da drone gibi bir cihazda çalıştırılması anlamına geliyor; tanıma modelleri ise nesneleri belirleyen yapay zeka sistemleri.

Gelir modeli ve desteklenen girişimler

Şirkete göre, Lola Vision’ın çipleri piyasaya çıktığında satın almak istediklerini belirten on kadar kurumsal müşteri mektup imzaladı ve zaten bir müşterisi var. Şirket ayrıca daha çok yarı iletken laboratuvarıyla çalışmak için SCALE adlı mikroişlemci iş gücü geliştirme programıyla ortaklık kurdu. “Daha kısa sürede gelir elde etmek için şimdi yazılımımızı mevcut donanımlarda lisanslayacağız,” dedi Adesanya. Yani şirket, kendi çiplerini beklemek yerine müşterilere zaten var olan çiplerde yazılımını kullanma imkanı sunarak ücret talep edecek.

Adesanya, şirkatin bugüne kadar toplamda 1 milyon doların biraz üzerinde fon topladığını ekledi. Lola Vision bu yılın TechCrunch Battlefield 200 programına seçildi; bu program, seçilen 200 girişimden oluşan bir grup. “TechCrunch, Purdue Üniversitesi’nde öğrenciyken favori sitelerimden biriydi,” dedi Adesanya. Ürünü yaklaşık bir yıl içinde inşa edip ilk müşterisini imzaladıktan sonra, Battlefield’e başvurup şirketi daha geniş bir kitle önüne getirmenin zamanının geldiğini hissettiğini söyledi.

Etkinlikle ilgili en çok neyden heyecan duyduğuna gelince, “Anlamlı bağlantılar kurmak ve alanımızda ve etrafında neler olup bittiğine olabildiğince öğrenmek” olduğunu belirten Adesanya, şunu da ekledi: “Ve doğrudan olmak gerekirse, yatırımcların çekleri yazmasını bekliyorum.”