Nvidia, Daha Az GPU ile AI Modellerini Yönetmeye Yardımcı Olan Hint Girişimini Destekliyor.

Yapay zekâ patlamasının hesaplama kapasitesini zorladığı bir dönemde Nvidia, Hindistan merkezli Simplismart girişimini 14 milyon dolarlık bir finansman turunda destekledi; şirketlere AI modellerini daha verimli ve bazı durumlarda daha az GPU ile çalıştırmanda yardımcı olacak yazılıma yatırım yaptı.

Nvidia, Dallas Venture Capital’nin önderliğinde gerçekleştirdiği tüm birincil B serisi turunda Accel, Shastra VC ve Micromax ile birlikte yer aldı. Anlaşma, yeni finansmanı da dahil ederek dört yaşındaki girişimi yaklaşık 100 milyon dolar değerlemekte.

Şirketler bugünlerde AI uygulamalarını çalıştırmak için GPU’lara yoğun yatırımlar yapıyor, ancak bu modelleri ölçeklenebilir şekilde güvenilir ve ekonomik biçimde çalıştırmaya devam etmek bir zorluk olmaya devam ediyor. Farklı iş yükleri; hız, maliyet ve performans arasında farklı ödelleşmeler gerektiriyor. İş gereksinimlerini karşılamak için AI modellerini yerleştirmek ve işletmek genellikle karmaşık ayarlamaları da beraberinde getiriyor. Simplismart, yazılımının bu işlerin büyük bir kısmını otomatikleştirdiğini ve modellerin mevcut hesaplama altyapısında nasıl çalışacağını özelleştirerek müşterilerin bu yapılandırmaları kendileri yönetmelerini gerektirmediğini belirtiyor.

“Aslında kimse en hızlı ya da en ucuz çıkarımı (inference) gerektirmiyor,” Simplismart’ın kurucu ortağı ve CEO’su Amritanshu Jain (yukarıda, solda) bir röportajda söyledi. Şirketlerin bunun yerine, AI modellerini kendi özel uygulamaları için mantıklı olan hız ve maliyetlerde çalıştırma ihtiyaçları olduğunu ekledi.

Simplismart’ın yazılımı, AI modelleri ile bu modellerin çalıştığı hesaplama altyapısı arasında konumlanır ve müşterilerin gereksinimlerini karşılamak için modellerin yerleştirilmesi ve yönetilmesi şeklini ayarlar. Bir modelin ne kadar hızlı yanıt verdiği, kaç isteği işlediği ve ne kadar hesaplama gücü tükettiği gibi faktörleri optimize edebileceğini belirterek şirketlerin mevcut GPU yığınlarından daha fazla verim almalarına yardımcı olduğunu vurguluyor.

Bengaluru merkezli girişim, şirketlere AI modellerini kendi platformu üzerinden ya da mevcut bulut ve kendi iç altyapılarında (on-premises) yerleştirip çalıştırma imkanı sunuyor. Ayrıca modelleri ince ayar yapma, talep değiştikçe hesaplama kaynaklarını otomatik olarak ölçeklendirme ve performansı izleme araçları da sağlıyor. Buna ek olarak Simplismart, bulut sağlayıcılarının kendi yazılımını kullanarak GPU altyapısı üzerinde kendi AI çıkarım hizmetlerini oluşturmalarını ve işletmelerini de mümkün kılıyor.

Simplismart, yazılımını kullanarak AI video üretimi platformu InVideo’nun GPU sunum maliyetlerini %56 oranında düşürmesine yardımcı olduğunu belirtti. Girişim ayrıca HeyGen ve Higgsfield gibi AI video şirketleriyle ayrıca girişim şirketi Ema dahil olmak üzere diğerleriyle de çalışıyor. Üstelik Hint bulut sağlayıcısı Yotta, Shakti Studio platformundaki sunucusuz AI çıkarım hizmetini çalıştırmak için Simplismart’ın teknolojisini kullanıyor.

Simplismart’ın yıllık bazda hesaplanan gelir run hızı, geçen altı ayda sekiz haneli bir meblağa ulaşmak üzere 14 katına büyüdü; Jain, TechCrunch’a bunu söyledi. Şirket, bu rakamın son müşteri kullanımına dayandığını, sözleşmeli tekrarlayan geliri hariç tuttuğunu ve altyapı sağlayıcılarına aktarılan gelirleri içermediğini belirtti. Jain tam rakamı açıklamadı.

Jain’e göre, girişimin gelirinin yarısından fazlası ABD’den geliyor; oysa girişimin Hint’te daha fazla müşterisi var.

Girişim yatırımıyla paralel olarak Nvidia, Jain’in TechCrunch’a belirttiği gibi, Simplismart’la Dynamo çıkarım yazılımı da dahil olmak üzere teknik entegrasyonlar üzerinde çalışıyor. İşbirliği, Simplismart’ın mühendisleriyle Nvidia’nın çözüm mimarlarını içeriyor; Nvidia ayrıca girişimi potansiyel müşteriler ve ortaklarla tanıştırmaya da yardımcı oldu; Jain belirtti.

İlginçtir ki, bu yatırım görünüşte bir çelişki sunuyor: AI çiplerinin baskın tedarikçisi olan Nvidia, bazı iş yüklerinin daha az GPU ile çalışmasına yardımcı olabilecek bir yazılımı destekliyor. Jain bununla birlikte, AI çıkarımını daha verimli hale getirmenin, nihayetinde Nvidia’ya donanımını müşteriler için daha cazip kılarak ve AI uygulamalarının daha yaygın benimsenmesini teşvik ederek fayda sağlayabileceğini savundu.

Simplismart, giderek kalabalıklaşan AI çıkarım yazılımı pazarında müşterilere hizmet veriyor; Nvidia’nın kendi ürünleriyle birlikte Amazon Web Services, Google Cloud ve Microsoft Azure gibi büyük bulut sağlayıcıları ve hiperölçeklilerle rekabet ediyor. Artan AI talebi ve pahalı GPU kaynaklarının daha iyi kullanılmasına duyulan ihtiyaç tarafından yönlendirilen bu segmentteki artan talep nedeniyle, AI modellerinin daha hızlı ve daha ucuz çalıştırılmasına yardımcı araçlar geliştiren giderek daha fazla girişim ortaya çıkıyor.

“Kazanma eğilimimiz, insanların SLA’larına [hizmet seviyesi anlaşmaları] ve TCO’larına [toplam sahip olma maliyeti] daha sıkı olmaları gereken alanlarda,” dedi Jain; istekli performans gereksinimlerini ve sıkı maliyet kısıtlamalarını ima ederek. Hızlı veya ucuz çıkarım için önceden ayarlanmış seçenekler sunan rakiplerinin aksine, Simplismart’ın her müşterinin ihtiyaçlarına uygun bir denge kurmayı hedeflediğini söyledi.

2022’de eski Oracle mühendisi Jain ve eski Google mühendisi Devansh Ghatak (yukarıda, sağda) tarafından kurulan Simplismart, ikilinin makine öğrenimi sistemleri inşa etme ve yayma deneyiminden doğdu. BITS Pilani’de öğrenim görürken tanışan ikili, startup’ın bugün 58 kişi istihdam ettiğini Jain belirtti.

Simplismart, yeni fonu Amerika Birleşik Devletleri’ndeki varlığını genişletmek, ekibini büyütmek ve çıkarım yazılımını geliştirmeye daha fazla yatırım yapmak için kullanmayı planlıyor. Jain, TechCrunch’a Amerika Birleşik Devletleri’nin, startup’ın oradaki mevcut müşteri tabanına dayanarak büyüme çabaları sırasında ana pazar olmaya devam ettiğini söyledi.

Fon duyurusu, Hint İngilizce yayıncısı The Economic Times’ın Simplismart’ın 300 milyon dolardan 400 milyon dolar değerlemeye kadar 40 milyon dolardan 50 milyon dolara kadar fon topladığına dair bir rapor yayınlamasının ardından geldi. Rapor hakkında sorulduğunda Jain, startup’ın aktif olarak fon toplamadığını belirterek yorum yapmayı reddetti. Seri B’nin kapatıldığını ve uzatılmayacağını ekledi.