Yapay Zekâ Ucuza mı Gidiyor? Asıl Tehlike: Kapalı Bahçeye Dönüşüm.

Avery Pennarun, Tailscale‘in kurucu ortağı ve CEO‘u.

Her birkaç haftada biri, biri AI çalıştırmanın daha ucuz bir yolunu duyuruyor: daha iyi çipler, daha küçük ve daha hızlı modeller ve AI uygulamalarını güçlendiren GPU‘lar ile altyapı için daha iyi fiyatlar sunan yeni bulut sağlayıcıları. Teknolojinin böyle çalışması gerekiyor: şeyler daha hızlı oluyor, maliyetler düşüyor ve müşteriler yararlanıyor.

En azından teori bu şekilde.

Bu daha ucuz hesaplama bir şart içerebilir: AI sizi bir sağlayıcının modellerine, depolama, ağ ve diğer hizmetlerine kilitleyip başka bir LLM’ye geçmek tüm altyapınızın yarısını yeniden kurmak anlamına gelebilir.

Bilgisayar endüstrisi, temel teknolojinin sürekli olarak ucuzlaştığı ancak alıcıların bu yararlanıyı hiç görmediği bir AI altyapısı pazarı yaratmış gibi oldu. Tedarikçiniz kolayca ayrılamayacağınızı biliyorsa, size daha iyi bir teklif sunmak için pek fazla teşvik yok.

Çok pahalı bir problem

Geçen ay Character.ai’nin iflası, AI’ın ekonomisinin özellikle acı verici bir örneğini sunuyor.

“Bilgisayarlarınızın nerede olduğunu bilmek, onları kimin yönettiğini söylemez.”

“Bilgisayarlarınızın nerede olduğunu bilmek, onları kimin yönettiğini söylemez.”

Şirket, insanların AI karakterleri oluşturup onlarınla sohbet etmesine olanak tanıdı. Milyonlarca insan bunu kullanmayı sevdi, çoğu zaman günde saatlerce. Ne var ki, o sohbetlerin üretilmesi para maliyeti gerektirir; o sohbetleri yapan kişinin ödeyip ödememesinden bağımsız olarak.

Iflas belgelerine göre Character.ai, 2025 yılında hesaplama için ayda yaklaşık 10 milyon USD (14 milyon CAD) harcuyordu. Bu, bilgisayarları satan kimse için mükemmel bir iş modeli.

Ekip, problemi açıkça anladı ve onu çözmek için yoğun çalıştı. Kendi temel modellerini geliştirmeyi bıraktılar, açık ağırlıklı alternatifleri benimsediler ve bazı yükleri daha ucuz altyapıya taşıdılar. Bir dağıtımda çıkarım verimliliğini ikiye çıkardılar. Maliyetleri önemli ölçüde azalttılar, ancak genel ekonomiyi işler hale getiremediler.

Yol altyapısındaki mühendislerle oldukça empati kuruyorum. Aslında iyi bir mühendisin yapması gerekeni tam olarak yapıyorlardı: daha iyi bir teknoloji bulmak, verimliliği artırmak ve sistemi sürdürülebilir kılmaya çalışmak.

Character.ai, bazı iş yüklerini daha ucuz altyapıya taşımayı başardı; ancak daha iyi bir fiyattan yararlanabilmeniz, uygulamanızı mevcut sağlayıcınız etrafında ne kadar kurguladığınıza bağlı. Bilgisayarı değiştirmek bir şey; o bilgisayarlara bağlanan her şeyi değiştirmek başka bir şey.

Sorun, bulut endüstrisinin son yirmi yılda daha da kötüleştirdiği şey tam olarak bu.

Kolay giriş, zor çıkış

Bu iş modelini tanıyacak kadar uzun süredir bilgisayarla uğraşıyorum. Ana makine (mainframe) günlerinde tek bir şirket bilgisayarı, işletim sistemini ve yazılımı sağlıyordu. Müşteriler çalışan bir sistem alıyordu; ancak tedarikçi değiştirmek, sistemin büyük bir kısmını yeniden kurmak anlamına geliyordu.

Bulut bilişim, aynı kilitlenmeye (lock-in) farklı bir yaklaşım sundu. AWS, veri depolama hizmeti S3 ve bulut hesaplama kiralama hizmeti EC2 ile başladı. Amazon, şirketlerin zaten ihtiyaç duyduğu temel yapı taşlarını, sunucu satın almak ya da veri merkezi yönetmek şartıyla sundu.

Ancak depolama ve hesaplama satmanın sorunu, başkalarının da bunları satabilmesi.

Bu yüzden AWS daha fazla hizmet ekledi. Lambda, yönetilecek sunucusuz kod çalıştırır. DynamoDB veritabanınızı halleder. EKS Kubernetes’i yönetir. Bu hizmetler mühendislik zamanından ve paradan tasarruf sağlar. Aynı zamanda müşterilere kilitlenmek için daha fazla neden de verir. Lambda ve DynamoDB’nin kendi API’ları vardır. Taşınabilir olması için tasarlanan Kubernetes bile, AWS ağ, depolama ve kimlik sistemlerine bağlanabilir hale gelebilir.

Uplamanızı geliştirirken bu hizmetleri kullanmak mantıklı. Bulut sağlayıcınızın bugün size sunabileceği bir şeyi yapmak için altı ay harcamaya neden?

Ardından, birkaç yıl sonra, başka bir sağlayıcı size hesaplama veya depolamayı çok daha ucuz bir fiyattan sunar. Harika. Ancak uygulamanız artık daha ucuz sağlayıcının sunmadığı yarım düzine hizmete bağlıdır. Taşınmak, bu hizmetleri yeniden kurmak, entegrasyonları yeniden yazmak ve her şeyi tekrar test etmek anlamına gelir.

Yapay zekâ da aynı yolu izliyor.

Sağlayıcılar modelleri, çıkarımı, depolamayı, ağ altyapısını ve yönetimi entegre platformlar içinde birleştiriyor. Bir modelle başlıyorsunuz, modeli yönetmek için sağlayıcının araçlarını ekliyorsunuz, verinizi bağlıyorsunuz ve uygulamanızı bu paketin etrafında kuruyorsunuz.

Ardından biri daha iyi bir model yayımlıyor ya da yarı fiyatına hesaplama teklif ediyor. Değiştirmek istersiniz, ancak uygulamanızın geri kalanı, yalnızca mevcut sağlayıcınızda var olan hizmetlere bağlıdır.

Bilgisayarlar değişti, yazılımlar değişti; ama ana bilgisayarların bu kadar kârlı kılduğu aynı bağımlılıkları yeniden kuruyoruz. Aslında, daha iyi otomatik tamamlama özelliğiyle 1970′ geri döndük.

Egemenlik, bir çıkış seçeneğini de içermeli

Son zamanlarda “egemen yapay zekâ” terimini sık sık duymuşsunuzdur; genellikle veri ve hesaplamanın ulusal sınırlar içinde tutulmasına dair tartışmalarda karşımıza çıkıyor. Bu önemli, ancak bence bu, egemenliğe dair oldukça dar bir tanımdır.

Bilgisayarlarınızın nerede olduğunu bilmek, onları kimin yönettiğini söylemez.

Egemenlik, bağımlı olduğunuz sistemler üzerinde kontrol anlamına gelir; verinizin nerede saklanacağı, hangi modelleri kullanacağınız, yazılımınızın nerede çalışacağı, onu işletmek içinine güveneceğiniz kişi ya da kuruluş ve daha sonra fikrinizi değiştirme olanağı.

Bir Kanada şirketi, verisini Kanada’da tutmak için iyi nedenlere sahip olabilir. Başka biri yerel veri gerektirebilir ancak başka yerde barındırılan bir modeli kullanmak isteyebilir. İkisinin de, tüm bir tedarikçinin teknoloji yığını içine zorlanmadan bu seçimleri yapma hakkı vardır.

Sınırlar içinde bir sunucu faydalıdır, ancak tedarikçi kilidi, üstüne Kanada posta kodu eklenmiş olsa bile, egemenlik stratejisi değildir.

“Sınırlar içinde bir sunucu faydalıdır, ancak tedarikçi kilidi, üstüne Kanada posta kodu eklenmiş olsa bile, egemenlik stratejisi değildir.”

“Sınırlar içinde bir sunucu faydalıdır, ancak tedarikçi kilidi, üst üzerine Kanada posta kodu eklenmiş olsa bile, egemenlik stratejisi değildir.”

Bu, herkesin bir veri merkezi kurması veya kendi modelini eğitmesi gerektiği anlamına gelmiyor. Yönetilen bulut hizmetleri çoğu zaman doğru cevap. Tekrar vurgulamak gerekirse, bir şey ispatlamak için bir raf GPU satın almanızı önermem.

Gereken, herkesin tek bir paket satın almasını gerektirmeden parçaların bir araya gelerek çalışmasını sağlayan altyapı.

Açık modeller yardımcı oluyor. Standart arayüzler, taşınabilir veri ve sağlayıcılar arasında çalışan ağ ve erişim kontrolleri de aynı şekilde. Bir modeli yeniden ağ kurmadan değiştirebilmeli veya bir yükü başka her şeyle nasıl bağlandığını yeniden tasarlamadan taşıyabilmelisiniz.

Yine de iş gerekecek. Farklı modeller farklı davranır. Donanımın farklı performans özellikleri vardır. Veri taşımak zaman ve para alır. Bunların hiçbiri sihirli değil. Ancak bunlar kendi değerleriyle değerlendirilen mühendislik kararları olmalı.

Character.ai’nin mühendisleri maliyetleri önemli ölçüde düşürdüğü halde şirket işi yürütemedi. Taşınabilirlik tek başına farklı bir sonuç garanti edemez. Ancak deneyimi, neslinin AI şirketlerinin daha iyi teknoloji ve daha düşük maliyetin sunduğu her fırsatı kullanması için neden her şansa ihtiyacı olduğunu gösteriyor.

AI altyapısı hala icat ediliyor. Onu, şirketlerin modelleri değiştirebileceği, hesaplamayı taşıyabileceği, verilerini ihtiyaçları nerede ise orada saklayabileceği ve aynı ağ ve güvenlik kontrollerini koruyabileceği bir araya gelen parçaların bir koleksiyonu olarak kurabiliriz. Ya da büyük oyuncuların, benimsemesi kolay ancak terk etmesi pahalı sıkı paket sistemler kurmasına izin verebiliriz.

Müşteriler sağlayıcı değiştirebildiğinde, tedarikçiler fiyat, performans ve kalite açısından rekabet etmek zorundadır. Değiştiremediklerinde ise teknolojik ilerlemenin getirdiği yararlar, onun üzerinde çalışan şirketlere her zaman ulaşmayabilir.

Bir AI ekosistemi kurma şansımız var; şirketler ihtiyaçları için en iyi teknolojiyi, nereden gelirse gelsin seçebilir ve teknoloji ilerledikçe bu kararları değiştirebilir. Bu, neslinin inşacılarına başarılı olmaları için çok daha iyi bir şans verir.

Yalnızca altyapınızı bir kez seçmenize izin veren bir pazar pek de bir pazar değil. Ve kuşkusuz bu, özerklik de değil.

Yukarıdaki makalede ifade edilen görüş ve analizler, onun yazarına aittir ve BetaKit’in veya editöryel ekibinin pozisyonunu kaçınılmaz olarak yansıtmaz. Açıklık, uzunluk ve üslup için düzenlenmiştir.

Öne çıkan görsel Web Summit Vancouver’a aittir. Fotoğraf Sportsfile üzerinden Sam Barnes tarafından.