Yapay Zeka Yayılımı Yeniden DevOps Sorunu: Halletmeniz Gereken Konu.

“Kuyruğundan bir kedi taşıyan bir adam, başka hiçbir şekilde öğreneyemeyeceği bir şey öğrenir,” dedi Mark Twain. Zor gerçekleri deneyimleyerek keşfetmek, herkesin yapay zekâyı öğrendiği yol. Buna bu Fortune 500 çözüm entegratörünün CTO’su da dahil. O zaman bana kulak verin: Büyük ihtimalle geçmişimizin günahlarını tekrarlıyorsunuz.

Bunu nasıl biliyorum? İtiraf vakti. Eskiden önder model sağlayıcılarıyla küresel bir sözleşmemiz yoktu. Şimdi var, ama o zamanlar, şirket kredi kartlarıyla istediklerini yapan bir sürü iyi niyetli ekip arkadaşımız vardı. Ayda 20 dolar karşılığında istediklerini yapabilirdiler. Ancak yakından incelediğimizde gerçek ortaya çıktı. Çok para harcıyorduk ve bazıları için ayda 20 dolar, başkaları için 100 ile 200 dolara dönüşmüştü. Tüm model sağlayıcılarıyla tek bir anlaşma, sayısız gider raporlarını birinin sorumlu olduğu tek bir kalem haline getirdi.

Sonraki tuzaka düştük, token‘ların gerçek maliyetini anlamadık. Yeniliğin ötesinde maliyet hakkında düşünmeden araçlar ve iş akışları kuran geliştiricilerimiz vardı. Yazılımda bir CTO’nun görmeyi istemeyeceği üç kelime bunu özetliyor: Hatalar yapıldı.

Ve anders olabilirdi mi? C-suite‘daki herkes aynı düşünceye sahip: Gelin yapay zekâ ekiplerini her yere kuralım! Sağlıklı bir içgüdü ve biz de başkaları kadarına hareket ettik. İş ortağı yönetiminde yapay zekâ ekiplerimiz var, finansda yapay zekâ ekiplerimiz var; işimizin hangi fonksiyonel kısmını adlandırırsınız, yapay zekâ ekiplerimiz var. Her ekip kendi favori önder modelini, araçlarını—kendi her şeyini seçiyor. Aynı melodi, farklı şarkı.

|

BUNUN SON SEFERDE NE OLDU

2009’da yazılım geliştirme dünyası, bugün DevOps olarak bildiğimiz şeye evrilen büyük bir değişim yaşadı. Projelerde devasa ekipler yerine, daha küçük ekipler kurdunuz. Jeff Bezos’dan, bir ekibin iki pizzanın doyurabileceğinden büyük olmaması gerektiğine dair eski bir deyim var.

Mühendislik liderleri, “Bu DevOps şeyini deneyelim,” dedi. DevOps projesine beş, altı, yedi en iyi insanını atadı ve genellikle iyi gitti. Giderek daha fazla DevOps ekibi kurdu ve özellikleri ve yetenekleri çok daha hızlı yayıyordu.

Ancak Murphy’nin yasası yenilmez kaldı ve kısa süre içinde birkaç çirkin kusur belirdi. Her DevOps ekibi kendi araçlarını bulmaya başladı. Bir proje bir programlama dili, bir framework ve bir kalıcılık katmanı kullanırdı. Başka biri tamamen farklı bir araç seti kullanırdı. Ve bir giysi askısı yığını gibi, hepsi büyük, düğümlenmiş bir karmaşa halinde sonuçlandı. Sektör iki gerçek farkındalığa geldi: Bunların üzerine bazı kontroller koymamız gerekiyor ve işe değer katmaktan daha hızlı şekilde teknik borç biriktirip katmanlıyoruz.

Sonuçta ne oldu? Platform mühendisliği ekipleri iç geliştirici platformları kurdular. “İşte altın yol. Altın yolda kalırsanız, sizi destekleriz. Ondan saparsanız, yine buradayız, ama kendi yolunuzu bulmanız gerekecek.” Bu yaklaşım o kadar iyi çalıştı ki, 2023’te Gartner’ın 2026’ya kadar yazılım mühendisliği organizasyonlarının %80’inin ekip platformlarına sahip olacağını öngördü.

Bu arada, bulut öne çıktı, kısmen bu DevOps hareketi sayesinde. Birbirini beslediler. Ucuz görünüyordu, çünkü bir sunucuyu o kadar hızlı ayağa kaldırabiliyor ya da bir API tüketebiliyordunuz. Sonra ortaya çıktı ki, dikkatli değilseniz, size bir kolu ve bir bacağı maliyetebilir ve muhtemelen başınızı. Böylece FinOps—finans operasyonları—adında başka bir disiplin ortaya çıktı.

Bunun bir parçası, bulut sağlayıcılarından gelen faturanızı anlamanızı sağlamakty. Bir parçası ise çoğu zaman bir endişe olarak ifade edildi: Belki yaptığımız her şey için en pahalı teknolojiyi kullanmamalıyız. Geliştiriciler her zaman en kısa yolu alır. Bir düğme sorunlarını çözecekse, o düğmeyi iterler. Ve genellikle en hızlı, en pahalı düğme, bunu daha hızlı ve daha iyi yapar. Bu yüzden o düğmeye tekrar tekrar iterlerler. FinOps, düğmeye bir metre koydu ve sayının sorumlusunu yaptı.

O sorun hâlâ çözülüyor. Tam da yapay zekânın tek bir çeyrekte 337 S&P 500 gelir çağrısında ortaya çıktığı anda—bir dekatta en fazla.

AYN MELODİ, FARKLI ŞARKI

Şimdi benzer farkındalıklara geliyoruz, özellikle de bir FinOps görüşmesi olan tokenomics ile. CIO’lar ve CFO’ların “Belki de kullandığımız araç sayısını konsolidasyona gitmeliyiz” demelerini duyuyoruz. Tanıdık gelmeye başladı, değil mi?

Düzeltme de tanıdık gelmeli. Müşteriler bize bir sürü planla geliyor. Geçmişte bunların her biri üzerinde bağımsız çalışırdılar. Yayılma tam olarak budur. Önerim: En önemli planı bulun ve önce onu kurun. Sonraki plan için, ondan sonrakisi için bir temel olarak kullanın. Bunu geliştiriciler için platform mühendisliğini kurarak yaptık. Aynı şeyi şirketin AI tarafı için tekrar yapmamız gerekiyor. Spesifik olarak, ilk proje bu sorunu çözen küçük bir yetenek kümesi tanımlar. Sonra ikinci proje, ilk projeden öğrendiklerinize dayanır ve daha fazlasını ekler. Üçüncü, dördüncü ve beşinciyi ekledikçe, bu yetenek zaten dahil edilmiş bir çark oluşturmaya başlarsınız.
Hızlandıran bir faktör oluşturuyorsunuz, bizim sahip olduğumuz şey yerine: beş ekip, beş uç model, beş araç seti, CFO’dan beş öfkeli e-posta. Bu, çözülmesi çok pahalı bir askı yığını. Beş ayrı yığın, yetenek ekledikçe sizden daha hızlı bir şekilde teknik borca dönüşür. Beşinin de uzmanı olması gereken biri var. Amaç, uyguladığınız şeyin patlama yarıçapını minimize etmek.

Twain haklıydı. Bazı dersler yalnızca acılı deneyimler yoluyla öğrenilebilir. Ancak erken dönemde biriktirdiğimiz yara dokusuyla en değerli ders şu: Kedi taşımayı başkasına bırakın.

Juan Orlandini, Insight Enterprises’in Kuzey Amerika baş teknoloji sorumlusudur.