ChatGPT’nin mucidinden yeni nesil bir AI modeli geliştiricileri heyecanlandırıyor.

OpenAI araştırmacısı ve ChatGPT‘in gelişimine katkıda bulunan Diogo Almeida, iki yıl önce şirketten ayrılarak kurduğu TypeSafe AI isimli girişiminde, büyük dil modellerinin (LLM) sınırlarını aşmayı hedefleyen Jev adlı yeni bir modeli piyasaya sürdü. Dil temelli olmayan bu model metin üretmek yerine olasılıklar ya da şirketin “kalibre edilmiş kararlar” olarak tanımladığı çıktıları üreterek, yazılım otomasyonu için daha ucuz ve hızlı bir çözüm sunuyor; aynı zamanda kullanıcıların çıktıları önceden belirlemesi sayesinde hallüsinasyon görme riski taşımıyor.

Jev’in duyurulmasının ardından geliştiriciler modele büyük ilgi gösterdi. O kadar yüksek talep geldi ki, şirket kısa süreyle API üzerinden kullanıcılara hizmet verme yeteneğini kaybetti. Yazılım otomasyonu için en uygun şekilde tasarlanan modelin, yazılımcıların kodlarına zeka katmanın daha ucuz ve sağlam bir yolunu sunduğu değerlendiriliyor.

Dil temelli olmamanın getirdiği avantajlar

Jev’in dil kullanmaması birkaç önemli avantaja sahip. Model son derece ucuz ve hızlı çalışırken, kullanıcıların çıktıları önceden tanımlaması nedeniyle hallüsinasyon yaşama ihtimali ortadan kalkıyor. Çıktı belirtecleri (token) ücretsiz olurken, girdi belirtec milyarlar düzeyinde ölçülüyor; milyonlarla değil, milyarlarla ifade ediliyor.

Geliştiriciler pratik avantajları görüyor

Vercel gibi ajan altyapısı geliştiren bir şirkette yazılım mühendisi olan Pranit Sharma, şirketinin OpenAI’nin ChatGPT Luna 5.6 modelini kullanarak komutları güvenlik açısından inceleyen bir sınıflandırıcı çalıştırdığını belirtti. Vercel, OpenAI’nin Luna modelini Jev ile değiştirdiğinde sonuçların beş ile on sekiz kat daha hızlı ve daha doğru geldiğini gözlemledi.

Bryo AI’nın baş teknoloji sorumlusu (CTO) Nikhil Mudholkar ise Jev’i iş e-postalarını sınıflandırmada Gemini’ye karşı test etti. Testinde Gemini biraz daha doğru sonuç verse de on ile yirmi kat arasında daha pahalıya mal oldu. Mudholkar için ilginç olan, Jev’in güven skorlarıydı: “Gerçek bir olasılığı geri veren tek model bu ve iş akışlarını otomatikleştirmek için ideal.”

Mevcut modelleri tamamlayan denetici rolü

Yeni model, belirli kullanım alanlarında LLM’lerin yerini almakla kalmıyor; aynı zamanda kötü davranışlara karşı akıllı bir denetici gibi de işlev görüyor. Ajanlarla ajanları izlemek hızla pahalı hale gelebiliyor ancak Jev kullanıldığında bunun mantıklı olduğu görüşünde Almeida. Kullanıcıların, LMJ ajanlarının izlerini takip etmek ve jailbreak (hapis kırma) girişimlerini önlemek için Jev’i kullanacağını öngörüyor.

Gün sonunda hallüsinasyon sorununu biraz da kullanıcıya devrediyor. Kullanıcı, “Bu yalnızca yüzde 50 olasılıkla geldiyse, belki bu bir atıştırmadır ve ben görmezden gelirim ama yüzde 95 ise tabii ki bununla bir şey yapabilirim” demek zorundadır.

Armin Ronacher, açık kaynak model çerçevesi Pi’yi geliştiren Earendil’in CTO’su

Ronacher’a göre Jev’in başka bir potansiyel kullanımı ise model yönlendirmesi. Belirli bir iş yükünün hangi modele ihtiyaç duyacağını tahmin etmek yararlı olur ancak bu iş için LMJ kullanmak pahalıdır. Jev’in düşük maliyeti ve hızı, böyle bir gerçek zamanlı sıralamayı mümkün kılıyor.

Maliyetin düşmesinin yaygın kullanım umudu

Bu, Almeida’nin hayal ettiği şey. Model, 19. yüzyıl iktisatçısı William Stanley Jevons’un adını taşıyor; özdeş paradoksu olarak bilinen bu kavram, bir malın maliyetinin düşmesinin o malın giderek daha fazla kullanılmasına yol açabileceğini açıklıyor. Bu durumda zekanın maliyetinin düşmesi, onun yaygın biçimde kullanılmasıyla sonuçlanmalı.

“Zekânın her yerde, ortaya çıkan ve dağıtılmış bir şekilde olacağını düşünüyoruz… İnsanların şu anda inşa etmeye çalıştığı dev uygulamalardan çok, daha çok erken internet dönemine benziyor,” diye konuştu Almeida.

Mimari gizli tutuluyor

Almeida, modelin mimarisini gizli tutuyor; dış gözlemciler bunun açık ağırlıklı bir LMJ üzerinde inşa edilmiş olabileceğini öngörüyor. Şirket, Jev’i sezgiye değil muhakemeye odaklanan ve belirli bir göreve “öncelikle” odaklanan bir “Sistem Bir modeli” olarak tanımlıyor. Almeida, Jev’in yalnızca sentetik veri kullanarak ve kendisinin “kalibe edilmiş kararlardan güç öğrenmesi” dediği bir teknikle eğitildiğini söylüyor.

Bir zamanlar erken aşamadayken verilerimizin tamamını biz üreteceğimize dair bir bahse girdik ve bu, hayatımda yaptığım en iyi bahselerden biri oldu — bence çıkışımızdan daha iyi, RLHF’den de iyi. Şirketimizin yarısı, temelde istatistiksel açıdan iyi anlaşılan sentetik verilerin tüm alt alanına sahip bir laboratuvar ve bu artık hayat sevgim.

Diogo Almeida, TypeSafe AI kurucusu

Şimdilik Jev, kendi türündeki tek model olarak öne çıkarken, Ronacher faydası ortadayken rakiplerin ortaya çıkacağını bekliyor.

Bunu birçok açıdan daha erken görmeliydik ancak muhtemelen LMJ’ler böylece ucuz ve sübvansiyonlı olduğu için, henüz yaratıcı olmanıza gerek kalmıyor.

Armin Ronacher, Earendil CTO’su

TypeSafe kendisi modeli yeni biçimlerde (modalite) çeşitlendirmeye devam edecek. TypeSafe’in bir frontier laboratuvarı olup olmadığı sorulduğunda Almeida şunları söyledi: “Frontier laboratuvarlarının baş ürünü korku ya da hype’dır. Ana ürünümüzün zeka olmasını isterdim… [ancak] sonsuz zenginliğe bahis oynamak, bir din ya da veri merkezinde Tanrı inşa etmek gibi bugünün şeylerine odaklanan anlamda bir laboratuvar değiliz.”