TypeSafe, Graf Veritabanları İçin Yeni Bir Yaklaşım Sunuyor: ‘Jev’ ile Mikrosistem Kararlarını Anında Çözen Yapay Zeka Motoru.

Yapay zeka dünyasında bilgi graflarının en büyük darboğazlarından biri olan “mikrosistem kararları” sorunu, TypeSafe AI’nın geliştirdiği yeni nesil karar motoru Jev ile çözüme kavuşturulmaya başlandı. TypeSafe, kendine has “Sistem 1” mantığıyla tasarlanmış bu modelin, milyonlarca düğüm ve kenar içeren büyük ölçekli bilgi graflarında gecikme ve maliyet sorununu ortadan kaldırarak, grafik tabanlı RAG (GraphRAG) sistemlerini daha hızlı ve daha ucuz hale getirdiğini açıkladı. Model, geleneksel büyük dil modellerinin (LLM) yerine, paralel çalışabilen ve 500 milisaniyeden kısa sürede karar verebilen özel bir mimari üzerine kuruldu.

Bu yaklaşımın temelinde, Daniel Kahneman’ın “Düşünme, Hızlı ve Yavaş” adlı eserinde insan zihnini iki sisteme ayırması yatıyor. Kahneman’a göre birincisi hızlı, sezgisel ve çaba gerektirmeyen “Sistem 1” iken, ikincisi yavaş, bilinçli ve mantıksal olan “Sistem 2” dir. TypeSafe, bu kavramı yapay zekaya taşıyarak, grafik yapılarındaki yüksek frekanslı küçük kararların bir Sistem 1 problemi olmasını savunuyor. Geleneksel LLM’ler ise doğası gereği Sistem 2 motorları olarak tasarlanmış ve derin akıl yürütme, metin sentezi ve karmaşık kod üretimi gibi görevlerde üstün performans gösteriyorlar.

Mikrosistem Kararlarının Getirdiği Zorluklar

Şirketler, GraphRAG sistemlerini üretim ortamında hayata geçirdiklerinde karşılaştıkları en büyük engel, bilgi grafinin büyüklüğüne paralel olarak artan “mikrosistem kararları” yüküyle ilgili. Bilgi grafi, deterministik bir veri yapısı olduğundan, onu inşa etmek, sürdürmek ve sorgulamak on binlerce olasılıksal küçük kararı gerektiriyor. Örneğin, bir belgede geçen “Alphabet Inc.” ifadesinin, grafikteki 40812 numaralı düğümdeki “Google LLC” ile aynı düğüm olup olmadığı sorusu, grafik ontolojisinde [:WORKS_FOR] ilişkisinin [:EMPLOYED_BY] ile aynı niyeti taşıyıp taşımadığı sorusu ya da üç atlama (3-hop) yolculuk komşuluğundan çıkarılan 2500 düğümün içinden gerçekten kullanıcı sorusuna ilgili olan 15 düğümün hangileri olduğu gibi sorular, mühendisleri günlük işlemlerde zorluyor.

Geçmişte bu tür küçük kararlar için mühendisler genellikle gpt, claude gibi genel amaçlı, autoregresif (sıralı) LLM’leri çağırıyordu. Bu yöntem rutin veri alma, bakım ve sorgulama işlemlerine önemli gecikme ve maliyet katıyordu. Ayrıca LLM’ler düzensiz metin üretmeye eğitilmişti. Onlardan geçerli JSON ya da Cypher sorguları üretmesini, neredeyse deterministik bir biçimde yapmalarını sağlamak için sıkı prompt mühendisliği, sıcaklık ayarları ve uç durumlarda bazen başarısız olan kırılgan regex ya da pydantic ayrıştırma mantığı gerekiyordu.

Jev, geleneksel üretken LLM’lerden farklı olarak autoregresif değil ve kalibre edilmiş bir karar modelidir. Token akıştırmaz ya da sözlü metin üretmez. Bunun yerine durumu alır ve tipli, olasılıksal mikrosistem kararlarını LLM’lerin maliyetinin bir kesriyle, 500 milisaniyeden kısa gecikmeyle paralel çalıştırma modunda yerine getirir.

TypeSafe AI

Jev’in Üç Temel Primi

TypeSafe, Jev mühendisliğini prompt mühendisliğinden şema beyanına (schema declaration) kaydırıyor. Bu yaklaşımda grafikteki tüm mikrosistem kararları, Jev’nin üç temel primine (temel bileşenine) eşleniyor. İlk prim olan “Noul” (kalibre edilmiş boolean), ikili bir iddiaya ilişkin kalibre edilmiş bir olasılık, yani P(Y=1|X) değerini [0,1] aralığında döndürüyor. Standart LLM logit çıktılarının sık sık kalibrasyonsuz ve aşırı özgüvenli olmasına karşın, Jev’nin noul çıktılarını kalibre edilmiş olasılık tahminleri olarak görüyor. İyi kalibre edilmiş bir modelden 0.92 olasılığı verilen bir tahmin, yeterli sayıda karşılaştırılabilir örnekte yaklaşık %92 doğrulukla sonuçlanmalıdır.

İkinci prim olan “Choice” (kategorik dağılım), önceden tanımlanmış ayrık kategorik hedeflerin listesine verilen girdiyi değerlendirip tüm adaylar arasındaki olasılık kütle dağılımını döndürüyor. Üçüncü prim olan “Score” (ordinal derecelendirme) ise ordinal bir ölçeğe (örneğin 1’den 5’e ya da 1’den 10’a) göre beklenen ordinal değeri ve buna bağlı güveni hesaplayarak sürekli niteliklerin güvenilir sayısal değerlendiricisi olarak görev yapıyor.

Jev, sıradaki token tahmin hedefini tamamen reddediyor. Bunun yerine Reinforcement Learning for Calibrated Decisions (RLCD) adı verilen yöntemle, tek bir istek ya da paralel değerlendirme içinde yapılandırılmış çıktı şemaları üzerinde kalibre edilmiş olasılık dağılımlarını doğrudan tahmin edecek şekilde eğitiliyor.

TypeSafe AI

İki Motorlu Grafik Mimarisi

TypeSafe, Jev ile LLM’in bir “İki Motorlu Desende” (Dual-Engine Pattern) işbirliği içinde çalışmasını sağlayan kapsamlı bir mimari çizelgesini tanıttı. Bu desende grafik oluşturma ve zenginleştirme aşaması Jev tarafından yönlendirilirken, GraphRAG sorgulama aşaması Jev ile LLM’in hibrit bir çalışması olarak tasarlandı. Böylece grafik sisteminin farklı aşamaları, her biri için en uygun motorla eşleşiyor.

Grafik oluşturma aşamasında Jev, ham belge alım işleminde çıkarılan düğüm çiftlerini ve ilişkisel öznitelikleri paralel biçimde değerlendirerek grafikte tekrarlanan düğümlerin ve parçalanmış kenarların oluşmasını engelliyor. Geleneksel string-mesafe algoritmalarının (Levenshtein mesafesi, Jaro-Winkler) benzer biçimlerdeki gerçek varlıkları ayırt etmekte yetersiz kalırken, vektör gömme (embedding) yaklaşımı da Apple Inc. ile Apple Bank gibi alakasız varlıkları birbirine karıştırabiliyor. Jev’nin noul primi, bu tür durumlarda bağlamsal doğrulama ile kalibre edilmiş güven skorları üzerinden çift çift değerlendirme yapıyor. Örneğin Mountain View merkezli holding şirketi bağlamında Alphabet Inc. ile arama ve bulut bölümü bağlamında Google LLC karşılaştırıldığında P(True)=0.961 iken, teknoloji sektöründeki Apple Inc. ile finans sektöründeki Apple Bank karşılaştırıldığında P(True)=0.003 sonucu elde ediliyor.

Alım işleminde Jev, ~100 milisaniyede düğüm aday topluluklarını gpt-mini’ye göre birkaç katmanda daha hızlı işleyebiliyor ve API maliyetinin bir kesriyle bu işlemi gerçekleştiriyor. İlişkisel özniteliklerin çoğaltılması sırasında LLM’ler [:IS_EMPLOYED_BY], [:WORKS_AT], [:STAFF_OF], [:EMPLOYEE_OF] gibi yüzlerce eş anlamlı kenar özniteliği üretiyor. Bu özniteliklerin standart dışı bırakılması grafikte ilişkisel parçalanmaya yol açarak Cypher sorgu performansını ciddi biçimde düşürüyor. Jev, yeni gelen ilişkileri mevcut şema öznitelikleriyle noul üzerinden değerlendirerek, Cypher sorgularının pahalı OR koşullarına (örneğin MATCH ()-[r:WORKS_AT|IS_EMPLOYED_BY|STAFF_OF]-()) ihtiyaç duymadan daha hızlı indeks araması yapabilmesini sağlıyor.

Bakım ve Sorgulama Aşamalarında Uygulamalar

TypeSafe, Jev’nin bilgi grafi oluşturma, bakım ve sorgulama süreçlerini dönüştürebileceğini iddia ettiği yedi kullanım senaryosunu tanıttı. Grafik bakım aşamasında, Dijkstra en kısa yolu, Kişiselleştirilmiş PageRank ve Louvain topluluk algılama gibi grafik algoritmaları sayısal kenar ağırlıklarına büyük ölçüde bağlıdır. Gerçek dünya ilişkileri nadiren ikili olduğundan, bunların değişen derecelerde güven, etkileşim sıklığı, duygu ya da finansal risk gibi nitelikleri bulunuyor. Jev’nin score primi, müşteri destek sohbetleri, e-posta alışverişi ve ticari işlemler gibi düzensiz etkileşim günlüklerini alıp grafik kenarlarına eklenebilecek kalibre edilmiş float ağırlıklar hesaplıyor. Böylece bir finansal risk grafiği, iş birliğindeki en zayıf bağlantıları GraphRAG algoritmalarına işaret edecek biçimde aşağıdan yukarıya yolculuk maliyetlerini otomatik olarak ayarlayabiliyor.

Gerçek zamanlı dolandırıcılık algılama ve müşteri zekâsı grafiklerinde ise düğüm öznitelikleri gelen stream olaylarına hızlı biçimde tepki vermeli. Bir hesap düğümü aniden olağandışı işlem atlama gösterdiğinde, Jev bu durumun milisaniyeler içinde risk durumunu sınıflandırabiliyor. Dolandırıcılık algılama