OpenAI’nin Decisions API’si: Hızlı Kararlar İçin Yeni Bir Uç Nokta ve TypesafeAI’ın JEV’iyle Compareması.

Büyük Dil Modellerinde karar verme işlemleri için yeni bir yarış başladı. OpenAI, yakın zamanda düzenlediği DevDay etkinliğinde preview ettiği Decisions API‘sini kısa süre sonra halka açık beta aşamasına aldı ve bu araç, TypesafeAI’ın JEV modeliyle benzer problemlere hızlı yanıtlar vermeye çalışıyor.

Yakında bir yazıda JEV’i incelemiştim; JEV içerik sınıflandırma veya bir iş akışındaki sonraki adımı seçme gibi hızlı kararlar alır ve yazılımın doğrudan kullanabileceği tiplendirilmiş yanıtlar döndürür. Eşlik eden olasılıklar, bir uygulamanın bir yanıta göre hareket edip etmeyeceğine ya da bunu insan değerlendirmesine aktarma kararı vermesine yardımcı olur. JEV büyük ilgi gördüğü için rakip ürünlerin çıkması sürpriz olmadı; bunlar arasında en öne çıkanlardan biri OpenAI’nin Decisions API’si oldu.

Yazıda bu yeni arayüzün nasıl çalıştığı, nasıl elde edileceği ve pratik kullanım örnekleri incelenecek; ayrıca bunun bir JEV rakibi mi yoksa TypesafeAI’ın rahatça uyuyabileceği bir gelişme mi olduğu değerlendirilecek.

JEV benzeri modellerin arka planı

Bir online mağaza işlettiğinizi düşünün. Bir müşteri, klavyesinin üç kırık tuşla geldiğini ve yedek istediğini belirterek yazıyor. Herhangi biri yanıt vermeden önce uygulamanızın, mesajı hangi ekibin ele alması gerektiğine karar vermesi gerekiyor.

Bir dil modelinden bunu sınıflandırıp JSON döndürmesini isteyebilirsiniz. Ancak uygulamanın yalnızca bir kategoriye ve o kategoriyeye güvenip güvenemeyeceğini belirtmeye yeterli bilgiye ihtiyacı vardır. Bu süreç, 1000’lerce talebi işlemesi gerekiyorsa nispeten yavaş ve maliyetli olabilir.

OpenAI’nin Decisions API’si bu işleme için kendi uç noktasını veriyor. Ayrıca OpenAI, Decisions’in temel aldığı GPT-6 Luna LLM‘sine göre Responses API üzerinden kararları on kata kadar daha hızlı verebileceğini iddia ediyor. Nasıl çalıştığını keşfetmek için üç Python örneği üzerinden yürüyecek ve OpenAI’nin yaklaşımıyla TypesafeAI’ın JEV modelini karşılaştıracağız.

Decisions API’sinin JEV’in üzerinde büyük avantajlarından biri resimlerle baş edebilmesidir; buna ileride bir örnek göreceğiz.

OpenAI Decisions API’si ne döndürür

Bir istek, bir model, bazı girdiler ve bir soru listesi sağlar. Mevcut beta sürümü gpt-6-luna LLM’sini destekler. Sorular paylaşılan girdiye sahiptir; bu girdi metin, resim ya da her ikisini de içerebilir.

Üç soru türü vardır:

Bu alanlar SDK’nın yanııt tiplerinde tanımlanmıştır. Bir predicate Boolean döndürmez; kod, olasılığı bir eyleme dönüştüren eşiği sizin seçersiniz.

API yanıtları soru sırasına göre döndürür. Bireysel soruları reddedebilir, bu nedenle başka alanları okumadan önce bir yanıtın type alanını kontrol edin.

Mevcut yanıtları tanımlamak uygulamanın tasarımının bir parçasıdır. Seçimleriniz yalnızca billing ve delivery ise ama müşteri açılış saatleri hakkında soruyorsa, ne biri ne de diğeri uygun değildir; ancak genel bir kategori eklemek sisteme bu isteği yönlendirmek için mantıklı bir yer verir. Kategorileri, hiçbirine uymayan talepler dahil gerçek müşteri mesajlarıyla test edin.

Decisions API’siyle üç soru türü arasından seçersiniz: predicate, choice ve score. Her biri olasılıklar da dahil belirli bir yanııt biçimi döndürür. Bir fatura numarası, bir müşteri adı ve satın alınan ürünlerin listesi gibi kendi JSON yapınıza çıkarmanız gerekiyorsa Responses API ile Structured Outputs’u kullanın.

Decisions API’si ne zaman kullanılmalı ve ne kadar maliyetlidir

Binlerce mesajı işleyen bir destek sistemi, her talebi doğru ekibe geçirmeden önce yalnızca bir kuyruk adına ihtiyacı olabilir. Responses API bu yanııtı üretebilir ancak Decisions API’si tanımları belirli sorular için özel bir arayüz sağlar: evet/hayır olasılığı, bir listeden seçim ya da bir rubrike göre skor.

Bu soruları /v1/decisions uç noktasına gönderin ve döndürülen yanıtları uygulama mantığınızda kullanın. Bu onu mesajları yönlendirme, bir arama dizini seçme veya bir ajanın izin verilen bir listeden sonraki adımını seçme gibi işler için faydalı bir seçenek kılıyor.

Ayrıca ayrı fiyatlandırması var. Lansmanda OpenAI, milyon giriş tokeni başına 0,10 dolar ile çıkış tokenleri, cache okumaları ya da cache yazmaları için herhangi bir ücret olmadığını listeliyor. Uzun bağlam çarpanları ve bölgesel işleme primleri hâlâ geçerli.

Basit bir hesaplamayla, ortalaması 1.000 faturalanabilir giriş tokeni olan milyon talep, bu temel oranda 100 dolar maliyetinde olur. Giriş boyutunu tahmin ederken soruları ve açıklamalarını dahil edin.

Yazılı bir açıklama ya da rastgele alanları olan çıkarılmış bir nesne gerektiren bir görev hâlâ bir üretimi arayüzü ister. Fatura çıkarma problemini yalnızca uç noktanın hızlı olması nedeniyle yirmi sınıflandırma sorusuna sıkıştırmak mantıklı değildir.

Aynı şekilde, basit kuralları Python’da saklayın. Öncelik yalnızca bir sipariş toplamının 500 sterlini aşmasıyla ilgiliyse, örneğin sayıyı doğrudan Python kodunda karşılaştırın. Model, girdinin birkaç farklı biçimde tarif ettiği aynı arızayı müşteri anlatırken gibi kurallarınızın kolayca tanıyamayacağı bir şeyi ifade ettiğinde kullanışlı olur. Hatta o zaman bile ek ağ çağrısı, gecikmesini haklı çıkarmak için yeterli aşağı akış işini kaybetmelidir.

Python’u API ile kurun

Resmi openai-python deposu Decisions desteğini 3.26.0 sürümünde ekledi. Bu sürümü ortamınıza yükleyin:

Bir OpenAI API anahtarına ihtiyacınız var. Zaten yoksa, OpenAI’ye kayıtlı olduğunuzdan ve hesabınıza bir ödeme yöntemi ekleyip buna ait krediden birkaç para koyduğundan emin olun. Ardından https://platform.openai.com/home adresine gidin. Ekranın sol tarafında API keys bağlantısını göreceksiniz. Buna tıklayın ve yeni bir gizli anahtar oluşturmak için talimatları izleyin.

OPENAI_API_KEY ortam değişkenini API anahtarınıza ayarlayın. PowerShell’de bunu şöyle yapın:

Aşağıdaki her örnek, kendi import’ları ve istemci kurulumuyla tam, bağımsız bir Python programıdır.

SDK uygulaması client.decisions.create() fonksiyonunu açığa çıkarır ve isteği /v1/decisions uç noktasına gönderir. Bu bir istemci uygulamasıdır; çıkarma OpenAI’nin hizmetinde çalışır.

Her programı, bölümünde gösterilen dosya adı kullanarak kaydedin ve doğrudan Python ile çalıştırın. Üç dosya birbirinden bağımsız çalışır. Her programı çalıştırdığınızda faturalanabilir bir API isteği yapar.

Kod örneği 1: Bir destek talebini yönlendirme

Mağazamızın üç uzman kuyruğu ve hiçbirine uymayan her şey için genel bir kuyruk var. decisions_route.py adlı bir dosya oluşturun ve bu kodu ekleyin.

Kırık klavyem hakkındaki soruma doğru çıktı şuydu:

Kodda farklı bir sorduğumda,

doğru olan bu yanııtı aldım.

choice nesneleri değerler ve açıklamalar içerir; bunlar SDK’nın istek tiplerinde belirtildiği gibidir. Açıklamalar hasarlı malları hiç varılmadan teslim edilen bir gönderiden ayırmamıza izin verir.

0,8 eşiği gösterim amaçlıdır. OpenAI’ye ait bir öneri değildir ve %80 başarı oranını kurmaz. Zaten sınıflandırılmış mesajlarla başlayın ve eşiğinizi belirlemeden önce birkaç eşikte hataları ölçün.

Kod Örneği 2: Bir belgede eksik bilgileri denetleme

Personel iade talimatlarını birkaç biçimde yazıyor olsun. Süreç ya bir son tarihi ya da bir posta adresini atlayan talimatları işaretlemek istiyoruz. decisions_document.py adlı dosyayı bu içerikle oluşturun.

Çıktım şuydu:

İfade önemlidir. Bir adres talep etmeniz söylenmek, bir almanla aynı şey değildir. Adres kelimesi için yapılan bir arama bu ayrımı kaçırır.

Bu bilgi metinde görünüyor mı diye kontrol eder. Bir adresin varlığı ya da bir son tarihin iş kurallarınıza uyup uymadığı ayrı doğrulama gerektirir.

Kod Örneği 3: Bir ürün fotoğrafını inceleme

Son örneğimiz bir paketin üç resmini kullanır; biri yoğun hasarlı, biri hafif hasarlı ve diğeri tamamen hasarsız. Modelin hasarlı/hasarsız arasında ayrım yapabileceğini göreceğiz. İşte kullandığım resimler. Bütün bunlar .PNG biçimindeydi.

Bu üç resmi Python scriptleriyle aynı konuma yerleştirin; örneğin undamaged.png, heavy_damage.png ve slight_damage.png adlarıyla. Ardından decisions_image.py adlı bir dosya oluşturun ve bu kodu ekleyin.

Resimler inline veri URL’lerini kullanmalıdır; sıradan web URL’leri ve dosya ID’leri kabul edilmez. Uç nokta istek başına 128’e kadar resmi destekler ve mesaj girdisi yalnızca metin ve parça olarak resim kullanan kullanıcı rolünü destekler.

İşte çıktılarım:

Son sonuç beni şaşırttı. Paket sadece hafif hasarlıydı ancak model onu yüksek olasılıkla tanımladı. Bu oldukça etkileyici; ancak hafif hasarın da görülebilir olabileceğini ve yüksek skora yol açabileceğini kabul ediyorum.

Özet: Decisions’in JEV ile karşılaştırılması

JEV, Decisions API’siyle benzer bir programlama problemini ele alır. Arayüzü paylaşılan durumu üç ilkel kullanarak değerlendirir: Noul, Choice ve Score. Noul evet/hayır yanıtının olasılığını döndürür; bu örneklerde 2 ve 3’te kullandığımız OpenAI’nin predicate’ine en yakın eşleşmedir. JEV’in choice ilkeleşi büyük ölçüde ilk örneğimizde kullandığımız OpenAI’ninkine benzer.

Bu arayüzlerin arkasındaki ürünler farklıdır. OpenAI, GPT-6 Luna’yı özel bir uç nokta üzerinden açığa çıkarır. TypeSafeAI, JEV’i kararlar için inşa edilmiş, paralel bir sampler ve Kalibre Edilmiş Kararlar için Güçlendirme Öğrenmesi ya da RLCD içeren bir model olarak tanımlar.

Pratik karşılaştırma, 2026’nın başlarında şöyle görünüyor:

JEV’in listelenen giriş tokeni maliyeti %58 daha düşüktür; ancak farklı tokenizasyon ve istek boyutları faturayı etkiler. Mevcut bağlam sınırları tamamı için 64.000 token, durum ile en uzun soru ise 32.000 tokendir.

TypeSafeAI, lansman yazısında 70–500 milisanielik yanııt süreleri bildiriyor. OpenAI Decisions API’sini test ederken yanııt süreleri çoğu zaman birkaç saniyeye ulaşıyordu; ancak iki ürün arasında doğrudan bir karşılaştırma yapmadım.

Her iki sistem için de Python, modeller yanıtları verdikten sonra ne olacağını kontrol eder. Aritmetiği ve sabit iş kurallarını sıradan kodda saklayın ve görev daha belirsizse ve yazılı bir açıklama gerekiyorsa bir üretimi modeli kullanın.

Sonuç olarak, JEV’in endişelenmesi gerektiğini düşünüyor muyum? Hayır, en azından henüz hayır. Deneyimlerime göre JEV hız avantajına sahip; Decisions API’si ise resimleri yorumlama avantajına sahip. Ancak sizce JEV’in resimlerle baş etme yeteneği ne kadar süre alacak?

JEV hakkındaki orijinal TDS yazımı burada okuyabilirsiniz.