Salesforce ile Nvidia ortaklığında geliştirilen Koa adlı yeni yapay zeka modeli, şirketin bu hafta Devam eden Dreamforce teknoloji konferansındaki en büyük duyurulardan biri oldu. Kurumsal dünyaya özel olarak tasarlanan Koa, Nvidia’nın açık ağırlıklı Nemotron modelinin üzerine inşa edilen ilk akıl yürütme (reasoning) modeli niteliğinde taşıyor. İki şirket, modeli satış, pazarlama ve müşteri hizmetleri görevlerinde öne çıkacak şekilde birlikte eğitti.
Koa, kurumsal dünyanın yapay zeka ihtiyaçlarının ileri teknoloji laboratuvarlarının sunduklarından giderek ayrıştığının çarpıcı bir örneği olarak görünüyor. Kapalı sistem laboratuvarları, işletmelerin dosyalarını, kodlarını, istemlerini (prompt) ve geri bildirimlerini doğrudan kendi modellerine ve ajanlarına yüklemesini ve buna milyonlarca dolar harcamasını tercih ediyor. Buna karşılık Salesforce, yeni modeliyle müşterilerine kapalı ileri modellere açık alternatif sunmayı hedefliyor.
Koa’ya özel avantajlar
Salesforce’un sunduğu Koa modeli, birden fazla kurumsal ihtiyacı aynı anda karşılayacak şekilde tasarlandı. Açık ağırlıklı yapısıyla kapalı ileri modellere alternatif oluşturuyor; imkansız matematik problemlerini çözmek yerine, belirli iş görevlerini yapmak için eğitiliyor. Model herhangi bir gerçek müşteri verisiyle beslenmediği için bu verileri başkalarına aktaramaz veya sızdıramaz.
Ayrıca model, aynı işi daha az token tüketerek gerçekleştirdiğinden yapay zeka harcamalarını düşürmeyi hedefliyor. İhtiyaca göre otomatik olarak bir yapay zeka “kapısından” (gateway) yönlendirilebilen Koa’nın Salesforce içinde gömülü tüm müşteri veri gereksinimlerini ve güvenlik kurallarını karşılaması bekleniyor.
Koa, müşterilerin müşteri hizmetleri sorularını yanıtlamak veya randevu almak gibi tekrarlayan görevleri yönetmek için ajanlar geliştirdiği Agentforce platformunda, Salesforce’un diğer modellerine alternatif olarak sunulacak.
“Agentforce portföyünün bir parçası olan çok sayıda özel görev dil modeli geliştirdik. Ancak akıl yürütme her zaman ileri model sağlayıcılarına bıraktığımız bir alandı. Şimdiye kadar öyleydi.”
Salesforce AI Başkan Yardımcısı Jayesh Govindarajan
Neden kendi modelini geliştirmek istiyor?
Koa’dan önce, uzun süren veya çok adımlı bir görevi akıl yürüterek çözmesi gereken bir ajan varsa, bu istemler Agentforce’un yapay zeka kapısı aracılığıyla Claude veya ChatGPT gibi ileri modellere yönlendiriliyordu. Kapı sistemi, hangi isteğin hangi model tarafından işleneceğine karar veren altyapıyı oluşturuyor.
Govindarajan, kendi kurumsal düzeyde ileri modellerini geliştirmemelerinin nedenlerinden birinin, başlangıç için kullanabilecekleri eğitilmiş bir temel modelin eksikliği olduğunu açıkladı. Nemotron gelene kadar hem ulusal (sovereign) Amerikalı hem de en güncel hem de net veri kökenine sahip eğitim modeli bulunmadığını vurguladı.
“Kendi kurumsal düzeyde ileri modelimizi eğitmek her zaman istemiştik ama zorluk hep başlangıç için kullanabilecekleri eğitilmiş bir temel modelin eksikliğiydi. Nemotron gelene kadar, birincisi ulusal Amerikalı, ikincisi en güncel ve üçüncüsü net veri kökenine sahip eğitim modeli yoktu. Qwen’in neyle eğitildiğini bilmiyoruz.”
Salesforce AI Başkan Yardımcısı Jayesh Govindarajan
Govindarajan burada, Alibaba’ın ürettiği popüler Çinli açık ağırlıklı model Qwen’e atıfta bulundu. Bir modelin eğitilmesinin ardından bu tür bir modeli genel amaçlı sistemden, satış ve müşteri hizmetleri bilgisinde uzman bir sisteme dönüştürmek gerekiyor.
Senteetik veriyle eğitim
Bunu başarmak için Salesforce ve Nvidia, müşterilerinden herhangi bir gerçek veri kullanmadı. Bunun yerine müşterilerin örüntülerini taklit eden sentetik veriler üretti. Bu yaklaşımın hem gizlilik hem de güvenlik açısından avantajları var.
“Aslında müşteri hizmetleri ortamını, öfke içinde arama yapan bir müşteri temsilcisinden, bir anlaşmayı kapatmaya çalışan bir satış profesyoneline kadar bir persona müşteri temsilcisiyle simüle ettik.”
Salesforce AI Başkan Yardımcısı Jayesh Govindarajan
Koa’nın amacı, Salesforce müşterilerinin ajanlardan yapmalarını istediği iş görevlerinde hem daha iyi olmak hem de Claude veya ChatGPT’ye aynı görevleri göndermekten daha az token tüketmektir. Nvidia tarafında bu verimliliğin ardındaki teknik altyapı öne çıkıyor.
“Nemotron ile çıkarım için token verimliliğine sahip benzersiz bir mimariye sahibiz. İhtiyacınız olan üç önemli unsurun tamamını bir araya getiriyor: ulusal yapay zeka, ilk tokena ulaşma süresi ve token ekonomisi açısından akıllı akıl yürütme.”
Nvidia Üretken Yapay Zeka Yazılımı Başkan Yardımcısı Kari Ann Briski
Anthropic ile işbirliği sürüyor
Buna rağmen Salesforce, Anthropic veya OpenAI’yi tamamen terk etmiyor. Şirket bu hafta Claude’u yapay zeka arayüzü olarak kullanmaya olanak tanıyan ve veriye Salesforce’un kayıtlar sisteminde, altyapısı tarafından korunan şekilde erişim sağlayan Claudeforce adlı yeni bir işbirliği duyurdu.
Bu gelişmeler, kurumsal dünyanın yapay zeka tercihlerinin nasıl evrildiğine dair önemli işaretler taşıyor. Açık ağırlıklı, veri kökeni net ve maliyet etkin modeller talebi artarken, ileri laboratuvarların kapalı sistemleri üzerinden yürüttüğü model bağımlılığı da yeniden müzakere ediliyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.