Apple’ın ‘Minions’ sistemi boştaki Mac’leri sanal GPU bulutuna dönüştürüyor.

bağlantı

Apple, içinde bulunduğu makinaların boşta kaldığı anları birer sanal GPU kaynağına çeviren “Minions” adlı bir sistem kullanarak iş yüklerini yönetiyor. Şirketin araştırmacılarının yayımladığı rapora göre, bu dağıtık düzen sayesinde daha önce 10 saati aşan kuyruklarda bekleyen yapay zeka görevleri, ağ üzerindeki Mac’lere bölünüyor ve bekleme süreleri birkaç dakikaya düşüyor.

tomshardware sitesinde yayımlanan habere göre, Slack üzerinden bir kullanıcı talebi süreci başlatabiliyor; ancak araştırmacılar ekiplerin verilerinin kendi grupları dışında makinalarda çalışmasına dair ortak bir endişe gözlemlediklerini belirtiyor.

Rapor, sistemi “Minion Server” (Minion Sunucusu), “Minion Executor” (Minion Yürütücüsü) ve “Minion Watchdog” (Minion Gözetmeni) olarak tanımlıyor. Sistem yalnızca çıkarım (inference) amaçlı yapay zeka işi yaptığı için özellikle Apple Silicon’a dayanıyor. İki tür görev bulunuyor: فاتح kaynak Hugging Face dönüştürücü modelleriyle gömme (embedding) hesaplamaları ve her katılımcı Mac’e kurulu olan Ollama üzerinden büyük dil modellerinden metin üretimi.

Minion Sunucusu, gönderilen görevleri alt görevlere bölüp PostgreSQL veritabanında saklıyor. Ardından her Mac’te bir Minion Yürütücüsü çalıştırılıyor ve REST arayüzleri üzerinden sıradaki alt görev çekiliyor; bu “çekme tabanlı yürütme modeli”nde merkezî bir zamanlayıcı bulunmuyor. Mac, girdileri S3’ten okuyor, gerekirse modeli alıyor, alt görevi kendi GPU’sunda çalıştırıp sonucu S3’e geri yazıyor.

Hataları Minion Gözetmeni yakalıyor; makinalar beş dakikada bir gönderdiği kalp atışlarını izleyerek takibi yapıyor. Örneğin bir Mac uyuyunca, ağdan ayrılınca, kapanınca veya bir kullanıcı yürütücüyü durdurup makina üzerinde kontrolü geri alınca tamamlanmayan alt görevler kuyruğa geri dönüyor. Sahip, hangi işlerin önce çalışacağını belirleyebiliyor; “dinamik görev bağlama” ile bir ekibin ya da projenin işlerini önceliklendirebiliyor ya da varsayılan sırayla çalışma (ilk giren ilk çıkar) düzenine bırakabiliyor.

Rapor, her Mac’in kendi iş parçası üzerinde bütünüyle bir modeli çalıştırdığını söylüyor; tek bir modelin Mac’ler arasında bölündüğüne dair bir öneri bulunmuyor. Birleşik bellekle (unified memory) modelin tamamını tek bir Mac donanımında çalıştırmanın sürpriz olmaması bekleniyor; bu, kendi ev laboratuvarlarında aynı şeyi yapanların tanıdığı bir yaklaşım. Gönüllü bilişim açısı da yeni değil; raporda betimlenen mimari, SETI@home gibi boş makinaları kullanma geleneğini çağrıştırıyor.

GPU kuyruğu sürelerindeki düşüşe ek olarak rapor, Minions ile istemlerin yeni bir GPU talebi gerektirmediğini, altyapı maliyetinin sıfırlandığını ve ölçeklendirme çabanın elden geçerek organik hale geldiğini aktarıyor. Ancak bu değerlendirme elektrik giderlerini ya da donanım aşınmasını içermiyor.

Katılım gayrîresmî biçimde yürütülüyor; ekip üyeleri örneğin “başkalarından Minion Yürütücüsünü geçici olarak çalıştırıp belirli bir proje veya görevi hedeflemelerini istemek için Slack mesajları gönderebiliyor.” Gizlilik, Apple’ın kendi içindeki işler için bile bir endişe olmaya devam ediyor; şirket bu durumu kendi veritabanları ve Mac’lerden oluşan ayrı havuzlarıyla ekip ve kuruluş düzeyinde dağıtım yaparak azaltmayı hedefliyor.

Bu yeni rapor, hesaplamanın yapay zeka amaçlı iş yükleri için giderek artan bir darboğaz olduğu bir döneme denk geliyor. Apple, Temmuz ayında yaptığı son çeyrek açıklamasında “yeterli hesaplama kaynağına erişime” bağımlı olduğunu ve bunun “kısıtlı arz, uzun teslim süreleri ve yükselen maliyetler” içeren bir ekosistemde gerçekleştiğini belirtiyor. Kendi veri merkezleri ve üçüncü taraf bulut sağlayıcıları olsa bile “yeterli kapasiteyi güvence altına alamama” riskinin, Minions yaklaşımını daha pratik kıldığını ima etmesi dikkat çekici.

Apple Intelligence’ın karmaşık istemleri için sunucu tarafındaki Private Cloud Compute hizmeti de Haziran’da WWDC’de ilk kez duyurulduktan sonra güncellenmişti. Bu gelişme, yerel yapay zeka talebinin ani ve yüksek Mac talebine yol açmasının ardından geldi; o dönemki CEO Tim Cook, Nisan ayında Mac mini ve Mac Studio arzındaki sorunu dile getirmişti. Temmuz kar çağrısında konuşulan tedarik konusuyla da bağlantılı bu gelişmeler, hesaplama kıtlığının somut bir yansıması olarak okunabiliyor.

Yazarlar, Minions’un gelecekteki çalışmalarda dağıtık model eğitimine genişletileceğini yazıyor. Daha genel bir çerçevede ise organizasyonlar arasında “hatta olası olarak küresel topluluk” düzeyinde güvenli biçimde federasyonla birleştirilebilen boştaki Mac’lerin paylaşımlı bir GPU havuzu oluşturabileceğini öne sürüyor; ancak şu an için bu Mac’ler yalnızca Apple içinde fazlalık kapasite olarak çalışıyor.