Ana sayfa › Forumlar › Eski Mikro Odalar Arşivi › Windows Performans & Gecikme (Latency) İnce Ayarları › Sunucuda JVM uygulaması ayağa kalkınca ilk başta çoooook yavaşlıyor, warmup canımı sıktı. AOT’a geçsem mi yoksa JIT ayarlarıyla mı boğuşayım?
- Bu konu 1 yanıt içerir, 2 izleyen vardır ve en son 3 gün 19 saat önce
PsuSesYapiyor Erdoğan tarafından güncellenmiştir.
-
YazarYazılar
-
12 Kasım 2026: 05:05 #81580
IsmailAKatılımcıArkadaşlar bir şey danışacağım, bir süredir takılıyorum çözemedim.
Backend’de Java ile bir mikro servis çalıştırıyorum, load testine tutunca ilginç bir şey fark ettim: Uygulamayı başlatırım başlatmağ ilk birkaç saniye (hatta ilk birkaç bin istek) response time’ım full throttle’a çıkıyor, sonra yavaş yavaş stabilize oluyor. Netbeans/VisualVM’ye bakınca JIT’in metodları compile etmesiyle ilişkilendirsem de asıl can sıkan startup süresi. Uzun süre process açık kalsın istemiyorum, autoscaling yapınca her scale-up’ta sıfırdan warmup çekiyor, bu da p99 latency’imi feci şekilde şişiriyor.
Üstelik GraalVM native-image ile AOT derlemeye yöneldim ama ilk denememde cache miss oranlarının değiştiğini, bazı hot path’lerin native derlemede beklediğimden kötü behave ettiğini gördüm. JIT’in yaptığı speculative optimization’ları AOT’ta alamıyorum sanırım. Bu işin mantığını tam oturtamadım, siz nasıl yönetiyorsunuz bu durumu? Warmup’ı atlatmanın bir yolu var mı yoksa AOT zorunluluk mı oldu sizin yerinizde?
"ping -c 4 1.1.1.1 | 4 packets transmitted, 0% packet loss, time 28ms"14 Kasım 2026: 12:39 #82364
PsuSesYapiyor ErdoğanKatılımcıReis bak, çok klasik bir JVM travması, başlangıçta herkes takılır. O ‘yavaşlayıp sonra stabilize olma’ dediğin şey aslında JIT’in klasik davranışı: Metotlar ilk çağrıldığında interpreter modunda çalışır, sonra Counter Surpassing Threshold’ü (varsayılan ~10.000) geçince C1 ile compile eder, sıcaklık artınca C2 full optimize derlemeye geçer. Yani senin p99’u şişiren tam olarak bu warmup eğrisi. Scale-up her yaptığında bu acıyı yeniden yaşıyorsun, haklısın.
İki yol var, ikisinin de faturası farklı:
Önce AOT’a geçmeden önce şunu netleştir: GraalVM native derlemede speculative optimization’ların çoğu çalışmaz çünkü runtime’da o refleksiyon/ dinamik subclass bilgilerine erişem.
İşte asıl mesele burada: Hot path’lerin native derlemede kötü performans göstermesinin sebebi bu. JIT, metot çağrıldığında gerçek tipleri görüp devirtualize edip inlining yapabiliyor, AOT’ta ise bunu erken karar verip branch’lemeye çalışırsın ya da genelleştirip yavaş kalarsın. GraalVM’de buna ve dynamic proxy config’leriyle müdahale etmen lazım, yoksa o hot path’ler hep virtual call olarak takılır.
Startup’ı atlatmanın AOT’suz tek gerçek yolu da aslında native-image. JIT tarafında warmup’ı ezebileceğin tek şey Premain’de metotları zorla compile ettirmek (Compiler.makeCompile() ile) ya da Runtime.initializeClass, ama bu da ancak C1 seviyesinde yardımcı olur, C2’nin full optimize derlemesini alamazsın, o yüzden p99 yine düşmez, sadece ilk spike daralır. Yani startup’ta kazanıp runtime’da kaybedersin, genelde değmez.
Benim önerim, maliyet-fayda oranı en iyi olan: Uygulamanın hot path’lerini profille (async-profiler ile JIT log’u + CPU flame graph), C2 compile olmadan patlayan metotları tespit et. Bazı servislerde async IO ağırlıklıysa, JVM’ye -XX:+TieredCompilation + -XX:TieredStopAtLevel=1 verip sadece C1 ile çalıştırıp warmup maliyetini düşürmek bile yeterli oluyor, native derlemenin o kadar da lazım kalmıyor. Gerçekten startup süresi krititse, mesela 200ms’nin altına inmek zorundaysan o zaman native-image mantıklı, ama config emeğini göze al.
Bunları bir dene, flame graph’ları paylaşır mısın? Hangi metotları patlatıyor görmek lazım, çoğu zaman sorunu tek bir reflective çağrı kurtarıyor.
"Raspberry Pi 4 8GB (Pi-hole + WireGuard + Unbound DNS) | Synology DS220+ 2x4TB" -
YazarYazılar
- Bu konuyu yanıtlamak için giriş yapmış olmalısınız.
