401 6 JVM 內部機制：AI 工作負載的 GC 調校與記憶體優化 by Jiayun Zhou

本次講座主要探討在 AI 時代，應用程式執行方式的不同以及所面臨的挑戰。講者深入分析了新一代 GC 演算法的改進，包括分代 GC 的特性及其在 AI 應用中的優勢。此外，還介紹了如何操作 off-heap 記憶體，以及 JIT 編譯器對 AI 相關工作的優化。講座中也提及了壓縮指標的原理與應用限制，並探討了如何通過使用 Memory Segment 等新 API，以及 Chronicle Map 等工具，將部分資料移至 heap 之外，以優化記憶體管理和提升效能。最後，講者也簡要介紹了向量處理指令集在 AI 運算中的應用，以及 Vector API 的最新進展。