Pengujian MSI High-Efficiency Mode: Maksimalkan Kinerja AI LLM Lokal
Motherboards
Daya komputasi pada platform AI menjadi semakin penting. Meskipun meningkatkan perangkat keras memberikan peningkatan kinerja AI yang nyata, hal ini bisa mahal. Untuk menemukan alternatif yang lebih hemat biaya, kami melakukan tes benchmark langsung: dengan hanya menyetel High-Efficiency Mode—salah satu opsi overclocking memori bawaan dalam MSI BIOS—pengguna dapat mengoptimalkan kinerja memori DDR5 dan secara signifikan mempercepat kinerja Model Bahasa Besar (LLM) tanpa membeli perangkat keras tambahan.
Pengujian pada Platform AMD & Intel: Token/s yang Lebih Tinggi dan Latensi yang Lebih Rendah
Hasil brenchmark menunjukkan bahwa dengan menggunakan prosesor AMD Ryzen™ 9 9950X3D2, melakukan overclocking memori DDR5 hingga 8000 MT/detik dan mengaktifkan High-Efficiency Mode secara signifikan meningkatkan kinerja operasional AI hingga 32%.
Tingkat Pengolahan (Token/detik): Kami menguji berbagai graphic card pada berbagai mode overclocking untuk mengukur perbedaan dalam bentuk token (unit teks terkecil yang diproses oleh AI) yang dihasilkan per detik; nilai yang lebih tinggi menunjukkan kecepatan generasi AI yang lebih cepat.
Dibandingkan dengan pengaturan default, overclocking RAM hingga 8000 MT/detik pada RTX 5080 16G dan RTX 5070 12G meningkatkan performa sebesar 21,4%; mengaktifkan High-Efficiency Mode lebih meningkatkan performa hingga 32%. Untuk RTX 5070 Ti 16G, performa meningkat sebesar 17,6% setelah overclocking hingga 8000 MT/detik, dan mengalami peningkatan yang sama setelah High-Efficiency Mode diaktifkan, menghasilkan peningkatan keseluruhan 26,8%.
TTFT (Time to First Token): Mengukur durasi antara waktu mengirimkan prompt dan waktu menghasilkan token pertama—di mana durasi yang lebih pendek menunjukkan efisiensi generasi AI yang lebih tinggi—, overclocking hingga 8000 MT/detik dan mengaktifkan High-Efficiency Mode secara efektif mengurangi waktu tunggu. Pada kecepatan overclock 8000 MT/s, waktu tunggu RTX 5080 16G berkurang 6,3%. Dengan High-Efficiency Mode, latensi responsnya makin rendah 12,7% dibanding setelan default, dan RTX 5060 Ti 16G mengalami penurunan paling signifikan hingga 14,5%.
Pada platform Intel menggunakan prosesor Intel Core Ultra 7 270K Plus, peningkatan performa dari mengaktifkan High-Efficiency Mode bahkan lebih menonjol yaitu memberikan peningkatan hingga 43%.
Peningkatan kinerja (Token/detik): Overclocking hingga 8000 MT/detik meningkatkan performa masing-masing pada RTX 5080 16G dan RTX 5070 Ti 16G sebesar 25,7% dan 24,9%; setelah mengaktifkan High-Efficiency Mode, Token/detik keduanya meningkat sebesar 43,5% dan 42,4% dibandingkan default standar. RTX 5070 12G, yang awalnya mendapatkan peningkatan 17,8% dari overclocking hingga 8000 MT/detik saja, melampaui peningkatan performa 30% setelah High-Efficiency Mode diaktifkan, menunjukkan bahwa High-Efficiency Mode memungkinkan potensi penuh sistem direalisasikan secara efektif.
TTFT (Waktu hingga Token Pertama):
Semua GPU yang diuji mengalami pengurangan latensi kurang dari 10% dengan overclock memori 8000 MT/detik saja. Menggabungkan ini dengan High-Efficiency Mode lebih mengurangi TTFT secara keseluruhan: RTX 5070 12G menunjukkan hasil paling menonjol dengan pengurangan 15,9%, sementara RTX 5080 16G dan RTX 5070 Ti 16G juga memberikan peningkatan yang solid.
Setelah membangun PC, banyak pengguna mempertahankan konfigurasi BIOS standar. Meskipun pengaturan default cukup untuk tugas sehari-hari, penyesuaian sederhana dapat membuka performa yang belum tersentuh secara substansial. Melalui validasi internal yang ekstensif, MSI menyediakan preset BIOS yang disederhanakan yang memungkinkan pengguna untuk menyetel profil memori dengan mudah sambil mempertahankan stabilitas sistem.
Jika Anda ingin mempercepat beban kerja AI dan LLM lokal Anda, mengaktifkan MSI High-Efficiency Mode adalah optimasi nol-biaya yang efektif yang tersedia hanya dengan beberapa klik di BIOS.
Metodologi dan Konfigurasi Pengujian
- Muat model LLM (Gemma 4 26B A4B) melalui LM Studio; panjang konteks = 8192, GPU offload = default (RTX 5090 = 30, lainnya = 19).
- Prompt: Berikan URL blog dan minta ringkasan.
- Konfigurasikan tiga profil uji: (1) Pengaturan default (RAM: 4800 MT/s). (2) Overclock RAM ke 8000 MT/s. (3) Overclock RAM ke 8000 MT/s + High-Efficiency Mode (platform AMD diatur ke mode Tighter).
- Rekam TPS (Token/s) dan TTFT (Waktu hingga Token Pertama) yang dilaporkan oleh LM Studio.
CPU: AMD – Ryzen 9 9950X3D2 / Intel – Core Ultra 7 270K Plus
Motherboard: AMD - MEG X870E ACE MAX / Intel – MEG Z890 ACE
System DRAM: ADATA 24GB x2 DDR5
GPU:
MSI GeForce RTX™ 5090 32G SUPRIM SOC
MSI GeForce RTX™ 5080 16G Gaming Trio OC
MSI GeForce RTX™ 5070 TI 16G Inspire 3X OC
MSI GeForce RTX™ 5070 12G Shadow 3X OC
MSI GeForce RTX™ 5060 TI 16G Shadow 2X OC PLUS
Motherboard: AMD - MEG X870E ACE MAX / Intel – MEG Z890 ACE
System DRAM: ADATA 24GB x2 DDR5
GPU:
MSI GeForce RTX™ 5090 32G SUPRIM SOC
MSI GeForce RTX™ 5080 16G Gaming Trio OC
MSI GeForce RTX™ 5070 TI 16G Inspire 3X OC
MSI GeForce RTX™ 5070 12G Shadow 3X OC
MSI GeForce RTX™ 5060 TI 16G Shadow 2X OC PLUS
Cara Mengaktifkan High-Efficiency Mode di BIOS MSI
Pada Platform AMD:
- Tekan tombol Del terus menerus selama startup sistem untuk masuk ke tampilan BIOS.
- Alihkan ke Mode Lanjutan (F7) dan navigasi ke menu OC.
- Verifikasi bahwa EXPO atau A-XMP diaktifkan.
- Temukan High-Efficiency Mode dan atur statusnya ke Diaktifkan.
- Opsi Preset Timing Memori akan muncul di bawah, memungkinkan Anda untuk memilih preset: Relax, Balance, Tighter, atau Tightest. Data benchmark dalam artikel ini diuji menggunakan mode Tighter.
Pada Platform Intel:
- Tekan tombol Del terus menerus selama startup sistem untuk masuk ke tampilan BIOS.
- Alihkan ke Mode Lanjutan (F7) dan navigasi ke menu OC.
- Verifikasi bahwa XMP diaktifkan.
- Temukan Mode Ekstensi Memori, dan pilih High-Efficiency Mode.
