Intel postigao prvi i jedini puni NPU rezultat u MLPerf Client v0.6 testiranju
Rezultati pokazuju da procesori Intel Core Ultra Series 2 nude neviđene performanse za AI obradu na CPU-u, GPU-u i NPU-u.
Intel je objavio da je jedina kompanija koja je postigla potpunu podršku za neuronsku procesorsku jedinicu (NPU) u novoobjavljenom MLPerf Client v0.6 benchmark testiranju. Ovaj rezultat predstavlja prvo standardizovano industrijsko mjerenje performansi velikih jezičkih modela (LLM) na klijentskim NPU-ima. Intelovi rezultati iz MLPerf Client v0.6 pokazuju da procesori Intel® Core™ Ultra Series 2 mogu generisati izlaz i na grafičkoj (GPU) i neuronskoj (NPU) jedinici brže nego što čovjek može da pročita.
“Ponosni smo što predvodimo industriju omogućavanjem pune NPU akceleracije i vodećih GPU performansi za AI zadatke na klijentskim PC platformama. Ovaj uspjeh odražava duboku hardversko-softversku optimizaciju u Intelu i našu posvećenost demokratizaciji AI-ja za sve korisnike PC-ja.” – Daniel Rogers, potpredsjednik i generalni menadžer marketinga PC proizvoda u Intelu
Zašto je ovo važno
S procesorima Intel Core Ultra Series 2, Intel se nalazi na čelu AI PC revolucije, nudeći neviđene performanse za AI obradu kroz CPU, GPU i NPU.
MLPerf Client v0.6 mjeri četiri slučaja upotrebe za generisanje i sažimanje sadržaja koristeći Llama 2 7B model. Intel je pokazao vodeće performanse na NPU-u i integrisanoj Intel® Arc™ grafici.
Intel je postigao najbrže vrijeme odziva na NPU-u – generisanje prve riječi za samo 1,09 sekundi (latencija prvog tokena), što znači da počinje da odgovara gotovo odmah nakon što primi upit. Takođe, postigao je najviši NPU protok od 18,55 tokena u sekundi, što pokazuje koliko brzo sistem može da generiše dodatni tekst, omogućavajući besprijekornu interakciju s AI-em u stvarnom vremenu. U poređenju s konkurencijom, Intel je takođe pokazao lidersku poziciju na GPU-u u brzini do prvog tokena, počevši brže i dodatno potvrđujući svoju prednost u AI ubrzanju putem NPU-a i GPU-a.
O NPU testiranju na MLPerf
MLPerf Client v0.6 razvijen je u saradnji sa članicama MLCommons konzorcijuma — uključujući Intel, AMD, Microsoft, Nvidiju i Qualcomm — i proširuje testiranje s fokusom na GPU i na specijalizovano testiranje NPU performansi.
Zahvaljujući bliskoj saradnji između Intelovih timova za NPU hardver i OpenVINO™ softver, Intel Core Ultra procesori ostaju jedini koji su postigli punu NPU usklađenost u finalnom benchmark testiranju.
Konfiguracije testiranja
| Specifikacija | AMD | Intel |
|---|---|---|
| Platforma | ASUS Zenbook S 16 | ASUS Zenbook S 14 |
| Model | UM5606WA | UX5406SA |
| CPU | AMD Ryzen AI HX 370 | Intel® Core™ Ultra 9 288V |
| BIOS datum | 21. mart 2025 | 26. februar 2025 |
| BIOS verzija | UM5606WA.317 | UX5406SA.306 |
| RAM | 32GB LPDDR5, 7500 MHz | 32GB LPDDR5, 8533 MHz |
| Grafika | AMD Radeon 890M | Intel Arc 140V |
| Skladište | 1TB | 1TB |
| Operativni sistem | Windows 11 Pro x64 | Windows 11 Pro x64 |
| Napajanje | AC | AC |
| Energetski režim | Balanced / FullSpeed (myASUS) | Balanced / FullSpeed (myASUS) |
Svi podaci su izmjereni zaključno s 28. aprilom 2025. Detalje o opterećenju i konfiguracijama pogledajte u press materijalu.
Napomene i odricanja odgovornosti
Performanse variraju u zavisnosti od upotrebe, konfiguracije i drugih faktora. Više informacija na intel.com/performanceindex. Rezultati testiranja odnose se na vrijeme prikazano u konfiguracijama i ne moraju odražavati sve javno dostupne nadogradnje. Nijedan proizvod ili komponenta ne može biti apsolutno sigurna. Vaši rezultati i troškovi mogu varirati.