Intel Xeon 6 donosi do 17 puta bolje performanse u AI u odnosu na rezultate MLPerf-a
Intel Xeon pruža odlična rješenja za AI inferenciju, uključujući klasično učenje mašine i pretraživanje vektora.
Nedavno je MLCommons objavio rezultate svog industrijskog standarda za mjerne performanse AI, MLPerf Inference v4.1. Intel je dostavio rezultate za šest MLPerf benchmark testova koristeći 5. generaciju Intel® Xeon® Scalable procesora i, po prvi put, Intel® Xeon® 6 procesore sa Performance-cores (P-cores). Intel Xeon 6 procesori sa P-cores su postigli otprilike 1,9 puta bolje performanse u AI-u u poređenju sa 5. generacijom Xeon procesora.
Sa MLPerf Inference v4.1, Intel je predstavio rezultate za 5. generaciju Intel Xeon procesora i Xeon 6 procesore sa P-Cores na testovima ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 i GPT-J. U poređenju sa 5. generacijom Intel Xeon procesora, Xeon 6 pruža u prosjeku oko 1,9 puta bolje performanse u AI inferenciji preko ovih šest benchmark testova. Intel ostaje jedini proizvođač server procesora koji dostavlja CPU rezultate za MLPerf.
Tokom protekle četiri godine, Intel je postigao značajne napretke u AI performansama sa CPU-ima otkako je prvi put dostavio MLPerf rezultate. U poređenju sa 3. generacijom Intel® Xeon® Scalable procesora iz 2021. godine, Xeon 6 pruža do 17 puta bolje performanse u obradi prirodnog jezika (BERT) i do 15 puta bolje u obradi računarske vizije (ResNet50). Intel nastavlja da ulaže u AI za svoj CPU plan razvoja. Na primjer, nastavlja sa inovacijama kroz Intel® Advanced Matrix Extensions (AMX) uz nove tipove podataka i povećanu efikasnost.
Najnoviji MLCommons benchmark testovi ističu kako Xeon procesori pružaju snažna CPU AI server rješenja originalnim proizvođačima opreme (OEM). Kako potreba za AI obradom raste i mnogi kupci koriste AI radne zadatke zajedno sa svojim poslovnim radnim zadacima, OEM-ovi prioritetizuju MLPerf dostave kako bi osigurali da nude visoko performantne Xeon sisteme optimizovane za AI radne zadatke kupcima.
Intel je podržao pet OEM partnera – Cisco, Dell Technologies, HPE, Quanta i Supermicro – u njihovim MLPerf dostavama u ovom krugu. Svaki kupac je dostavio MLPerf rezultate sa 5. generacijom Xeon Scalable procesora, pokazujući podršku svojih sistema za različite AI radne zadatke i implementacije.
Talk to ASBIS Experts to get more on this