Intel AI Platforms ubrzavaju Microsoft Phi-3 GenAI modele

Intel je validirao i optimizovao svoj portfolio AI proizvoda širom klijenta, edge i data centra za nekoliko Microsoftovih Phi-3 modela otvorenih tipova. Phi-3 porodica malih, otvorenih modela može se pokretati na hardveru nižeg računanja, lakše se prilagođavati specifičnim zahtjevima i omogućavati programerima izgradnju aplikacija koje se izvršavaju lokalno. Intelovi podržani proizvodi uključuju Intel® Gaudi® AI ubrzivače i Intel® Xeon® procesore za aplikacije u data centru, te Intel® Core™ Ultra procesore i Intel® Arc™ grafiku za klijenta.

Kao dio svoje misije da dovede AI svuda, Intel kontinuirano investira u AI softverski ekosistem surađujući s vodećim AI liderima i inovatorima.

Intel je sarađivao s Microsoftom kako bi omogućio podršku za Phi-3 modele za svoje centralne procesorske jedinice (CPU), grafičke procesorske jedinice (GPU) i Intel Gaudi ubrzivače na dan lansiranja. Intel je također suosmislio apstrakciju ubrzanja u DeepSpeedu, što je jednostavan softverski paket za optimizaciju dubokog učenja, i proširio podršku za automatsku tenzorsku paralelnost za Phi-3 i druge modele na Hugging Face platformi.

Veličina Phi-3 modela dobro odgovara za korištenje inferencije na uređaju i omogućava razvoj lakih modela poput fino podešavanja ili prilagodbe na AI računarima. Intelov klijentski hardver ubrzan je kroz sveobuhvatne softverske okvire i alate, uključujući PyTorch i Intel® Extension za PyTorch koji se koristi za lokalno istraživanje i razvoj te OpenVINO™ Toolkit za implementaciju i inferenciju modela.

Intel se obvezuje zadovoljiti potrebe za generativnim AI svojih korporativnih klijenata i nastavit će podržavati i optimizirati softver za Phi-3 i druge vodeće najsavremenije jezične modele.