Umjetna inteligencija mijenja data centre: od biblioteka informacija do fabrika inteligencije
Kako AI sistemi postaju sve složeniji i skuplji, precizno planiranje infrastrukture i temeljita validacija projekata postaju sve važniji. Troškovi grešaka u projektovanju, kao i njihovo ispravljanje nakon implementacije, mogu biti veoma visoki. Upravo zato ASBIS kontinuirano ulaže u edukaciju zaposlenihi razvoj stručnih kompetencija u svim segmentima AI infrastrukture, objedinjujući dubinsko poznavanje NVIDIA tehnologija s praktičnim iskustvom u implementaciji sistema zasnovanih na Supermicro opremi.
Umjetna inteligencija postaje strateški prioritet za organizacije koje se pripremaju za narednu fazu automatizacije. Većina velikih kompanija svrstava autonomnu umjetnu inteligenciju (agentic AI) međutri najvažnija AI prioriteta, pri čemu najveće organizacije posebno brzo napreduju u njenom usvajanju. Ova promjena donosi i nove infrastrukturne izazove.
Tradicionalni data centri projektovani su za pohranu, pronalaženje i isporuku informacija.Produkcijska primjena umjetne inteligencije zahtijeva nešto suštinski drugačije: platformu osmišljenu za pretvaranje podataka, računarskih kapaciteta i električne energije u generisanu inteligencijuna industrijskom nivou.
Tradicionalni data centar projektovan je kao biblioteka
Decenijama su poslovni data centri funkcionisali poput digitalnih biblioteka. Njihova osnovna funkcija bila je pohranjivanje informacija i njihova isporuka na zahtjev, uz podršku radnim opterećenjima kao što su webservisi, elektronska pošta, transakcijski sistemi, ERP upiti i baze podataka.
AI fabrika ima drugačiju misiju
AI fabrika ne služi samo za čuvanje i distribuciju postojećih informacija. Njena svrha je generisanje nove inteligencije, pri čemu tokeni predstavljaju mjerljivu jedinicu generisanog rezultata.
Ovakav pristup mijenja gotovo svaki segment arhitekture data centra:
– Računarska snaga (Compute): Grafički procesori (GPU) i drugi akceleratori izvršavaju masovno paralelne operacije, dok centralni procesori (CPU) preuzimaju ulogu orkestracije, umjesto da budu glavni mehanizam za obradu podataka.
– Memorija (Memory): Potrebni su memorija velikog propusnog opsega (HBM) i brza međusobna veza između GPU-ova kako bi se omogućio prijenos velikih količina podataka bez čekanja akceleratora.
– Mrežna infrastruktura (Networking): Mrežne arhitekture bez gubitka paketa (lossless) i blokiranja saobraćaja (non-blocking) omogućavaju intenzivan promet podataka između sistema, akceleratora i sistema za pohranu podataka.
– Hlađenje (Cooling): Veća gustoća opreme u serverskim ormarima (rack) zahtijeva optimizovane sisteme zračnog hlađenja ili direktno tečno hlađenje.
– Pohrana podataka (Storage): Sistemi za pohranu moraju se projektovati zajedno s računarskom platformom kako bi podaci bili dostupni brzinom potrebnom za produkcijski rad.
– Softver (Software): Upravljački programi (driveri), CUDA biblioteke, AI okviri (frameworks), alati za orkestraciju i nadzor te softver za posluživanje AI inferencije postaju sastavni dio same infrastrukture.
Tri problema mogu ugroziti poslovnu isplativost AI infrastrukture
Efikasna AI fabrika mora osigurati kontinuirano snabdijevanje skupih akceleratora podacima, efikasnu raspodjelu radnih opterećenja, odvođenje velikih količina toplote, upravljanje promjenjivim potrebama za električnom energijom te održavanje softverskog okruženja koje omogućava pouzdano izvršavanje produkcijskih servisa.
Ako je samo jedan dio ovog sistema pogrešno projektovan, performanse i ekonomska isplativost cijele platforme mogu značajno opasti.
1. Nedovoljno iskorištena infrastruktura
Akceleratori mogu ostati neaktivni kada mrežna infrastruktura ili sistemi za pohranu podataka ne mogu dovoljno brzo isporučivati podatke. Organizacije tako mogu uložiti značajna sredstva u kapacitete akceleratora, a da pritom ne ostvare očekivani nivo produktivnih računarskih performansi.
2. Nekontrolisani rast operativnih troškova
AI infrastruktura generiše znatno veće gustoće potrošnje električne energije i toplotnog opterećenja u odnosu na konvencionalne poslovne sisteme. Tradicionalni serverski ormari s klasičnim zračnim hlađenjem rade na opterećenjima od 10 do 20 kW, dok AI serverski ormari mogu premašiti 100 kW.
3. Izostanak očekivanog povrata investicije (ROI)
Kašnjenja u implementaciji mogu spriječiti ostvarivanje očekivanih koristi u razvoju softvera, korisničkoj podršci i drugim poslovnim procesima.
Prema navedenim podacima, čak 80% AI projekata ne uspijeva, pri čemu se integracija po principu „uradisam“ (DIY) izdvaja kao dominantan uzrok neuspjeha.
NVIDIA pruža osnovni model arhitekture
Doprinos kompanije NVIDIA konceptu AI fabrike obuhvata ubrzano računarstvo, AI mrežnu infrastrukturu, poslovni softver i referentne arhitekture.
Njene tehnologije pružaju računarske, komunikacijske i softverske temelje potrebne za funkcionisanje AI okruženja, od samih čipova pa sve do isporuke rezultata AI inferencije.
Supermicro pretvara arhitekturu u sistem spreman za implementaciju
Uloga kompanije Supermicro jeste da odabranu platformu i referentnu arhitekturu pretvori u serverski rack ili klaster prilagođen specifičnim zahtjevima lokacije na kojoj će biti implementiran.
Njihov pristup, poznat kao Data Center Building Block Solutions, obuhvata odabir sistema optimizovanih za određena radna opterećenja, integraciju serverske opreme u rack ormare, opcije tečnog hlađenja, fabričko testiranje i validaciju, puštanje sistema u rad na lokaciji korisnika te kontinuirano servisiranje i tehničku podršku.
Kako ASBIS može pomoći
Izgradnja AI fabrike zahtijeva mnogo više od samog odabira i kupovine GPU-ova. Svaki infrastrukturni segment mora biti projektovan u skladu s konkretnim radnim opterećenjima i funkcionisati kao dio jedinstvenog, usklađenog sistema. ASBIS može pomoći u pretvaranju AI zahtjeva u cjelovit infrastrukturni plan, objedinjujući odgovarajuću računarsku platformu, mrežnu infrastrukturu, sisteme za pohranu podataka visokih performansi, arhitekturu hlađenja i softversko okruženje. Ova podrška obuhvata ključne odluke koje određuju hoće li AI okruženje ostvariti očekivane performanse i željeni povrat investicije (ROI):
- Odabir GPU platforme
- Projektovanje mrežne povezanosti
- Osiguravanje odgovarajućih kapaciteta za pohranu podataka
- Odabir između direktnog tečnog hlađenja i optimizovanih konfiguracija sa zračnim hlađenjem
- Usklađivanje softvera za orkestraciju i posluživanje AI modela
- Planiranje kontinuirane tehničke podrške
Pristupajući AI fabrici kao integrisanoj platformi, a ne kao skupu pojedinačnih komponenti, ASBIS pomaže u smanjenju rizika tokom integracije, izbjegavanju infrastrukturnih uskih grla i stvaranju jasnijeg puta od početnog projektovanja do produkcijske primjene umjetne inteligencije.