AI/ML támogató virtuális infrastruktúra

AI/ML TÁMOGATÓ VIRTUÁLIS INFRASTRUKTÚRA MAGYARORSZÁGON ELSŐKÉNT A 4iG INFORMATIKAI ZRT.-TŐL

A 4iGITInfrastruktúra Megoldásokcsapata Magyarországon elsőként helyezte üzembe aVMwaremesterségesintelligencia (AI)/gépitanulás (ML)rendszereket támogató megoldását, aBitfusion-t,amelyajárványügyihelyzet nagy számításikapacitástigénylő műveleteinekishatékony platformotnyújt.

A   vSphere   Bitfusion   alapú,   virtualizált   HPC   megoldásoknak az egészségügyi   szektorban   is kiemelt jelentőségük van hiszen támogatják az   innovatív   informatikai   rendszerek   hatékony futtatását és üzemeltetését.   Napjainkban egyre nagyobb   igény mutatkozik olyan rendszerek kiépítése   iránt, melyek hatékonyan tudják támogatni   a mesterséges   intelligencia és gépi   tanulás algoritmusait, platformjait. Számos felhasználási   terület mutatkozik, többek között a jelen világhelyzetben nagy aktualitással bíró orvostudományi   szakág, a virológia   is.   Azon cégek számára, akik a klasszikus virtualizációs alapokon szeretnének költséghatékony és dinamikus mesterséges intelligencia rendszereket megvalósítani, a 4iG IT a vSphere Bitfusion megoldást javasolja földi környezetben, amely versenyképes alternatívája lehet a hagyományos HPC (High Performance Computing) megoldásoknak.

MIÉRT FONTOS AZ AI/ML?

Amióta léteznek számítógépek, az   intelligens döntéseket hozó, mesterséges gépek jelentik az   informatika „Szent Grálját”. Napjaink új és   izgalmas szoftvertechnológiáinak, a mesterséges   intelligenciának (AI) és a gépi   tanulásnak (ML) köszönhetően olyan távlatok nyíltak meg az adatfeldolgozásban, melyek néhány éve még sci-fi-be   illőnek tűntek. Ennek apropóján és az új kihívásokra készülve 2019. augusztusában a   VMware   felvásárolta a   Bitfusion   startup-ot, mely úttörő szerepet töltött be az   AI   és ML munkafolyamatok hardveres gyorsításában.

De mi   is az a   Bitfusion? Hogyan teszi   lehetővé a vállalatok számára, hogy teljes mértékben kihasználják a hardveres gyorsítás előnyeit a környezetükben?   Integrálható a megoldás a hagyományos   virtualizációs   és a modern,   konténerizációs   környezetekkel egyaránt? Miért van szükség grafikus processzor (GPU) alapú gyorsító platformra, és miért kihívás ezek használata   virtualizált   adaközponti   rendszerekben?

A gépi   tanulás   (ML)   a   mesterséges   intelligencia napjainkban leginkább használt részterülete. A   különböző gépi   tanulási   algoritmusok, például   neurális hálózatok   nagyfokú hatékonysággal dolgozzák fel a vállalati   adathalmazt, és akár öntanuló módon folyamatosan fejlesztik   is magukat.   A gépi   tanulás   jelentős   innovációt   alapozhat meg   az érintett   üzleti   funkcióknál   és folyamatoknál. Lehetővé teszi, hogy a vállalatok   és állami   intézmények   nagyobb hatékonysággal, pontossággal, eredményességgel és agilitással működjenek.   Az   AI   és az ML egyik kihívása, hogy hatalmas mennyiségű számítási   teljesítményre van szükségük   ahhoz, hogy elemezzék és modellezzék a technológia által biztosított „intelligencia” létrehozásához szükséges adatokat. A   legmodernebb és számos esetben leghatékonyabb mesterséges   intelligencia algoritmusok esetében – mint például a Deep   Learning   - a   hagyományos x86 alapú processzorok már nehezen birkóznak meg azzal, hogy megfeleljenek ezen követelményeinek.

Az   AI   és az ML paradigmaváltása a grafikus feldolgozó egységek (GPU) használatában rejlik. A modern GPU-k rendkívül nagy teljesítményűek, az   AI   és ML adatfeldolgozáshoz szükséges számításokat a processzoroknál lényegesen hatékonyabban és gyorsabban végzik   el.   A   vSphere   Bitfusion   lehetővé teszi   a hardveres gyorsítók, például a GPU-k   virtualizálását, közös erőforráshalmazba szervezését és hálózaton történő publikálását.

Bizonyos esetekben   – akár   törvényi   szabályozási   vagy   IT biztonsági   megfontolásból -   nem adatik meg az a lehetőség, hogy   nyilvános   felhő alapú   infrastruktúrában oldjuk meg az   AI/ML rendszerek támasztotta   igényeket. Ekkor szükségszerűen a földi   környezetben kell biztosítanunk a megfelelő architektúrát. Erre   is   választ   ad   a   VMware   Bitfusion.

MI AZ A BITFUSION?

A   VMware   vSphere   Bitfusion   egy   olyan   szoftverréteg/szervertechnológia, amely   virtualizációs   képességeket biztosít   az alkalmazások mögötti   a felhasználói   rétegben,   segítve   az   AI/ML   infrastruktúra optimalizációját.

Ezen alkalmazások sajátossága, hogy   változatos, nehezen követhető   igényeket támasztanak   a háttérrendszerekre vonatkozóan, a fejlesztés/teszt és éles   rendszer erőforrásigénye az aktuális folyamatok/fejlesztési   fázisok során   dinamikusan változik. A   felhasználat   teljesítmény   robbanásszerű   is lehet.   Nagy adatmodelleken,   adathalmazokon vegyesen történik   interaktív, kötegelt (batch) feldolgozás.   Az   ilyen dinamikusan változó, magas számításigényű feladatokkal kapcsolatosan előkerülő hardver   szűk   keresztmetszeteinek, a   bekerülési   költéségek   optimalizálására   a   Bitfusion   egy dinamikusan fejlődő   kliens/szerver modell   alapú   megoldás   lehet,   amely a meglévő   VMware   és   AI/ML   infrastruktúra módosítása nélkül,   egyszerűen bevezethető.   A   VMware   vCenter   instance-onként   egy   Bitfusion   cluster   kialakításával a rendelkezésre álló GPU kapacitások   dinamikusan, összefűzve vagy akár kisebb részekre szabdalva kioszthatók a BI   szakemberek részére.   A   Bitfusion   egy CUDA alkalmazás, amely   az NVIDIA   CUDA API-ja segítségével   lehetővé teszi   a programozók számára a GPU-gyorsítás elérését/használatát.

A   Bitfusion   szerver egy virtuális   appliance-ként kerül telepítésre, majd   DirectPath   I/O-n keresztül kapcsolódik a   vSphere   ESXi   hostban   lévő GPU(k)-hoz.   Az első   Bitfusion   szerver   importálása   során a   Bitfusion   plugin   telepítése   is megtörténik a   vCenterbe, a későbbiekben ezen keresztül   felügyelhető a rendszer.   A rendszerhez   a   Linux   alapú   kliensek, amelyek   lehetnek virtuális gépek vagy konténerek,   hálózaton keresztül kapcsolódnak.   A GPU foglalás a kiadott feladat elvégzése   vagy bizonyos, központilag állítható   holtidő (idle   time) után   felszabadul és   újra kiadhatóvá válik   más folyamatok, felhasználók számára.

MIÉRT A 4iG INFORMATIKAI ZRT.?

A 4iG IT rendszerintegrációs csapata a beolvadt leányvállalatokkal együttesen több évtizedes tapasztalattal rendelkezik hagyományos és innovatív, következő-generációs infrastruktúra platformok szállításában, bevezetésében. Fejlesztői csapatainkkal együttműködve kiemelt támogatást nyújtunk a komplex adat- és alkalmazás futtatási környezetekhez egyaránt.

A 4iG IT Magyarországon elsőként vezetett be Bitfusion alapú környezetet AI/ML rendszer támogatására. A rendszer felépítése során szoros együttműködésben ügyfelünkkel végeztük a tervezést és kialakítást, annak érdekében, hogy a megvalósított infrastruktúra a lehető legnagyobb mértékben támogassa az AI/ML rendszereket.

Mivel napjaink digitalizációs trendjei alapján a fő szerep az ADAT-é, biztosítani kell számára a megfelelő feldolgozási környezetet. Így hatékonyan értelmezhető, cselekvésre fordítható információvá transzformálhatjuk a nyers adatokat. Ezt tudja biztosítani szakértelmével a partnerei számára a 4iG IT.


Hardware Acceleration with Bitfusion | VMware