
Dron, ktorý počas letu rozpoznáva objekty, alebo senzor, ktorý zachytí náhle zhoršenie kvality vzduchu v budove, nemôže dlho čakať na odpoveď zo vzdialeného dátového centra. Európsky projekt AC3 vyvinul platformu, v ktorej sama umelá inteligencia rozhoduje, kde má každá úloha bežať: v cloude, alebo na blízkom serveri. Prečítaj si, ako to funguje a čo platforma dosiahla v testoch – a na konci si v krátkom teste over, koľko ti zostalo v pamäti.
Okolo nás pribúda zariadení, ktoré zbierajú dáta: kamery, senzory v budovách, drony, laboratórne prístroje. Najjednoduchším riešením je posielať všetko do veľkého dátového centra s obrovským výpočtovým výkonom. Problém je v tom, že cesta tam a späť trvá. Keď dron potrebuje rozpoznať objekt v reálnom čase alebo senzor zachytí náhlu zmenu kvality vzduchu, čakanie, kým dáta docestujú do vzdialeného dátového centra, môže reakciu spomaliť.
Spracovanie informácií bližšie k miestu, kde vznikajú, môže výpočty zrýchliť a obmedziť zbytočné prenosy dát. Háčik je však v tom, že niekto musí zakaždým rozhodnúť, kde má konkrétna úloha bežať. Je to zložitá výzva, pretože podmienky sa neustále menia: záťaž stúpa a klesá, kvalita pripojenia kolíše a zariadenia majú rôzny výkon.
Tohto problému sa ujal projekt AC3 financovaný z EÚ. Jeho tím vyvinul platformu, ktorá pomocou umelej inteligencie a strojového učenia riadi výpočtové zdroje v cloudových dátových centrách aj na blízkych okrajových serveroch a prispôsobuje sa meniacej sa záťaži a podmienkam. Koordinátor projektu Christos Verikoukis z Athena Research Centre v Grécku vysvetľuje: „Vďaka spracovaniu dát blízko miesta, kde vznikajú, platforma AC3 znižuje komunikačné oneskorenia a preťaženie siete, takže systém môže rýchlejšie reagovať na meniace sa podmienky.“
Aby sme pochopili, čo AC3 robí, oplatí sa rozlíšiť dve miesta, kde môžu programy bežať. V praxi cloud znamená obrovské dátové centrá s tisíckami serverov, ku ktorým sa pripájame cez internet. Majú ohromný výkon, ale často sú stovky kilometrov od zariadenia, ktoré dáta posiela.
Pri edge computingu, teda výpočtoch na okraji siete, prebieha časť výpočtov na serveroch umiestnených blízko zdroja dát, napríklad v tej istej budove alebo na neďalekej stanici. Takéto servery majú menší výkon ako dátové centrum, ale odpovedajú rýchlejšie. Čas medzi odoslaním dát a prijatím odpovede informatici nazývajú latencia. V mnohých aplikáciách, od riadenia dronu po poplachy v budovách, toto oneskorenie rozhoduje o tom, či systém funguje dobre.
Moderné aplikácie sú len zriedka jedným veľkým programom. Častejšie sa skladajú z viacerých menších softvérových komponentov, ktorým sa hovorí mikroslužby. Každý z nich robí jednu vec, napríklad prijíma dáta zo senzora, analyzuje obraz alebo odosiela upozornenie, a každý môže bežať na inom mieste.
Platforma AC3 automatizuje rozhodovanie o tom, kde majú tieto komponenty bežať. Berie pritom do úvahy výpočtovú kapacitu, stav siete a spotrebu energie. Verikoukis vysvetľuje: „Hlavnou inováciou AC3 je využitie umelej inteligencie a strojového učenia na automatické rozhodovanie, kde a ako majú byť tieto komponenty nasadené a spravované.“ Strojové učenie je oblasť umelej inteligencie, v ktorej program nedostáva hotové pravidlá, ale učí sa ich z dát, napríklad z histórie zaťaženia serverov.
Tím platformu otestoval v troch scenároch, ktoré ukazujú, aké rozmanité môže mať využitie:
V inteligentnej budove to funguje takto: senzory zachytia náhle zhoršenie kvality vzduchu a platforma AC3 presunie spracovanie dát na blízky server. Systém tak môže rýchlejšie spustiť poplach alebo upraviť vetranie. Zároveň sa do vzdialeného dátového centra posiela menej dát, takže sieť je menej zaťažená.
Najnázornejšia ukážka sa týkala dronu. Rozpoznávanie objektov v obraze je úloha pre model umelej inteligencie a taký model potrebuje poriadny výpočtový výkon. Malý počítač na palube dronu to nie vždy zvládne, napríklad keď zároveň plní iné úlohy.
Ak dron nedokáže efektívne prevádzkovať model umelej inteligencie na rozpoznávanie objektov v reálnom čase, AC3 môže záťaž presunúť na blízky okrajový server. Keď bude mať dron opäť dosť kapacity, úloha sa môže vrátiť na palubu. Adlen Ksentini, technický manažér AC3 z EURECOM vo Francúzsku, to zhŕňa: „Táto inteligentná a plynulá migrácia zabezpečuje, že algoritmus na rozpoznávanie objektov naďalej funguje optimálne bez ohľadu na zmeny výpočtových zdrojov, ktoré má dron k dispozícii.“ Migrácia tu znamená presun bežiacej úlohy z jedného počítača na iný bez jej prerušenia.
Podobnú pružnosť tím využil pri astronomických dátach. Úlohy spracovania boli rozdelené medzi viac výpočtových zdrojov, takže prebiehali súbežne na niekoľkých strojoch namiesto na jedinom.
Zaujímavosť: rozdelením práce medzi viac výpočtových zdrojov skrátila platforma AC3 čas potrebný na spracovanie 5 GB astronomických dát najmenej o 50 % v porovnaní so samostatnými systémami. V testoch projektu si aplikácia navyše udržala 100-percentnú spoľahlivosť.
Dátové centrá spotrebúvajú veľa energie, preto nezáleží len na rýchlosti, ale aj na úsporách. Platforma AC3 dokáže na základe predpovedí dopytu po výpočtovom výkone a spotreby energie sústrediť záťaž na menší počet serverov. Nevyužité uzly, teda jednotlivé stroje v sieti, potom možno vypnúť a aplikácie pritom naďalej spĺňajú svoje požiadavky na výkon.
Niekoľko softvérových komponentov z projektu bolo zverejnených ako open source, takže ich kód si môže ktokoľvek prezrieť a ďalej rozvíjať. Niektoré nástroje boli tiež začlenené do zavedených ekosystémov Kubernetes a OpenShift. Sú to platformy, ktoré mnohé firmy používajú na správu aplikácií zložených z kontajnerov, teda zabalených častí softvéru pripravených na spustenie na ľubovoľnom serveri.
Z pohľadu firmy alebo inštitúcie prináša prístup AC3 niekoľko konkrétnych výhod:
Verikoukis a Ksentini priznávajú, že ďalšia výzva už nie je čisto technická. Cloudové služby a systémy na okraji siete často zostávajú oddelené a na ich prepojenie je potrebná tesnejšia integrácia a životaschopné obchodné modely. Inými slovami, niekto musí na takom riešení zarobiť a niekto iný zaň musí chcieť zaplatiť.
Projekt ukázal, že inteligentná koordinácia môže výpočty zrýchliť a zefektívniť. Ďalším krokom je pomôcť organizáciám využiť tieto možnosti v skutočných službách, od správy budov po analýzu vedeckých dát.
Edge computing spája hneď niekoľko odborov: počítačové siete, distribuované systémy, umelú inteligenciu a energetickú efektívnosť. Je to dobrá téma pre študentov informatiky, telekomunikácií, automatizácie a robotiky, elektroniky alebo dátovej vedy. Špecialisti na cloud, kontajnery a strojové učenie sú žiadaní v technologických firmách, u telekomunikačných operátorov aj vo výskumných ústavoch. Otvorený kód z projektov, ako je AC3, je navyše dobrou príležitosťou vyskúšať si prácu so skutočnými nástrojmi.
Keď treba dáta spracovať rýchlo, nezáleží len na tom, aký výkonný je počítač, ale aj na tom, ako ďaleko je. Platforma z projektu AC3 pomocou umelej inteligencie automaticky rozhoduje, či má úloha bežať v cloude, alebo na blízkom okrajovom serveri. V testoch s budovami, dronom a astronomickými dátami zrýchlila výpočty, udržala spoľahlivosť a pomohla ušetriť energiu, pričom časť jej softvéru je dostupná všetkým.
5 otázok · jedna minúta