Umelá inteligencia, ktorá vie, čo nevie + test

• Keď tréningové údaje prestanú stačiť
• Filozofia v službách algoritmov
• V čom je problém
• Skúška na ceste
• Nielen autá
• Plazma pod kontrolou
• Liek na príliš sebavedomé chatboty
• Stručne
• Päť otázok: vieš, kedy nevieš? (test)

⇑Keď tréningové údaje prestanú stačiť

Umelá inteligencia dnes siaha takmer všade. Poháňa ekonomiku a mení naše domovy, školy aj pracoviská. Má však slabé miesto, o ktorom sa hovorí menej než o jej úspechoch. Model sa učí z konkrétnej sady údajov a potom musí fungovať vo svete, ktorý nemusí vždy pripomínať to, čo videl pri trénovaní. Práve vtedy sa začínajú problémy.

Týmto problémom sa zaoberal projekt E-pi financovaný z prostriedkov EÚ, ktorý koordinovala Oxford Brookes University v Spojenom kráľovstve. Jeho tím päť rokov pracoval na takzvanej epistemickej umelej inteligencii, teda na umelej inteligencii, ktorá lepšie zvláda neistotu a dokáže predpovedať aj v situáciách, ktoré sa líšia od trénovacích údajov.

⇑Filozofia v službách algoritmov

Slovo epistemický pochádza z epistemológie, teda z odboru filozofie, ktorý skúma poznanie. Odtiaľ pochádza schopnosť, ktorá je pre človeka celkom prirodzená: všimnúť si, že to, čo vieme, v danej situácii nestačí. Je to jeden zo základných prvkov ľudskej inteligencie.

Stroj to sám nevie. Pri umelej inteligencii sa rozpoznanie vlastnej nevedomosti musí opierať o teoretické a matematické základy. Inými slovami, pocit, že si už nie sme istí, treba doslova zapísať do návrhu algoritmu.

⇑V čom je problém

Koordinátor projektu Fabio Cuzzolin upozorňuje, že klasické algoritmy strojového učenia sa sústreďujú na vysvetlenie pomerne malej trénovacej sady, a nie všetkých údajov, ktoré sa môžu objaviť v skutočnosti. Dôsledok je ľahké predvídať. „Tradičné modely umelej inteligencie majú problémy s robustnými predikciami, ak sa rozdelenia pravdepodobnosti generujúce údaje líšia od tých pri trénovaní,“ vysvetľuje výskumník.

Zjednodušene povedané: model, ktorý dobre pozná len výsek sveta, sa môže stratiť, keď narazí na niečo mimo tohto výseku. Konzorcium E-pi dospelo k záveru, že teória neistoty druhého rádu je najsľubnejším základom riešenia. Prezentácie projektu sa na odborných konferenciách stretli s nadšením a Cuzzolin bol prizvaný na účasť na viacerých súvisiacich návrhoch programu Horizont Európa. Práca tímu má pomôcť vybudovať medzinárodný ekosystém epistemickej umelej inteligencie.

⇑Skúška na ceste

Kde najlepšie otestovať umelú inteligenciu, ktorá má zvládať nepredvídateľné? Výskumníci zvolili autonómne vozidlá. Na ceste sa situácia môže náhle vymknúť akémukoľvek vzoru, či už správaním chodcov, extrémnym počasím alebo nezvyčajným usporiadaním cesty. Chyby súčasných systémov môžu byť drahé a v najhoršom prípade môžu skončiť smrteľným zranením.

Tím použil dátovú sadu ROAD, venovanú rozpoznávaniu cestných udalostí autonómnymi vozidlami. Poslúžila na trénovanie modelu aj na testovanie nových epistemických detektorov objektov. ROAD sa neustále rozširuje a obsahuje videá z Európy, Severnej Ameriky, Dubaja a Abú Zabí, vďaka čomu sa stala skutočne globálnym zdrojom.

⇑Nielen autá

Bezpečnejšie autá bez vodiča sú len jedným z cieľov. Rovnaká logika môže prospieť aj ďalším oblastiam:

• priemyselným robotom, ktoré musia zvládať nepredvídateľné správanie ľudí,
• chirurgickým robotom, pred rovnakou výzvou,
• výskumu jadrovej fúzie, kde treba predpovedať správanie plazmy,
• generatívnej umelej inteligencii vrátane veľkých jazykových modelov.

⇑Plazma pod kontrolou

Jadrová fúzia je osobitne náročným príkladom. „Pracujeme na vývoji neurónových operátorov, ktoré si uvedomujú neistotu, aby predpovedali, ako bude fúzna plazma prúdiť vnútri tokamaku a ktoré oblasti reaktorov to zasiahne najviac,“ hovorí Cuzzolin. Takéto modely majú predpovedať prúdenie plazmy vnútri tokamaku, teda reaktora, a ukázať, ktoré jeho oblasti budú najviac vystavené. Aj tu ide o to isté: model by nemal len podať výsledok, ale aj poctivo povedať, ako si je ním istý.

⇑Liek na príliš sebavedomé chatboty

Ďalší smer sa týka generatívnej umelej inteligencie. „Súčasné najmodernejšie veľké jazykové modely (LLM) sú známe tým, že vytvárajú nepravdivé tvrdenia,“ pripúšťa Cuzzolin. Podľa neho môže východiskom byť modely postavené na novej paradigme: „Epistemické LLM môžu výrazne zmierniť prílišnú sebaistotu týchto modelov.“

Plány zahŕňajú aj riešenia súvisiace s teóriou mysle a systémy, ktoré sa vyvíjajú vďaka kontinuálnemu učeniu. Spoločný menovateľ zostáva rovnaký: umelá inteligencia by nemala len odpovedať, ale aj vedieť, kedy jej odpoveď stojí na vratkých základoch.

⇑Stručne

Projekt E-pi, ktorého celkové náklady boli približne 3 milióny eur, prispel k vývoju bezpečnejších autonómnych vozidiel a robotov aj generatívnej umelej inteligencie, ktorá nehalucinuje. Vybudoval aj dynamickú sieť odborníkov na strojové učenie. Jeho autori tvrdia, že epistemická umelá inteligencia má potenciál zmeniť svet aj náš každodenný život. A všetko sa začína veľmi ľudskou zručnosťou: priznať, že niečo nevieš.

⇑Päť otázok: vieš, kedy nevieš? (test)