Skutočná umelá inteligencia by mala mať aj vedomie. Sme od toho ešte ďaleko.

Umelá inteligencia je téma, ktorá v posledných rokoch výrazne nabrala na popularite. Svedčí o tom množstvo technológií odkazujúcich na umelú inteligenciu. Čoraz častejšie sa hovorí o autonómnych autách či osobných asistentoch ako je napríklad Siri od spoločnosti Apple. Veľa sa píše o strojovom učení, hlbokom učení alebo neurónových sieťach. Čo tieto pojmy znamenajú a aký je medzi nimi rozdiel? Ako ďaleko pokročila technológia založená na prvkoch umelej inteligencie? O týchto témach sme sa rozprávali v sérii rozhovorov s Jurajom Jánošíkom, odborníkom na umelú inteligenciu zo spoločnosti ESET.

Posuňme sa ďalej od strojového učenia. Existujú aj iné cesty k dosiahnutiu všeobecnej umelej inteligencie?

Áno, môžu tu byť aj iné cesty. Veľa algoritmov, ktoré sa dnes používajú, je starých. Niektoré vznikli ešte v 50. rokoch, alebo dokonca skôr. V princípe všetko, z čoho dnes čerpáme, pochádza ešte z 50., 60., alebo 70. rokov. Posledné výraznejšie inovácie sa datujú do 80. a 90. rokov, no odvtedy v podstate len zdokonaľujeme to, čo už bolo vymyslené. Prípadne sme pre algoritmy, ktoré boli len na papieri, našli praktické využitie.

Paradoxne, rozvoju strojového učenia pomohli počítačové hry. Tie odštartovali hon za zvyšovaním výpočtového výkonu, najmä v oblasti grafických čipov. Ďalším faktorom bol nástup technológií spojených s Big data a veľkokapacitnými a rýchlymi úložiskami. Dovtedy bol totiž problém aj s databázami. Rozvoj týchto dvoch oblastí, teda výpočtového výkonu a databáz, viedli k tomu, že sa dnes väčšina firiem zameriava práve na strojové učenie, ktoré ich nevyhnutne potrebuje. Tých ciest je ale rozhodne viac.

V poriadku, tu musím odbočiť od témy. Za umelú inteligenciu vďačíme hrám?

Nie len hrám, ale majú na tom veľkú zásluhu. Keď si strojové učenie rozbijeme na úplnú matematickú krajnosť, tak je to v podstate práca s maticami. Zjednodušene povedané, potrebujeme vypočítať desatinné čísla a násobiť v obrovských kvantách. To je to, čo sa reálne a efektívne deje na výpočtovej úrovni. A v tejto oblasti sú počítače oveľa lepšie, ako človek. Presne to isté sa totiž deje v grafických kartách pri vykresľovaní prostredia hier, alebo pri sledovaní HD videa. Ide v princípe o tie isté matematické operácie.

To znamená, že sme sa od vzniku idei umelej inteligencie nikam neposunuli a v zásade ju rozbehol iba technologický rozvoj v spomínaných oblastiach?

Algoritmy sa samozrejme vyvíjajú a zlepšujú, objavujú sa aj nové. Nedá sa teda povedať, že sme sa nikam neposunuli. No pravdou zostáva, že aj súčasné modely umelej inteligencie, ktoré sa bežne používajú v dnešných produktoch, vznikali v 90. rokoch. Za rozvojom strojového učenia, ktorý je dnes taký populárny však môže naozaj najmä rozvoj spomínaných technológií. Ideovo sme sa za posledných 20 – 30 rokov zásadne neposunuli. Nevnímam tu nejakú revolučnú myšlienku, ktorá by významne zmenila vývoj umelej inteligencie. Skôr všetci pracujeme na základoch, ktoré boli položené v minulosti a zlepšujeme ich.

Čiže súčasná umelá inteligencia nie je až taká nová vec, ako sa niekedy tvári.

Vezmime si ako prípad veľmi populárny algoritmus LSTM, čo je skratka pre Long short-term memory. Ide o typ hlbokého učenia založenom na neurónových sieťach, ktorý sa využíva na spracovávanie sekvenčných dát, teda najmä na spracovanie obrazu, zvuku a podobne. Presne tento algoritmus sa využíva pri vytváraní falošných videí tzv. deepfakes, ktoré sú dnes také populárne. Video s Barackom Obamom, ktoré obletelo svet a v ktorom hovorí niečo, čo v skutočnosti nikdy nepovedal, je z veľkej časti vytvorené práve týmto algoritmom. Vymysleli ho pritom dvaja ľudia na univerzite v Gratzi už v roku 1997, no až teraz začína byť populárny. V 90. rokoch si väčšina ľudí ani firiem nemohla dovoliť výpočtový výkon, ktorý by niečo takéto zvládol. Dnes je výrazne dostupnejší.

Vráťme sa k otázke o iných cestách k všeobecnej umelej inteligencii. Aké ďalšie prístupy sú populárne, okrem strojového učenia?

Existuje starší prístup, ktorý je efektívny a často sa používa v robotike alebo v riadení v priemysle. Ide o genetické algoritmy. Tento prístup je inšpirovaný rozmnožovaním a delením buniek, pri ktorých dochádza k mutáciám. Podobne aj pri algoritme zadefinujeme nejakú populáciu, v čase meníme funkcie a sledujeme, ako tieto zmeny, alebo mutácie, menia výsledky.

Viem si to nejako predstaviť?

Môžem použiť trošku uletený príklad z burzy. Aby sme vedeli predpovedať, ako bude vyzerať vývoj na burze v čase, potrebujeme sledovať veľmi veľa ukazovateľov. Hľadáme správnu funkciu toho, kedy je vhodná chvíľa spraviť obchod, predať akcie a podobne. Na to potrebujeme sledovať množstvo  parametrov a hľadať, kde je medzi nimi rovnováha v závislosti na predchádzajúcich dátach. Vytvoríme si teda funkciu, vložíme vstupné dáta a zisťujeme, ako celý systém funguje, a ako sa mení. Následne urobíme zmeny tejto funkcie, spomínané mutácie, a opäť sledujeme, ako sa systém zmenil, a ako sa vyvíja. Stále dookola, až kým nenájdeme vyhovujúci model, ktorý bude aspoň čiastočne reprezentovať realitu.

To je dosť náročné na predstavivosť. Sú aj nejaké ďalšie cesty?

Existujú aj prístupy, ktoré sa nazývajú Good-Old-Fashioned AI (voľne preložené ako „stará-dobrá“ umelá inteligencia). V slovenčine sa zvykne hovoriť o expertných systémoch. V tomto prípade nejaký odborník, ktorý rozumie umelej inteligencii, zadefinuje pevne pravidlá, podľa ktorých sa bude program správať. V procese sa tieto pravidlá môžu meniť, ale meniť ich bude opäť expert, nie samotná umelá inteligencia. Ide teda o  ľudský dohľad nad umelou inteligenciu.

Ďalší populárny prístup sú Markovovské reťazce. Ich základ položil Ruský matematik Andrey Markov na začiatku 20 storočia a dnes majú veľké využitie ako štatistické modely reálnych procesov. Používajú sa v robotike, finančníctve, na optimalizáciu front na letiskách, alebo aj v PageRank algoritme vyhľadávača Google. Tieto metódy sa stali základom pre oblasť strojového učenia známu ako Reinforcement Learning (Voľne preložené ako spätnoväzobné učenie, alebo učenie za pomoci spätnej väzby). Reinforcement Learning v kombinácii s expertnými systémami bol napríklad použitý pri AlphaGo.

To meno mi niečo hovorí.

Médiami napríklad prebehla informácia o umelej inteligencii, ktorá porazila najlepšieho hráča v hre Go. Alebo sa veľa písalo o umelej inteligencii Watson od IBM. Obe tieto umelé inteligencie kombinujú strojové učenie a expertné systémy. Ich použitie je obmedzené, avšak sú výborne v jasne zadefinovaných medziach, ako napríklad v hre Go. Ale to je asi tak všetko. Takže vo výsledku máme umelú inteligenciu, ktorá vie niekoho rozbiť v hrách, ale nevie urobiť rozhodnutia v iných oblastiach.

A čo spomínaný Watson? Ten sa predsa používa na iné veci, ako sú len hry.

Watson je napríklad dobrý v tom, že si vie dať veci do súvislosti. Paradoxom ale je, že sa na ich základe nevie rozhodnúť. Nejde teda o vedomie alebo cieľavedomú činnosť. Watson je skvelý napríklad pri diagnostike MRI. Z analýzy vyplýva, že má vyššiu úspešnosť ako väčšina rádiológov. Je to pochopiteľné, lebo kvalita rádiológa sa odvodzuje aj od jeho skúseností a od toho, koľko snímok už predtým videl. To je vo svojej podstate strojové učenie.

Navyše, do rozhodovania rádiológov často vstupujú ľudské slabosti ako únava, momentálna nálada, či je rádiológ hladný alebo smädný. Takéto faktory Watsona neovplyvňujú. Stačí do neho naliať tisícky či milióny snímok, ktoré sú klasifikované ako dobré, zlé, neviem aké a na ich základe bude vedieť s veľkou úspešnosťou predpovedať diagnózu. Predsa len je v jeho kapacite pozrieť si viac snímok, ako za jeden život stihne vidieť jeden rádiológ. Navyše dokáže rozoznať aj zmenu v jednom pixeli, čo je pre človeka takmer nemožné.

Spomenuli sme viacero prístupov k umelej inteligencii, ktoré sa dnes používajú. Ktorý z nich je najúspešnejší z hľadiska dosiahnutia všeobecnej umelej inteligencie? Spomínal si, že je strojové učenie je najrozšírenejšie, je toto tá najlepšia cesta?

Strojové učenie je populárne skôr preto, lebo je vhodné na širokú škálu úloh, s ktorými sa v bežnom živote stretávame. Napríklad predikcia na základe predošlých dát, hľadanie anomálii, počítačové videnie, ktoré funguje dlhé roky. Nie je to teda preto, že by to bola naša najlepšia cesta k všeobecnej umelej inteligencii.

Veľa múdrych ľudí si dokonca myslí, že strojové učenie je slepá ulička. Keď sa vrátime k príkladu so šálkou, o ktorej som hovoril. Keď chcete naučiť dieťa, čo je šálka, neukážete mu milión šálok, aby vedelo šálku rozoznať. Takto ľudský mozog nefunguje.

Prečo sme vlastne všeobecnú umelú inteligenciu ešte nevytvorili? Sú tam nejaké teoretické či matematické prekážky, alebo je to skôr otázka nedostatočného výpočtového výkonu?

To je dobrá otázka. Sú dva pohľady, ktorými sa dá na túto otázku pozrieť. Čo to znamená nedostatočný výpočtový výkon? Niektorí vedci tvrdia, že ak by sme chceli interpretovať ľudský mozog do počítača, tak by sme ho v súčasnosti dokázali namodelovať do aktuálne najvýkonnejšieho počítača na svete. Jeden ľudský mozog do najvýkonnejšieho a najdrahšieho superpočítača. To asi nie je veľmi efektívne.

Preruším ťa. Ako vedia ľudia kvantifikovať výkon mozgu? Pokiaľ viem, dnes nikto presne nerozumie, ako mozog funguje.

To je ďalší problém. Dá sa spraviť približný odhad. Výkon dnešných počítačov sa počíta v jednotkách s názvom FLOPS (Floating-point Operations Per Second). Veľmi zhruba povedané je to počet operácii, ktoré dokáže spraviť počítač v desatinnej čiarke za sekundu. Najvýkonnejšie super počítače majú výpočtový výkon v desiatkach petaflops, alebo podobnú šialenosť. Jeden petaflop je jednotka a za ňou 15 núl. To znamená, že vie vypočítať simulácie atmosféry a jadrových výbuchov, kde sú zložité rovnice s miliardou parametrov. Ľudský mozog by takéto výpočty robil s rýchlosťou len odhadom 0,001 FLOPu. Lenže ľudský mozog vie robiť aj iné veci, ktoré by dnešné počítače nevedeli nasimulovať, nakoľko sú  príliš zložité.

Aké napríklad? Fungovanie ďalších orgánov v tele?

O to až tak nejde. Ide skôr o vedomie či rozhodovanie. To sú veci, ktorým poriadne nerozumieme. Nevieme, ako vedomie funguje, no vieme, že nefunguje spôsobom strojového učenia. Nikto si nepozrie päťstotisíc fotografií mačiek, aby na ulici rozoznal mačku. Práve preto ešte nemôžeme hovoriť o umelej inteligencií. Je tam veľa výziev a to sa rozprávame iba o nasimulovaní jedného priemerného ľudského mozgu.

Spomínal si dve roviny, pre ktoré sme ešte nedosiahli všeobecnú umelú inteligenciu. Prvou bol výpočtový výkon. Čo bolo druhou?

Tej sme sa práve dotkli. Ide o to, že nevieme, ako funguje vedomie. Nik nevie, čo vlastne vedomie je. Existujú filozofické definície, ale nemáme matematický model, ktorý by sme vedeli použiť. Nemáme jasnú definíciu.

A potrebujeme vedomie na vytvorenie umelej inteligencie? Nestačí, že vytvoríme premýšľanie podobné človeku? Musí tam byť aj vedomie či osobnosť?

To je ďalšia otázka v tejto diskusii.  Ak však chceme dosiahnuť plnohodnotnú všeobecnú umelú inteligenciu, musí mať vedomie. Bez toho to bude len zoznam pravidiel, ktoré stroj nasleduje, no jeho rozhodovanie nie je nezávislé. Na to, aby bola umelá inteligencia samostatná, musí mať vlastnú schopnosť samostatne premýšľať. Tak ako človek. A samozrejme, aj my ľudia robíme chyby, takže ak bude umelá inteligencia dizajnovaná nami, asi nebude mať dokonalé myslenie a bude pravdepodobne robiť chyby, rovnako ako my. Ak by ich nerobila, hovorili by sme už o super inteligencii.

Čiže laická predstava, že stroj bude síce rozmýšľať, ale nebude mať osobnosť, je chybná?

Ak sa rozprávame o tom, že vytvoríme umelú inteligenciu, akou je ľudská inteligencia, tak potom by mala mať všetky tieto náležitosti ako osobnosť. Vrátane chýb a učenia sa z nich.

Dajme si ešte jeden hypotetický príklad. Ak zadám rovnaký problém viacerým umelým inteligenciám, môžu mať rozdielne výstupy?

Presne tak. Každá umelá inteligencia prechádza určitým vývojom. Jedna vyrástla v jednom laboratóriu, druhá v druhom. Ten vývoj je osobitý, navyše sa mohli učiť na rozdielnych vstupoch, a preto aj v budúcnosti môže ponúkať iné vyhodnocovanie. Tak ako človek. V opačnom prípade by sme sa rozprávali o super inteligencií, ktorá dáva vždy dokonalé výstupy.

Je cieľom vývoja umelej inteligencie nahradiť človeka?

To si nemyslím. Je tu určitá  skupina ľudí, ktorá o tom sníva. No poznáme aj pomerne veľkú skupinu, ktorá s tým nesúhlasí. Medzi nimi je pritom mnoho rešpektovaných ľudí, ako nebohý Stephen Hawking, Elon Musk, či Bill Gates, ktorí si myslia, že by sme touto cestou nemali ísť.

Ja sa na to pozerám pragmaticky. Prečo by mal človek robiť monotónne veci, ktoré ho nebavia, keď je v tom počítač navyše aj lepší. Ja by som radšej chcel, aby moje MRI vyhodnocoval naozaj dobrý počítač s vysokou úspešnosťou, než priemerný alebo podpriemerný rádiológ.

Ide teda o to, o akej umelej inteligencií sa rozprávame? Či chceme len inteligentnú pomoc počítača, všeobecnú umelú inteligenciu, alebo super inteligenciu. Z môjho pohľadu sa teraz pracuje najmä na tom, aby nám umelá inteligencia pomáhala s problémami, s ktorými si nevieme dať rady, alebo ich rieši oveľa efektívnejšie. Ďalej momentálne nie sme.

Je podľa teba možné, že sa k všeobecnej umelej inteligencii nikdy nedopracujeme?

Áno, je to možné. Otázka ale stojí aj tak, či to vôbec chceme? Ako som naznačil, ja sa na to pozerám prakticky. Prvky umelej inteligencie nám môžu zásadným spôsobom pomáhať v bežnom živote. Presne na tom pracujeme aj tu, v ESETe. Prečo by sme to nevyužili?