Podľa slovenského vedca Michala Valka existujú diktatúry aj bez prispenia umelej inteligencie. Tá však podľa neho môže urobiť veľa dobra.
Slovenský AInstein Michal Valko sa umelej inteligencii venuje už desaťročia. Rozhovor s ním vznikal takmer tri hodiny a príprava naň oveľa dlhšie. Na dodatočné otázky nám trpezlivo odpovedal aj počas fotenia. Okrem iného sme sa snažili zistiť aj to, čo si myslí o AI a či sa umelej inteligencie máme obávať.
Tieto pojmy nie sú úplne presne definované a možno aj preto sa o nich tak veľa rozprávame. Vedci, psychológovia a neurológovia už dlho diskutujú o definícii umelej inteligencie. Môj prvý profesor na SAV tvrdil, že to je zmena, ktorá vyvolá zmenu. Každú definíciu, s ktorou vieme prísť, vieme aj napadnúť.
Inteligencia je kreativita, ale aj pamäť či rozhodovanie. Je to zovšeobecňovanie, schopnosť asociácií či plánovania, optimalizácie, alebo pud sebazáchovy. Ale napríklad aj indukcia, dedukcia a robenie rozhodnutí v (podmienkach) neurčitosti a náhodnosti kombináciou rôznych poznatkov alebo komunikáciou s inými ľuďmi či s inými inteligenciami. Takýchto vecí, ktoré ja nazývam črty inteligencie, je viac ako dvadsať.
Tento pojem popularizovali zakladatelia DeepMindu. AGI je formálne definovaná a s definíciou prišiel školiteľ Shanea Legga, jedného zo zakladateľov DeepMindu, Marcus Hutter. Spoločne počas Leggovej dizertačnej práce definovali pojem AGI matematicky. Nie je to však uchopiteľný algoritmus, pretože je nevypočítateľný a nevieme ho pre jeho veľkú zložitosť naprogramovať a spustiť, takže je to definícia, ktorá nám zatiaľ nepomáha AGI pochopiť. V podstate o umelej inteligencii hovoríme, ak ide o niečo, čo sa nenachádza v prírode, ale navrhli sme to my ľudia. Čiže naša inteligencia je postavená na uhlíku a základným prvkom tej druhej je kremík.
Umelá inteligencia môže a nemusí fungovať ako ľudský mozog. Tá, ktorú teraz najviac využívame a o ktorej sa píše v správach, nefunguje ako ľudský mozog. V podstate je ľudskému mozgu dosť vzdialená. Na začiatku päťdesiatych rokov sme si mysleli, že najlepší spôsob, ako urobiť inteligentné systémy, je napodobniť ľudský mozog.
Bol to jediný príklad správne sa rozhodujúcich entít, ale zistili sme, že ak chceme vyriešiť nejaký problém, napríklad klasifikovať obrázky alebo dopĺňať slová, tak je jednoduchšie zamyslieť sa nad tým, čo chceme matematicky vyriešiť a ísť rovno po tejto funkcii. Je to jednoduchšie, ako replikovať človeka a potom tomu „človeku“ dať úlohu. Takto to začalo fungovať v osemdesiatych a deväťdesiatych rokoch. Fungovali tak napríklad systémy v Amazone. Boli postavené na základoch, ktoré boli vzdialené tomu, čo existuje v prírode.
Umelá inteligencia založená na neurónových sieťach je s mozgom podobná v tom, že v nej existujú jednotky – neuróny, ktoré sú poprepájané. V SAV som pracoval na sieťach, ktoré sú podobné mozgu. Ak vnemy prechádzajú cez neuróny, ľudské neuróny menia váhy (neuroplasticita) aj bez toho, aby mali spätnú väzbu, ale umelé siete to zatiaľ nedokážu. V umelých sieťach si zatiaľ vieme len pozrieť výstup umelej siete a my musíme určiť, či je dobrý alebo zlý. Vrátime sa späť k tomu, ako tento vnem vznikol, a meníme váhy.
Je ľudský systém komplikovanejší?
Áno. Ľudské neuróny sú veľmi komplikované. Ide o komplexný elektronický systém, v ktorom neurón vypáli informáciu do mozgu. Umelé siete spočítajú výstupy, zistia, či je výsledok väčší ako prah, a následne posunú ďalej iba jeden bit. Ten rozdiel, ak by som mal použiť nejakú metaforu, je ako nebo a peklo. Najbližšia podobnosť, ktorú vieme vysloviť, je, že v oboch prípadoch je to veľa poprepájaných bodiek.
foto Robo Homola
Viete povedať, čo bolo za posledné roky tou najväčšou revolúciou a v akej fáze vývoja umelej inteligencie sa nachádzame?
Nachádzame sa vo fáze, v ktorej bola chémia na začiatku minulého storočia. Ešte dávno predtým sme mali alchýmiu, ktorá sa snažila vyrobiť zlato. Potom ľudia v laboratóriách prelievali skúmavky a až potom sme zistili, že dokážeme vyrobiť niečo, čo má spoločenskú hodnotu. Niečo, čo posunie spoločnosť vpred. A áno, dá sa na tom aj zarobiť alebo to dá ľuďom prácu. Neskôr sme začali budovať chemické továrne. Urobilo sa veľa chýb, veľa ľudí prišlo pri pokusoch o život, ale poučili sme sa a o ďalších niekoľko rokov sa objavilo chemické inžinierstvo.
Takže v ktorej fáze sme s AI?
Začíname budovať veľké systémy. V podstate nevieme, kedy začnú firmy naplno pracovať s umelou inteligenciou. Sme v začiatkoch inžinierstva a budeme robiť veľa chýb. Dnes si už nikto nespomenie na to, že trvalo desiatky rokov, kým vzniklo chemické inžinierstvo s jasnými pravidlami. Museli prísť opatrenia, aby neunikala radiácia, aby ľudia neumierali, ale aj pravidlá, ako sa spracuje odpad. Dnes je to samozrejmosť. Za nejaký čas, dúfajme, že kratší ako desiatky rokov, sa už nebudeme zamýšľať nad tým, že existuje nejaká umelá inteligencia. Potom už bude nudné robiť takýto rozhovor. Ešte tam nie sme a žijeme zaujímavé časy.
Napríklad polovica firiem, ktoré skúmajú umelú inteligenciu, neuspeje a skrachuje a nikto o nich nikdy nepočuje. Možno im len nefungoval biznisový model, ale to neznamená, že neboli dobrí, možno sa len vybrali nesprávnym smerom. Je to o tom, že sme iba v začiatkoch.
Mohli by sme za revolučný krok považovať to, že sa masovo spustili jazykové modely?
Áno, presne tak. To je niečo, čo umelú inteligenciu zdemokratizovalo a spopularizovalo. Teraz už každý v krčme vie, čo to je, alebo aspoň na to má názor. Kedysi to bol iba výmysel akademikov, teraz už ľudia vedia, na akú stránku majú ísť. Ale toto je skôr technologický pokrok a nie vedecký.
Nie som najlepší programátor na svete, ale tým, že mám jazykový model, viem programovať oveľa lepšie. Pre mňa osobne je toto najväčší prínos, lebo ušetrím čas.
foto Robo Homola
V akej fáze sa momentálne nachádzajú jazykové modely?
Modely sú stále v učiacej fáze. To, čo nám umelá inteligencia dáva, je výmena vedomostí. Ľudstvo napreduje tým, že si vie vymeniť vedomosti. Takto vznikli národy, takto sme sa posunuli vo vede. Vedeli sme si vymeniť informácie a vďaka tomu napredovať. Jazykový model je spôsob výmeny informácií podobný tomu, akým bola v minulosti kniha. Ale je to výmena informácií na steroidoch, pretože sú tam informácie od všetkých ľudí. V jazykovom modeli sa stretávajú všetky vedomosti tohto sveta.
Aká je tu úloha človeka?
My ľudia sme dobrí v niečom, v čom jazykové modely zatiaľ zlyhávajú. Vieme sa rozhodovať a konať v podmienkach neurčitosti. Nielen ako jednotlivci, ale aj ako skupina. Napríklad si predstavte, že chcete zistiť, ako sa dostať do Košíc. Ak sa opýtate troch ľudí a spriemerujete to, máte lepší výsledok. V tomto sú jazykové modely veľmi zlé. Súčasné modely zle pracujú s neurčitosťou. Môžete sa ho opýtať, či máte ísť na operáciu srdca, a on vám poradí, ale asi by ste sa podľa toho nemali úplne rozhodovať. My ľudia sme veľmi dobrí v tom, že vieme odhadnúť naše „slabé miesta“, a vieme, ako získať ďalšie poznatky, ktoré nám pomôžu rozhodnúť sa. Toto je ďalšia fáza pre jazykové modely.
Nie je tu riziko, že jazykový model sa bude učiť z vlastných textov? Tu je asi veľmi dôležitá selekcia, nie?
Selekcia je veľmi dôležitá a to je niečo, čo napríklad DeepSeek urobil veľmi dobre. Selekcia je podstatná, ale aj komplikovaná. My neurónové siete úplne nepoznáme a presne nevieme, ako fungujú. Nevieme, prečo niektoré veci, ktoré by nemali dávať zmysel, fungujú veľmi dobre. Pomáha nám augmentácia dát. Vyrobíme syntetické dáta, ktoré nám pomôžu, ale presne nevieme, ako tieto siete fungujú. Úspešné môžu byť aj dáta, ktoré umelá inteligencia sama vygeneruje. Platí však aj to, že aj neumelé dáta môžu výsledky zhoršiť, a preto na selekcii dát pracujú desiatky ľudí. Veľa sa o tom nepíše a dáta, na ktorých sa trénovali modely ako Llama, ChatGPT alebo DeepSeek, nie sú verejné.
Jazykové modely sa používajú už niekoľko rokov. Ako ich využívate vy osobne?
Rád ich používam na programovanie. Nie som najlepší programátor na svete, ale tým, že mám jazykový model, viem programovať oveľa lepšie. Pre mňa osobne je toto najväčší prínos, lebo ušetrím čas. Dokážem byť vďaka jazykovým modelom oveľa výkonnejší. Aj v startupoch, ktorým pomáham ako poradca, vidím veľmi veľa pomoci. Napríklad v ďalšom startupe, ktorý som ešte nespomenul – Hinlab.
Čomu presne sa venuje?
Je to francúzska firma, ktorú založil „mladý chalan“, mal dvadsaťtri rokov. Vďaka senzoru na ruke môžete detegovať prácu srdca, pacient tak nemusí byť na jednotke intenzívnej starostlivosti. V nemocniciach sa stáva, že pacient zomrie na zástavu srdca, lebo sa napríklad nedostane pre nedostatok miesta či personálu na jednotku intenzívnej starostlivosti. Práve tento startup vie pomocou jazykových modelov konzultovať všetky rozhodnutia lekárov, ktoré máme v databáze, a zistiť, či má pacient problém so srdcom a vyhnúť sa najhoršiemu.
Je medicína odvetvie, kde je posun vďaka umelej inteligencii najvýraznejší?
Skôr by som povedal, že je to odvetvie s najväčším potenciálom. Vrátim sa späť k tomu, o čom sme sa už rozprávali skôr. Toto vymieňanie si informácií na steroidoch nás posúva. Komunikácia a výmena informácií nás posunuli ako ľudstvo veľmi ďaleko. Myslím si, že ako ľudstvo sa môžeme pozrieť ešte ďalej. Medicínu považujem za jedno z odvetví, kde umelá inteligencia urobí najzaujímavejšie pokroky. Spomeniem napríklad skrátenie času na výrobu vakcín, detekciu chorôb a podobne. Existujú oblasti vo farmakológii, kde farmakologické firmy nevyvíjajú, lebo tam nevidia dostatočne veľký trh.
Napríklad sa zastavil výskum tuberkulózy, lebo sme ju takmer vyhubili. Teraz pri jej novej variácii do nej farmakologické firmy neinvestujú, lebo vedia, že najviac zarobia napríklad na liekoch proti rakovine. To je na jednej strane úžasné, ale pri liekoch, kde toľko nezarobia, je výskum zanedbaný. Ak by sa podarilo tisícnásobne znížiť cenu lieku, bude jednoduchšie vyrobiť lieky aj na choroby, kde to nie je ekonomicky výnosné. Aj preto vidím potenciál práve v tejto oblasti.
Je pre firmy najvyšší čas, aby integrovali AI, alebo už je aj neskoro?
Podľa údajov existuje až 62 percent firiem, ktorým sa to vôbec nepodarilo. To, že sa veľkým firmám podarilo vyvinúť veľký jazykový model, ešte neznamená, že si aj zlepšia procesy vo firme. Lakmusovým papierikom pre spoločnosti môže byť to, že sa v nich robí veľa opakujúcej sa práce, ktorá sa dá automatizovať. To je prvý krok, keď by mala firma o tom uvažovať. Určite to však nie je liekom na všetko.
foto Robo Homola
Mali by sme AI prísne regulovať? A okráda sa Európska únia prísnou reguláciou, keď ju v Číne či USA neregulujú?
Budú štáty či entity, ktoré budú chcieť regulovať viac a ísť po tejto ceste opatrnejšie. Iné štáty zasa, naopak, budú chcieť vo vývoji voľné pole. Myslím si, že za desaťročie – a ja dúfam, že to bude aj skôr – nájdeme nejakú rovnováhu medzi týmito dvoma prístupmi. Tí, ktorí neregulujú, riskujú, ale potenciálne môžu získať najviac.
Švédsko-americký kozmológ a profesor na Massachusettskom technologickom inštitúte Max Tegmark v jednom dokumente povedal, že všeobecná umelá inteligencia (AGI) bude buď najlepšie, alebo to najhoršie, čo ľudstvo vymyslelo. Do ktorej skupiny patríte vy?
V prvom rade ešte teraz nikto poriadne nevie, čo vlastne tá všeobecná umelá inteligencia je a aká bude v budúcnosti. Už som hovoril, že záleží na definícii AGI. Podľa jednej definície sme ju tu už mali pred dvadsiatimi rokmi, podľa inej ju nebudeme mať nikdy. Definícia je pri takejto otázke kľúčová. Ak pôjdeme podľa tej definície, že už ju tu máme, tak je to najlepšie či to najhoršie, čo tu máme? Pre mňa ako vedca je ťažké akceptovať niečo, čo sa definuje ako najhoršie či najlepšie. Vždy ako ľudstvo môžeme vymyslieť niečo lepšie. Umelou inteligenciou sme fascinovaní, lebo inteligencia je niečo, čo sme pripisovali len sebe ako ľudstvu. A keďže sme trochu narcismi, tak sa v tom, samozrejme, vidíme a chceme sa zlepšovať. Jedna z hlavných otázok ľudstva a filozofie je, prečo sme tu a ako fungujeme. Preto nás to tak veľmi fascinuje.
Ilya Sutskever zasa vystríhal pred tým, aby AGI nebola schopná vytvoriť nekonečné stabilné diktatúry. Nemali by sme sa obávať niečoho takého?
Už teraz sú na svete stabilné diktatúry, ktoré na udržanie moci nepotrebovali umelú inteligenciu. Rovnako umelá inteligencia môže niečomu takému pomôcť predísť. Tieto otázky sú veľmi otvorené. Sú to skôr otázky na to, akí chceme byť ako ľudia. Umelá inteligencia je stále len technológia. My ako ľudstvo si môžeme a musíme dať za cieľ, aby sme ju využili dobre.
Riešia sa na konferenciách aj takéto filozofické otázky ohľadom AI?
Ja skôr chodím na technologické konferencie. Tam sa väčšinou riešia nové algoritmy, ale dokonca aj na týchto technologických konferenciách máme workshopy, kde sa venujeme podobným sociologickým otázkam.
Čínsky líder v oblasti umelej inteligencie spoločnosť DeepSeek vzbudila pozornosť celého sveta svojím modelom R1. Prekvapila vás reakcia trhov na nástup umelej inteligencie z Číny?
Absolútne nie. DeepSeek existuje už tri roky. Možno to vyzerá ako nástup, ale firma je otvorená a nerobili to v tajnosti. Sú články, ktoré ako firma vydávajú. Celkom otvorene popisujú metódy, ktoré používajú. Ľudia, ktorí sa umelej inteligencii venujú denne, to očakávali. DeepSeek nie je jediná firma, ktorá niečo také robí. Na takéto reakcie trhov som si už zvykol.
Čo si o tomto modeli myslíte?
Podľa mňa je to veľmi dobre spravený kus inžinierstva. Využíva metódy, ktoré sú celkom známe. Neprispieva teda nejakou novou radikálnou zmenou. V jazykových modeloch je to v dosť veľkej miere o inžinierstve.
Ukazuje nám DeepSeek, že rozvoj umelej inteligencie je možný aj bez výkonných čipov a lacnejšie?
To, čo vieme, je, že na jedno trénovanie použili niekoľko miliónov. Firma už len na tomto konkrétnom modeli použila čipy H800 a samotné čipy stoja 50 až 100 miliónov. Lacné to teda nie je. To, že posledné spustenie stálo len päť miliónov dolárov, ešte neznamená, že to celé stálo toľko. To číslo päť miliónov je dosť poddimenzované.
V princípe DeepSeek vraví, že používa oveľa menej pokročilých čipov a bol vyškolený za zlomok nákladov. Konkrétne hovoria, že náklady na trénovanie modelu boli na úrovni 5,6 milióna dolárov. Môžeme vôbec týmto tvrdeniam dôverovať a ako sa dajú overiť?
Je jedno, či je to čínska, slovenská, americká alebo francúzska spoločnosť, úplne rovnako im dôverujem či nedôverujem. Nemám žiadny dôvod im veriť či neveriť len na základe toho, že sú z nejakej krajiny. Veľa firiem s dobrou reputáciou veci skrýva zo strategických dôvodov. Často treba byť opatrný. Jedna vec je, koľko stojí napríklad jeden čip na trhu, a druhá vec je, koľko stojí jedna hodina nejakého akcelerátora. To sú verejné a trhové čísla.
Môže príklad DeepSeek povzbudiť ešte menšie firmy, aby sa do tejto oblasti pustili?
To už sa deje aj v súčasnosti a dialo sa to aj v minulosti. Je mnoho príbehov firiem, ktoré nie sú známe, lebo sa o nich nedozvieme z médií. Veľa peňazí je v Saudskej Arábii a v Spojených arabských emirátoch, kde je bujará startupová scéna. Nielen firmy, ale aj vláda toto prostredie podporuje. Majú tam model Falcon, ktorý je tiež open source, a firmy a ľudia, ktorí sú okolo toho, zakladajú startupy.
Viete odhadnúť, koľko takých firiem ako DeepSeek sa objaví?
To sa ťažko predpovedá. Je mnoho firiem, ktorým sa nepodarí urobiť dieru do sveta a menia svoj biznisový plán. Zvyčajne o firmách hovoríme vtedy, ak prekonajú existujúci model. Spoločnosti zverejnia svoj model, keď môžu povedať, že je lepší. Asi nepredpokladáme, že príde ChatGPT 5, ktorý bude horší ako DeepSeek. Firmy ten model dajú von až vtedy, keď bude najlepší.
foto Robo Homola
Vidíme tu začínajúci súboj medzi firmami z USA a Číny. Kde sú v tomto súboji firmy z EÚ?
Sú tu veci, ktoré sa menia veľmi pomaly. Mali sme tu konferenciu v Davose a tiež AI konferenciu vo Francúzsku organizovanú prezidentom Macronom (Globálny akčný samit o umelej inteligencii sa uskutočnil v priebehu februára, pozn. red.). Aj v bodoch programu bola presne táto otázka: kde sa nachádza Európa? Sú to filozofické až politické úvahy. Európa je dobrá v otázkach ochrany jednotlivca, ochrane súkromných informácií a ochrane trhu. V USA je to v porovnaní s Európu ako na divokom západe. Musíme si vybrať, čo chceme. Zatiaľ si vyberáme starú európsku cestu.
Vidíte medzi európskymi firmami v odvetví umelej inteligencie zrnká nádeje?
V podstate áno. Niektorí študenti, ktorých som vychovával, založili firmu Mistral, čo je jeden z dobrých európskych startupov. Ďalej startup, na ktorom pracujem, bude odpoveďou na DeepSeek.
Máte nejaké osobné obavy, čo sa týka AI?
Máme možnosť rozhodnúť, ako s umelou inteligenciou budeme narábať. Nie je to tak, že si sadneme a budeme sledovať, ako vývoj beží sám o sebe. Nie je to ako v prípade Slnka, kde jeho správanie ovplyvniť nedokážeme. Impakt umelej inteligencie ovplyvniť dokážeme. Otázka je, čo vieme spraviť, aby sme vytvorili spravodlivý systém; aby bol človek za svoju kreatívnu prácu aj adekvátne ohodnotený. Mali by sme pracovať na spoločenských zmenách, aby sme prechod akceptovania novej technológie urobili čo najjednoduchším.
Mali by sme sa báť AI?
Nikto nemá všetky odpovede. Nastupujeme do fázy, v ktorej sa urobí veľa omylov. Práve preto treba byť odvážny, ale zároveň aj opatrný. Keď vidím, koľko dobra je možné pomocou AI spraviť, tak podľa mňa by to bola škoda, aby sme vytiahli šnúry zo zásuvky a nerobili nič.
Kto je Michal Valko
Michal Valko vyštudoval umelú inteligenciu a matematické metódy v informatike na Fakulte matematiky, fyziky a informatiky Univerzity Komenského v Bratislave. Doktorandské štúdium absolvoval na Univerzite v Pittsburghu. Od roku 2011 je súčasťou tímu SequeL francúzskeho Národného inštitútu pre výskum v oblasti informatiky a automatizácie (Inria) a prednáša na ENS Paris-Saclay v Paríži.
Strávil päť rokov v spoločnosti Google, kde v roku 2019 zakladal parížske laboratórium spoločnosti DeepMind, ktoré sa špecializuje na výskum umelej inteligencie. Zaujímal sa predovšetkým o navrhovanie algoritmov, ktoré vyžadujú minimálny ľudský zásah. Vďaka práci pre DeepMind sa stal súčasťou rebríčka Forbes Changemakeri.
Po rokoch na pozíciách v najväčších amerických technologických spoločnostiach, ako sú Google, Meta a Intel, vstupuje do startupového sveta. Od nového roka je zakladajúcim členom startupu, ktorý je odpoveďou aj na DeepSeek. Je tiež ambasádorom ocenenia ESET Science Award.
