Prečo je zastavenie vývoja platformy OpenAI hlúposť a prečo je nepravdepodobné, že nás umelá inteligencia všetkých zabije? Na tieto otázky odpovedá slovenský vývojár Marek Rosa, ktorý plánuje do sveta vypustiť už niekoľko mesiacov svetovo unikátnu AI.
Rosa, ktorý stojí za českými firmami GoodAI a Keen Software House, testuje schopnosti všeobecnej umelej inteligencie v prostredí, ktoré mu je blízke — v počítačových hrách.
Podobné riešenie, ktoré plánuje vypustiť do sveta o niekoľko mesiacov pritom ešte nikto na svete nezverejnil.
Výzvy na spomalenie AI sú hlúpe
Ktorá z vašich firiem vás aktuálne zamestnáva viac? Herné štúdio Keen Software House alebo vývojárska spoločnosť GoodAI?
Deväťdesiat percent môjho času zaberá GoodAI, keďže Keen Software House je zabehnutá firma s nastavenými projektami a víziou a na dizajnoch, ktoré som už určil.
V GoodAI sa naopak venujeme novým veciam, ktoré sú veľmi dynamické. V AI sa dejú nové veci takmer každý deň.
Ako sa pozeráte na otvorený list Elona Muska a ďalších technologických lídrov, v ktorom vyzývajú na zastavenie vývoja umelej inteligencie od OpenAI?
Samotná myšlienka otvoreného listu sa mi nepáči, respektíve výzvy na spomalenie vývoja považujem priam až za hlúpe. Súhlasím však s tým, že je potrebné byť opatrný a pristupovať rozumne k regulácii. Ale ani to by som asi nechcel veľmi preháňať.
Môžeme sa tak dostať do situácie, ktorú prirovnám k reguláciám vo vývoji liekov. Samotný vývoj trvá veľmi dlho, pretože ide o preregulované prostredie. Samozrejme, tiež by som nechcel užívať lieky, ktoré neboli testované.
Ale regulácie majú takisto dopad na inovácie v danom sektore. Preto by som nechcel, aby sa AI mimoriadne regulovalo, pretože by to spôsobilo, že by inovácie rástli nižším tempom. Potrebné je v prvom rade nepodceniť riziká.
Marek Rosa, slovenský vývojár a výskumník AI. Foto: Forbes/Ondřej Pýcha
Marek Rosa, slovenský vývojár a výskumník AI. Foto: Forbes/Ondřej Pýcha
Aké riziká máte na mysli?
Jedným rizikom je, že nás AI pripraví o prácu, pretože bude schopné robiť moju aj vašu prácu rýchlejšie a lacnejšie. To znamená, že pre firmu bude ekonomickejšie využívať AI, nie ľudí.
Možno nebude potrebné mať ani majiteľov firiem. Toto všetko môže mať brutálne dopady na spoločnosť a je potrebné byť na to pripravení. Na druhej strane, spomínaný odklad o šesť mesiacov nič nevyrieši.
Posledných desať rokov počúvame hysterické výkriky, ktoré nič nezlepšili. Skôr si myslím, že je potrebné ísť vpred, trénovať AI, ale venovať veľkú pozornosť aj testovaniu.
Písať teoretické články ničomu nepomôže, musíme vytvoriť systém, ktorý funguje a to sa udeje len vtedy, keď bude tréning pokračovať.
Druhým rizikom je, že nás AI všetkých zabije. Je to ale tak vzdialená a malá pravdepodobnosť ako to, že nás všetkých zabije meteorit.
Tak ako tomu predísť?
Verím tomu, že ak sa budú robiť autonómne AI systémy, tak sa bude dbať na kontrolu toho, čo takýto systém robí. Jednoducho, aby sám nerobil niečo nebezpečné.
A to sa týka aj našej firmy Good AI, keďže vyvíjame autonómneho agenta, ktorý je síce umiestnený v počítačovej hre, ale chybou sa môže stať, že sa rozhodne urobiť niečo nebezpečné.
Zatiaľ nejde o robustný systém. Avšak, ak by boli na svete miliardy týchto agentov, nikto by nemal šancu ich kontrolovať. Momentálne sa ale ani nedokážu učiť zo svojich chýb a skúseností.
Nepredvídateľné reakcie
Ako kontrolujete ich vlastnú autonómiu?
Predstavte si, že chatujete s ChatGPT — totiž, náš autonómny agent robí podobnú vec ako ChatGPT. Zadám mu, aby vytvoril nejaký plán.
On napríklad pomocou GPT napíše program, rozhodne sa ho spustiť a ak vidí, že nefunguje, tak ho agent znovu zadá GPT na prepracovanie. A toto môže pokračovať dookola.
Zatiaľ je to dosť pomalé, podobne ako odpovede bota ChatGPT, keď ho používate. To znamená, že máme možnosť vidieť v reálnom čase, čo sa deje a či sa náhodou tento agent nepokúša ovládnuť svet.
Ak by to bežalo rýchlejšie, čo sa určite raz stane, tak to môže byť bez kontroly nebezpečnejšie. Ale tam momentálne ešte nie sme.
Vy ste týchto agentov zakomponovali do hier. Prečo ste sa rozhodli pre gaming?
Hru sme ešte oficiálne nezverejnili, ale keď sa tak stane, tak budeme prví na svete, kto niečo podobné do hier zakomponoval. Ide o v hrách bežne prítomné, takzvané NPC (non player character), teda také postavičky.
V súčasných hrách je presne naskriptované, ako sa majú správať. Napríklad zaútočiť na nepriateľa.
My sme na to išli inak: pomocou GPT sme ich začali učiť, aké majú možnosti v danom prostredí, ako by mali zareagovať na základe svojej povahy, svojich spomienok, prípadne čo by mali urobiť v danom prostredí.
GPT nám emuluje ich akcie a my ich prenesieme do hry.
Ako to v hre reálne vyzerá?
Rád uvádzam ako príklad jednu scénku: ide o dve NPC a jedného hráča. NPC sú manželia a hráč povie manželke, že videl jej manžela, ako sa bozkával s nejakou inou ženou.
To postavičku, ktorej povahu generuje umelá inteligencia, naštve a tá ide za manželom, začne sa s ním hádať, on sa vyhovára a po chvíľke jej prasknú nervy a začne ho biť panvicou.
A on sa rozuteká. To, čo je zaujímavé je, že na tom nie je nič naskriptované.
Umelá inteligencia sa snaží tieto dve NPC emulovať, ich povahu, to, ako dokážu medzi sebou interagovať.
Ak si túto scénu spustím druhýkrát, tak sa môže stať, že manžel presvedčí manželku, že nikoho nebozkával, že si to vymyslel druhý hráč, manželka sa naštve na hráča a začne panvicou biť jeho.
Tento druh NPC bude revolúciou v hrách, pretože doteraz boli NPC statické. Teraz to môže byť zaujímavejšie.
Ako to súvisí s víziou GoodAI?
V krátkodobom horizonte sa sústreďujeme na vývoj všeobecnej umelej inteligencie v hernom prostredí, kde si vieme otestovať autonómnych agentov bez rizika, že zničíme svet. A je to prostredie, ktoré je bezpečné.
To znamená, že ak títo agenti aj nefungujú stopercentne, tak to nevadí. Nie je to také vážne prostredie, ako keď hovoríme o autonómnych autách.
Máme možnosť urobiť komerčný produkt, ktorý nemusí spĺňať až také podmienky na kvalitu, akoby to bolo v inom prostredí.
„Cítim sa tu úplne fantasticky, je to splnený sen,“ hovorí Marek Rosa o svojom novom sídle, krásnej barokovej vile Oranžéria z 18. storočia s anglickým parkom, kam pred pár rokmi presťahoval svoje firmy Good AI a Keen Software House. Foto: Forbes/Ondřej Pýcha
„Cítim sa tu úplne fantasticky, je to splnený sen,“ hovorí Marek Rosa o krásnej barokovej vile Oranžéria z 18. storočia s anglickým parkom, kam pred pár rokmi presťahoval svoje firmy Good AI a Keen Software House. Foto: Forbes/Ondřej Pýcha
Ide vám o zlepšenie zážitku v gamingu alebo o testovanie vašej AI týmto spôsobom?
Ide to ruka v ruke. Trochu sa to odkláňa od nášho dlhodobého cieľa, ktorým je všeobecná umelá inteligencia, pretože sa musíme snažiť napríklad ju maximalizovať pre zábavu našich hráčov.
To znamená, že chceme umelo dramatizovať charaktery, aby reagovali extrémnejšie. Pretože v normálnej situácii, ak by som povedal žene, že jej manžel bozkával inú ženu, asi by okamžite nereagovala do pár sekúnd. Skôr by to trvalo dlhšie.
Ale toto je hra, musíme trochu dramatizovať. Herní agenti majú vlastné ciele, vedia si ich vymýšľať, na to potrebujú mať dlhodobú pamäť aj pamätať si, čo videli, čo si mysleli a vedeli na to nadväzovať.
A zároveň potrebujeme, aby vedeli fungovať v nejakom prostredí, vedeli získavať vstupy z toho prostredia a dokázali ho ovplyvňovať. Takže v tomto to nesie rovnaké prvky ako všeobecní agenti, respektíve AGI.
Budúcnosť programovania
Aký súsvis má AI s aktuálnym boomom okolo no-code platforiem, čiže platforiem, ktoré uľahčujú vytváranie softvéru aj pôvodne neprogramátorom a sú užívateľsky zrozumiteľnejšie?
Je to úplne iná záležitosť. Avšak vidím, že ľudia, ktorí sa venujú no-code, sa hrajú s tým, že používajú GPT na generovanie aplikácií, respektíve v nejakom chate popisujú, akú chcú aplikáciu a GPT im ju vygeneruje v jazyku, ktorému rozumie no-code.
Avšak vždy musí byť, aspoň na nízkom leveli nejaký jazyk, ktorý definuje danú aplikáciu. Budúcnosť programovania vidím v tom, že developeri na pozadí budú komunikovať s ChatGPT systémami a tie budú generovať výsledné programy na pozadí.
Ja si myslím, že skôr než vznikne nejaká rozšírená no-code platforma, tak sa programy budú vytvárať cez GPT. No-code sa ani neuchytí, pretože nemal na to dostatok času a nahradila ho technológia, ktorá je oveľa pohodlnejšia a lepšia.
Ak sa vrátime ku gamingu, tak uplynulé roky boli pre tento segment prosperujúce. Ako sa na ne pozeráte vy?
Asi v pohode. Ale nevidím žiadny pozitívny, ani negatívny dopad Covidu. Nám totiž predaje fluktuujú plus mínus 30 percent podľa toho, koľko aktualizácií vydávame.
Práve teraz máme obdobie, že sme už dlho nevydali aktualizáciu, pretože tá, na ktorej pracujeme, sa ukázala byť zložitejšia, než sme plánovali.
Viem, že v mobilnom biznise nastali problémy kvôli blokovaniu reklám, ale nás sa to netýka. Naša hlavná hra Space Engineers sa posledných desať rokov predáva v konštatných číslach.
Hľadáme investora
Do GoodAI ste investovali 10 miliónov dolárov zo ziskov vášho herného štúdia Keen Software House. Stačí to na chod takejto ambicióznej firmy?
Desať miliónov sme už spotrebovali a musel som do toho vložiť aj ďalšie peniaze.
O akej sume hovoríme?
Nemám to úplne presne spočítané, ale nad rámec tých desiatich miliónov som do firmy vložil ešte ďalšie dva až štyri milióny. Náklady na vývoj nás stoja približne dva milióny dolárov ročne.
Do interiéru vily prúdi cez otvorené okná ľahký letný vánok, hovorí nám Marek Rosa počas rozhovoru, ktorý prebieha ešte v lete cez Zoom. Foto: Ondřej Pýcha
Firmy Mareka Rosu sídlia v pražskej Oranžérii. Foto: Forbes/Ondřej Pýcha
Pred dvoma rokmi ste v našom staršom rozhovore vyhlásili, že investora nehľadáte. Zmenilo sa teda niečo?
V tom čase sme investora naozaj nehľadali. No teraz nám investor dáva kvôli autonómnym agentom zmysel, preto sa v súčasnosti nachádzam v San Franciscu.
Pred dvoma rokmi sme totiž len robili základný výskum a hľadali architektúru, ktorá bola škálovateľná k všeobecnej umelej inteligencii.
Vďaka GPT systémom sa však dnes vieme prepnúť do režimu komercionalizácie, čo bol môj skutočný cieľ s GoodAI.
Nielen robiť základný výskum a písať odborné články na konferencie, ale urobiť aj niečo užitočné, čo sa dá predávať. Čo sa týka investorov, tak sa snažím zorientovať na trhu, zistiť, aké sú možnosti.
Pozeráme sa po investoroch, ktorí by do toho mohli dať peniaze nad rámec toho, čo si môžem dovoliť, aby sme riešenie naškálovali. Malo by ísť o vyššiu sumu, asi 10 — 20 miliónov dolárov.
Zároveň platí, že hru by sme chceli vydať už o pár mesiacov a ak bude úspešná, čomu verím, tak to bude dobrý zdroj príjmov.
Hru teda plánujete vypustiť už tento rok?
Určite áno. V podstate to máme hotové, len to potrebujeme doladiť, aby hra fungovala robustne a aby sa zábavné správanie agentov vyskytovalo častejšie.
Potrebujeme ich trochu podpichnúť, aby sa správali extrémnejšie a bolo to častejšie.
Deadline po dekáde
Zrejme sa už pomaly aj blíži desaťročný deadline, ktorý ste si na vybudovanie general AI dali. Stihnete ho?
Vývoj agentov do našej hry ide ruka v ruke s vývojom všeobecnej umelej inteligencie. Ak sa k nej dostaneme, tak to bude vďaka GPT systémom, ktoré sme my nevymysleli, ale prišli zvonku, no my sme nad nimi vyvinuli všeobecnú umelú inteligenciu. Náš desaťročný plán sa vďaka tomu môže stihnúť.
Čo bude mať podľa vás v najbližšom období najväčší dopad na gaming či AI?
Mohla by to byť napríklad virtuálna realita (VR), ktorá sa medzi hráčmi dobre adaptuje. Veľmi veľa hier vzniká na VR a až sa udivujem, ako sa uživia.
AI sa okrem toho dá využívať na vytváranie kontentu v hrách — napríklad grafík a modelov. To ale považujem za nezaujímavé, pretože to vlastne len zlacní vývoj hier a niekoho to pripraví o prácu, neprinesie to novú hodnotu.
Trochu je zaujímavejšie, ak AI nástroje začnú využívať grafici, aby vylepšili svoju produktivitu. Potom aj maličký tím dokáže urobiť hry v kvalite, na ktorú by inak bolo treba stovky ľudí.
Myslím si, že to bude bežné. O pár rokov bude môcť trojčlenný tím urobiť hru, ktorá bude vyzerať ako Call Of Duty.
Marek Rosa si myslí, že do budúcna umožní ChatGPT vytvoriť aj menším tímom robustné hry, ako je napríklad Call of Duty. Foto: Forbes/Ondřej Pýcha
Marek Rosa si myslí, že do budúcna umožní ChatGPT vytvoriť aj menším tímom robustné hry, ako je napríklad Call of Duty. Foto: Forbes/Ondřej Pýcha
Slovné spojenie AI však už teraz využívajú mnohé, aj menšie startupy, a občas sa môže zdať, že ide skôr o buzzword, ako bol kedysi napríklad blockchain. Ako to rozlíšiť?
Od blockchainu a web3 (decentralizácia webu, pozn. red.), sa to odlišuje tým, že spomínané veci neboli nikdy užitočné pre nikoho. Bol to len hype. Ak pôjdem do obchodu a kúpim si chlieb a najem sa, tak ten chlieb je pre mňa užitočný. To je neodškriepiteľný fakt.
Blockchain, až na pár prípadov, ktoré sú tiež diskutabilné, nikomu nezlepšil život. AI, napríklad ako ChatGPT, zlepšil život už obrovskému množstvu ľudí, programátorom a podobne.
Minimálne v tomto sa to odlišuje. A ako odlíšiť startupy, ktoré používajú AI len ako marketing… Bol to problém posledných rokov, keď AI bolo len jedným percentom celého produktu, nie kľúčová vec.
Teraz, keď s tým už majú ľudia určitú skúsenosť, je jednoduché určiť či je dané AI zaujímavé. Tohto by som sa nebál, ani toho, že je to len nejaký buzzword.
Asi sa budeme dostávať do situácie, kde tím startupu nebude mať ani machine learning, ale skôr programátorov, ktorí budú vedieť šikovne využívať GPT na to, aby vylepšili svoj produkt.
