Ako vznikal vôbec prvý ucelený súbor zákonov na svete upravujúci fungovanie umelej inteligencie, teda Akt o umelej inteligencii z dielne Európskej únie? Svoje o tom vie profesor Mark Coeckelbergh, ktorý na ňom pracoval od roku 2018 ako člen expertnej skupiny.
Dnes AI akt považuje aj napriek jeho medzerám za „dobrý začiatok“, no zároveň spochybňuje spôsob, akým vznikal. Finálny text europoslanci schválili na konci minulého roka. Firmy a úrady tak majú teraz dva roky na to, aby sa pripravili, kým začne byť regulácia naplno záväzná.
Pred viac ako šiestimi rokmi na začiatku tohto procesu stála a dva roky pracovala takzvaná High Level Expert Group on AI (skupina odborníkov pre umelú inteligenciu), ktorej súčasťou bol aj Mark Coeckelbergh, filozof technológií, profesor Viedenskej univerzity a vedúci výskumník Centra pre environmentálnu a technologickú etiku pri Filozofickom ústave Akadémie vied ČR.
Odvtedy išla umelá inteligencia závratne dopredu a AI akt je tak podľa profesora Coeckelbergha v niektorých otázkach príliš striktný a naopak v niektorých príliš mierny. Prelomová regulácia delí AI systémy na tie s minimálnym, špecifickým, vysokým a neprijateľným rizikom. Posudzuje ich dôveryhodnosť a transparentnosť a podľa toho ich pomocou nových zákonov zväzuje.
Vysoké pokuty nemusia pomôcť
Za jeho porušenie majú padať vysoké pokuty. „Mám však pocit, že mnohé spoločnosti si aj tak budú robiť, čo chcú,“ komentuje Mark Coeckelbergh. Podľa neho má totiž AI akt výrazné medzery. Zároveň však tvrdí, že je to dobrý začiatok toho, ako by sa k AI malo pristupovať.
Dodáva, že je potrebné riešiť AI z globálnej, nie lokálnej perspektívy, lebo jej etické dôsledky sú univerzálne. Ak sa to včas nepodarí, môže to mať podľa profesora Coeckelbergha rozsiahle následky. „Myslím, že hrozí, že ľudia sa postavia k AI chrbtom,“ tvrdí.
Navyše rok 2024 je supervolebný. „Už v tejto chvíli má umelá inteligencia moc manipulovať správanie voličov,“ komentuje profesor Coeckelbergh, podľa ktorého používanie AI na politickom poli nie je dostatočne regulované. „Čaká nás v tejto oblasti tento rok veľa škandálov,“ myslí si.
Kedy ste naposledy využili AI?
Pred pár dňami som použil ChatGPT na hľadanie informácií, no tie som potom pre istotu skontroloval. Ako zdroj informácií sa síce zlepšuje, ale ešte nie je dosť dobrý. Okolo mnohých týchto technológií je prehnaný humbug, to je však zámer.
Zámer?
Áno, aby dostali investície, aby mali viac zákazníkov a tým aj viac dát. Neznamená to, že sú tie technológie také dobré, ako hovoria. Vždy sa stretávame s rozdielom medzi očakávaním a realitou a vzťah, ktorý si aj vďaka tomu k AI budujeme, nie je zdravý.
Ako to myslíte?
Napríklad to, že máte pocit, že s niekým komunikujete. Začnete si k umelej inteligencii budovať vzťah a dôverovať jej.
A nedá sa to isté povedať o Googli ako vyhľadávači informácií?
Nie je to to isté. Spôsoby prezentácie aj interakcie sú iné. Tá zdanlivá konverzácia môže vyvolávať mylnú predstavu a dôveru.
Boli ste súčasťou expertných poradcov v rámci tvorby európskeho AI aktu, povedzte nám o tom…
Skupina fungovala dva roky, konkrétne medzi rokmi 2018 a 2020. Boli tam akademici a ľudia z rôznych priemyslov. Išlo o mix ľudí, ktorí mali politickú agendu a potom ľudí ako ja, ktorí sa snažili pozerať na problematické záležitosti a ich cieľom je všeobecné blaho.
Ako to teda prebiehalo?
Výstupom našej práce bol komplexný súbor informácií. Politici ho však nemuseli brať do úvahy. A nakoniec tiež urobili niečo iné. Popravde tento proces nebol dostatočne transparentný. Trialógové rokovania (neformálne rokovanie o legislatívnych návrhoch, na ktorom sa schádzajú zástupcovia Európskeho parlamentu, Rady Európskej únie a Európskej komisie, pozn. red.) prebiehali iba v určitých politických kruhoch v kontexte Európskeho parlamentu.
V tom čase už do toho nezasahovali ľudia ako ja, ale ani občania. Takže som popravde spochybňoval demokratické pozadie AI aktu a analyzujem to v knihe Why AI Undermines Democracy and What To Do About It. Zamýšľam sa v nej nad tým, ako mať správu umelej inteligencie viac demokratickú.
Ako?
Má to viac vrstiev. Je potrebné urobiť inštitúcie viac demokratické. Veľa toho, čo sa deje, sa deje v tých spoločenských kruhoch, do ktorých nedohliadneme. Za to môže politika, pretože priamo nezapája svojich občanov. Mali by sme sa zamerať na demokratizáciu inštitúcií a lepšie kombinovať expertízu napríklad v oblasti nových technológií.
Staromódne inštitúcie vs. AI
Popíšte mi viac demokratizáciu inštitúcií…
Vezmite si napríklad parlament, čo je pomerne staromódna inštitúcia z 19. storočia. Nie je adaptovaný na modernú dobu, v ktorej sme obklopení rýchlo sa vyvíjajúcimi technológiami.
Foto: archív Marka Coeckelbergha
Podľa vás by sa teda spoločnosť mala viac podieľať na vývoji technológií?
Áno, mali by sme sa na tom podieľať a byť schopní do toho zasahovať. Chceme, aby to niekde v ústraní robili iba „big-tech“ spoločnosti? Myslím, že by sme do toho minimálne mali byť schopní zasiahnuť na úrovni verejných záujmov.
Hnacou silou by malo byť všeobecné blaho a nie súkromné záujmy. Spoločnosti tvrdia, že zohľadňujú etiku, avšak zároveň musia vykazovať rast u svojich akcionárov a lákať nových investorov. Tuším, že etika v popredí rozhodne nie je a celý proces je vysoko netransparentný.
A čo AI akt ako taký? Nebude zaostávať v porovnaní s vývojom nových technológií?
AI akt je teraz tzv. adoptovaný, ale bude trvať ďalšie dva roky kým budú všetky pravidlá fungovať. Hovoríme teda o roku 2026, čo bude v skutočnosti celých osem rokov po tom, čo naša expertná skupina začala svoju dvojročnú prácu.
A za osem rokov sa toho udialo mnoho…
Áno a časom prebehli aj nejaké úpravy, ale bývalo by dobré, samozrejme, uvažovať o generatívnej umelej inteligencii skôr. Vývoj ide dopredu strašne rýchlo. Myslím, že pravidlá a regulácia nestačia. Mali by sme byť schopní sa zapojiť priamo do vývoja technológií a rozhodovania o nich, ale musí to byť rýchlejšie, inak nám ujde vlak.
Ťažko sa dá tiež predvídať efekt takýchto pravidiel a regulácií.
Je to tak. Môže sa stať, že vďaka regulácii tu budeme mať lepší svet, ale tiež môžeme zistiť, že má medzery a veľké spoločnosti ju začnú ľahko obchádzať. Aj keď je za tým osem rokov práce, nikdy nevieme, ako to bude fungovať. Chceme rešpektovať iniciatívu a kreativitu, ale zároveň sa uistiť, že všetko prebieha eticky a demokraticky.
Dlhodobé dopady a rýchle zisky
Aký zatiaľ pozorujete efekt?
Tenziu. Keď však na tom budeme stále pracovať, myslím, že sa dostaneme do situácie, keď zarobia všetci. Problém je, že na biznis, inovácie a mnohé rozhodnutia, ktoré sa v súčasnosti robia, sa pozeráme iba z krátkodobej perspektívy a rýchlych ziskov.
Zabúdame na dlhodobé dopady. Z hľadiska inovácie technológií by sa priemysel a spoločnosť mali preťať tak, aby mali z dlhodobého hľadiska čo najprospešnejší efekt.
Zarobia teda na AI akte všetci?
Záleží na tom, čo ukáže budúcnosť. Nie som si istý. Mám pocit, že mnohé spoločnosti si aj tak budú robiť, čo chcú. Bolo by lepšie, keby regulácia bola efektívnejšia a spoločnosti nemohli využívať medzery v zákone tak jednoducho.
Zároveň by sa však mal urobiť dostatok priestoru na inovácie. V niečom je AI akt príliš zaťažený a v niečom príliš mierny. Malo by sa ďalej pracovať na tom, aby bola etika AI aktu aplikovateľná globálne.
Je etika univerzálna?
Absolútne. Chcel by som, aby AI mala jednotné pravidlá a reguláciu na globálnej úrovni. Keď máte globálny problém, tak je potrebné mať globálne riešenie. Podobne, ako sa zhodneme v otázke nukleárnych zbraní a ako by sme sa mali dohodnúť aj na globálnom otepľovaní. Tak, aby občania a používatelia mohli mať pocit istoty, pocit, že sa môžu o niečo oprieť.
Nie je to utópia?
Mnohí by povedali, že je to utópia a ukazujú na nevyriešené geopolitické konflikty a aké je ťažké zhodnúť sa na jednej veci. Ja som však optimista. Napríklad po druhej svetovej vojne sme zakladali medzinárodné organizácie. Samotná Európska únia je nadnárodná organizácia, je možné nájsť balans. Globálne otepľovanie a AI – dve veľké témy, ktoré by sme naozaj mali riešiť z globálnej perspektívy.
A keď nie?
Myslím, že hrozí, že ľudia sa postavia k AI chrbtom.
AI v bitke o politické kreslá
Tento rok nás čaká supervolebný rok. Čo nás z hľadiska technológií čaká?
Už v tejto chvíli má AI moc manipulovať správanie voličov. Dáta zbierané zo sociálnych médií sú analyzované a použité počas volieb. Myslím, že nás počas roka čaká v tejto oblasti veľa škandálov.
Ako v tomto môže do budúcnosti pomôcť AI akt?
AI akt tomu zatiaľ asi zabrániť nezvládne. Hoci v zákone o AI o tom existujú niektoré relevantné predpisy, používanie AI na politickom poli nie je dostatočne regulované.
Ako teda hodnotíte AI akt ako celok?
Je to celkom dobrý začiatok, ako k umelej inteligencii pristupovať. Napríklad GDPR má ohlas vo svete, verím, že aj na AI akt budú ostatné krajiny v Európe dobre reagovať.
Čína, USA a Európska únia majú veľmi rozdielne pravidlá na používanie AI. Ako docieliť to, aby bola univerzálna?
Musíme nájsť harmóniu medzi súkromnými iniciatívami a vládnou reguláciou. Čína je často vnímaná ako záporák, ale je to krajina, ktorá dokáže hľadieť do budúcnosti a podľa toho plánovať svoju ekonómiu.
Nehovorím, že by sme mali regulovať rovnakým spôsobom ako Čína, ale musíte mať politickú a ekonomickú víziu budúcnosti. Európa má dobré predpoklady na nájdenie rovnováhy hodnôt. Inovácia a zodpovednosť môžu ísť ruka v ruke. Nehovorím rovno zlúčiť a namixovať všetky pravidlá a regulácie, ale Európa je dobre umiestnená na to, aby našla balans hodnôt.
Článok vyšiel na Forbes.cz. Autorkou je Julie Mahlerová.
