Algoritmy sú všade a ovplyvňujú nás viac, ako si myslíme, hovorí Lenka Molins, rodáčka z Piešťan, ktorá už štrnásť rokov žije a pracuje v zahraničí.
Z pozície zástupkyne riaditeľa v tíme pre umelú inteligenciu, sociálne siete a internet v londýnskom Deloitte radí veľkým technologickým spoločnostiam, ako implementovať technológie v boji proti dezinformáciám či nenávistným prejavom a v moderácii obsahu alebo ochrane detí online.
Právo ste študovali v Londýne a v rámci programu Erasmus aj v Madride. Kariéru ste však odštartovali na obchodnom parkete v Barclays. Čo vás viedlo do finančnej sféry?
Finančný sektor, najmä burza cenných papierov a investičné bankovníctvo boli považované za najlukratívnejšie odvetvia, do ktorých sa dalo po štúdiu dostať. Pre mňa bola kľúčová najmä finančná istota, po rokoch neustálej práce popri štúdiu som túžila po stabilite. Zároveň šlo o pozície, na ktoré sa hlásili tisíce absolventov a len hŕstka z nich mala šancu uspieť.
Pamätáte si, aký bol pomer prihlášok a pozícií, ktoré sa obsadzovali?
Do absolventského programu Barclays sa v roku 2014, keď som sa o prácu uchádzala aj ja, prihlásilo približne 42-tisíc študentov a brali menej ako štyristo. Úspešných bolo niečo okolo 0,9 percenta z prihlásených.
Ja som nemala žiadny plán B. Investičné banky uvádzajú, že prijímajú len tých najlepších z najlepších – ľudí s vysokým hodnotením z prestížnych univerzít, ktorí dokázali vyniknúť. Čoskoro som však pochopila, že proces výberu je oveľa zložitejší a z veľkej časti riadený algoritmami.
Lenka Molins v Oxforde. Foto: archív LM
V akom zmysle?
Predstavte si, že na tieto pozície dostanú tisíce prihlášok. Je nevyhnutné, aby mali nejaký systém ich spracovania. To, že to je riadené aj algoritmami, som pochopila, keď som si všimla, že ľudia, ktorí sa na tieto miesta dostali v minulosti a ktorých som kontaktovala, sa buď dostali cez výberové konania všetkých bánk, alebo vôbec. Veľakrát medzi ich skúsenosťami a životopismi nebol takmer žiadny rozdiel.
Ako ste s týmito poznatkami naložili?
Rozhodla som sa experimentovať a poslala som viac ako päťdesiat prihlášok s rôznymi formátmi, štruktúrami a formuláciami odpovedí na otázky do viacerých firiem. Dokonca aj tam, kam som sa nechcela dostať.
Popritom som sledovala, ktoré z nich prechádzali cez filtre. Po čase som si úspešné techniky osvojila a začala som zasielať hlavne prihlášky do investičných bánk a naraz som sa ocitla v posledných kolách pohovorov s piatimi investičnými bankami. Barclays bola prvá, ktorá mi ponúkla pozíciu, a ja som ju prijala.
V Barclays ste sa zameriavali na algoritmy, neskôr na AI používané na finančných trhoch a na vysokofrekvenčné obchodovanie hedžových fondov. Akú rolu tam zohrávajú?
V oblasti finančných služieb algoritmy stále viac nahrádzajú ľudí. V čase, keď som začínala, algoritmy postupne preberali úlohy obchodníkov. Smerovali objednávky na burzu s najnižšou cenou akcií alebo nastavovali ceny na základe najnovších pohybov na trhu.
Algoritmy dokážu na pohyby na burze reagovať oveľa rýchlejšie ako ľudia. Cenu predaja a kúpy dokážu zmeniť v priebehu milisekundy, zatiaľ čo obchodníkom to trvá dlhšie. Vplyv algoritmov postupne rástol a začali rásť aj obavy s nimi spojené.
V roku 2012 sa stalo, že americká spoločnosť Knight Capital Group zadala na jednu z búrz zlý algoritmus a v priebehu menej ako hodiny prišli o viac ako 440 miliónov dolárov. Aj preto sa finančné inštitúcie začali viac sústreďovať nielen na technickú funkčnosť algoritmov, ale aj na ich právne aspekty.
Práve tu sa začala moja cesta v segmente. Zaviedli sa nové regulácie, ako napríklad MiFID II a PRA SS5/18.
Čo bolo ich cieľom?
Predovšetkým vyžadovali dôkladné testovanie algoritmov pred nasadením. Na reguláciách som pracovala aj ja, chodievala som na obchodné parkety, či už počas môjho pôsobenia v Barclays, ale aj potom, keď som pracovala v EY a neskôr v Deloitte.
Čo konkrétne ste sledovali?
Skúmali sme algoritmy – ako fungujú, či sú funkčné, či majú všetky náležitosti z legislatívneho hľadiska. Faktom je, že algoritmy stále viac nahrádzajú ľudí. Nielen vo finančnom sektore, ale všade. Pozrite sa napríklad na oblasť náboru ľudí, personálne oddelenia, bonusy, hodnotenie ľudí – to všetko je založené na algoritmoch.
Aj v audite už dnes používame na niektoré úkony algoritmy. Vývoj napreduje tak rýchlo, že v niektorých firmách sú už teraz mnohé dôležité rozhodnutia ponechané na algoritmy namiesto ľudí. Ich vplyv je obrovský a bude ďalej rásť.
Mnohí ľudia ich vývoj vnímajú ako hrozbu. Obávajú sa, čo algoritmy a umelá inteligencia spôsobia, že vezmú ľuďom prácu, odosobní sa rozhodovanie… Ako sa na tieto obavy pozeráte vy?
Myslím si, že algoritmy menia skôr oblasť tzv. white collar jobs (administratívne, manažérske, špecializované pozície, napr. právne, audítorské a ďalšie špecializované odborné činnosti, pozn. red.), ale nie až tak blue collar jobs (manuálne pracovné činnosti).
Ak ste zdravotná sestra, nikto vás pri pacientoch nedokáže nahradiť, ale ak pracujete napríklad ako právnik, môže sa vám to stať. Je prirodzené, že ľudia sa boja a premýšľajú, čo sa stane, keď príde AGI (Artificial General Intelligence, typ umelej inteligencie, ktorej cieľom je replikovať kognitívne schopnosti človeka, pozn. red.), ktorá bude múdrejšia ako my.
Myslím si, že vývoj so sebou prinesie – a už aj prináša – úplne nové pracovné pozície. Sama som toho dôkazom – preverujem algoritmy. Už teraz sú tu ľudia vykonávajúci pozície, ktoré predtým neexistovali, ako „fact-checkeri“, ľudia v oblasti moderácie obsahu. Ďalšie nové pozície ešte len prídu.
Vo finančníctve ste získali skúsenosti v postbrexitovom období. Čo všetko sa vtedy dialo?
Po brexite sa investičné banky snažili zabezpečiť, aby mohli naďalej fungovať v Európe, preto hromadne zakladali dcérske spoločnosti na kontinente. Mnohé totiž dovtedy mali sídla práve v Londýne. Ja som bola pri tom, bola som zodpovedná za presun viacerých pobočiek investičných bánk do Európy.
Čo tieto presuny zahŕňali?
Išlo nielen o technickú stránku presunu, ale aj o mnohé strategické rozhodnutia – od návrhu nových obchodných trás až po rokovania o nových zmluvách s európskymi burzami a clearingovými domami.
Vývoj napreduje tak rýchlo, že v niektorých firmách sú už teraz mnohé rozhodnutia ponechané na algoritmy.
Každý kontrakt musel byť nanovo nastavený, aby vyhovoval novým regulačným požiadavkám. Bolo to náročné a hektické obdobie, no z profesionálneho hľadiska veľmi zaujímavé. Aj to je dôvod, prečo mám konzulting tak rada, stále sa učím niečo nové.
Kedy sa naplno prejavil váš záujem o témy súvisiace s AI?
Práve v spomínanom období. Začala som sa venovať reguláciám v oblasti blockchainu a prvým návrhom modelov umelej inteligencie na finančných trhoch. Bolo fascinujúce sledovať, ako sa nové technológie začínajú presadzovať vo finančnom sektore, a zároveň byť pri tvorbe ich regulačného rámca.
Počas môjho pôsobenia v EY som v roku 2017 získala najvyššie ocenenie v oblasti investičného compliance, dodnes to považujem za veľké uznanie mojej práce. Popritom som študovala globálne regulácie na Cambridge Judge Business School.
Čím bolo spôsobené, že vás nové technológie tak bavili?
Bolo to práve preto, aký veľký vplyv majú na nás AI a algoritmy, pričom často si to ani neuvedomujeme. Dnes sú dôležité absolútne vo všetkom. Môže od nich závisieť to, či dostanete hypotéku, získate prácu a za akých podmienok vás poistia v poisťovni.
Napríklad som videla, že technologické firmy postupne začali mať ešte väčší vplyv ako finančné spoločnosti, pretože majú veľmi silný kontakt s užívateľmi. Majú o nich mnoho dát, ktoré sa môžu využiť rôznymi spôsobmi, dokonca aj na zmeny práv a v politickom dianí.
Príklad?
Napríklad Uber alebo Airbnb. Keď služby prišli do Barcelony alebo do iných miest a štát rozhodol, že tam nemôžu pôsobiť, okamžite začali mobilizovať svojich používateľov, aby vyjadrili nesúhlas s obmedzeniami, či už išlo o podpisovanie petícií alebo rôzne formy protestov… Technologické firmy majú obrovský vplyv aj z hľadiska geopolitiky.
Od roku 2021 pôsobíte v Deloitte na pozícii Associate Director v tíme pre umelú inteligenciu, sociálne siete a internet v Londýne. Ako sa tento transfer udial?
Deloitte si ma všimol kvôli mojej predošlej práci a skúsenostiam. Tam som začínala v tíme, ktorý sa sústredil čisto na algoritmy a AI najmä vo finančných trhoch. Už vtedy ma to ťahalo viac k technológií. Pamätám si, ako som na začiatku roku 2022 sedela na obchodnom parkete veľkej investičnej banky.
Pracovala som na kontrole algoritmov, aby sme zabezpečili ich súlad s platnými zákonmi. Vtedy prišla správa o ruskej invázii na Ukrajinu. Na obrazovkách v miestnosti bežali nepretržite správy, trh reagoval v reálnom čase a ja som sa vôbec nedokázala sústrediť na prácu.
Počas ruskej invázie na Ukrajinu som si uvedomila, že chcem posunúť svoje zameranie z analýzy algoritmov vo finančných trhoch na analýzu algoritmov na sociálnych sieťach.
Čo vás na tom fascinovalo najviac?
Počas vojny ma veľmi zasiahlo, ako masová online propaganda formovala verejnú mienku, najmä falošné naratívy o ukrajinských utečencoch, ktoré sa šírili na sociálnych sieťach.
Na začiatku roku 2022 som prišla za svojím vtedajším partnerom v audítorskom tíme s nápadom presunúť našu expertízu do tejto oblasti, najmä v súvislosti s novým Európskym nariadením o digitálnych službách (EU DSA). Téma sa vtedy len rodila a začala som na nej pracovať.
Ako sa váš výskum tejto témy vyvíjal?
Môj projekt rýchlo naberal na dynamike, postupne sa k nemu pridali aj ďalší odborníci. Z pôvodne jedného človeka som vytvorila päťčlenný tím.
Viedla som vývoj prvej audítorskej metodológie pre EU DSA na trhu. Zapojila som sa do spolupráce aj s viacerými európskymi inštitúciami, bohužiaľ, nemôžem ich špecifikovať, keďže niektoré témy boli dôverné. Na štandardizácii audítorskej metodológie pre DSA sa pracuje doteraz.
Spomínali sme rastúci vplyv sociálnych sietí. To, že sa zneužívajú na manipulovanie verejnej mienky, je už evidentné. V čom spočívajú najväčšie výzvy v oblasti?
Výziev je dosť a každý rok sa menia. Vlani sa zásadne riešili voľby, a to nielen v USA. Volilo sa vo viac ako šesťdesiatich krajinách sveta. Teraz sa riešia geopolitika, sloboda prejavu verzus nenávistné prejavy a dezinformácie. O tejto téme by sa dalo rozprávať donekonečna.
Významnou zmenou je, že témou bola najmä sloboda, po roku 2010 sa do popredia dostali témy ako verejné zdravie, čo bolo citeľné najmä v čase pandémie. Dnes vidíme rozmach deepfake videí, čo má na ľudí obrovský vplyv.
Aký veľký je tento problém?
Je to obrovský problém. Jedna britská mimovládna organizácia napríklad zistila, že až 90 percent deepfake videí zobrazuje ženy v sexuálnom kontexte. V Spojenom kráľovstve bol dokonca prípad, že si jedno dievča vlani vzalo život, pretože ju niekto podobnými videami šikanoval.
Boli aj prípady, keď sa ľuďom vyhrážali, že na LinkedIne zverejnia ich deepfake fotografie so sexuálnym obsahom.
Ako ovplyvňuje rozmach negatívnych aktivít na sociálnych sieťach firmy?
Aj firmy bojujú stále s niečím iným. Zároveň sa snažia spolupracovať s expertmi, v mnohých otázkach sa hlavne potrebujú poradiť. Našťastie vznikajú nové technologické spôsoby, ako problémové aktivity identifikovať.
Keď som spomínala ten príklad s dievčaťom, ktoré spáchalo samovraždu, jedna mimovládna organizácia prišla s aplikáciou, ktorá sa volá Stop NCII (Stop non-consensual intimate image abuse – Zastavme nedobrovoľné zneužívanie intímnych snímok, pozn. red.).
Ak niekto vytvorí vašu deepfake fotku, ktorá sa snaží navodiť dojem, že vystupujete v porne, môžete snímku vložiť do tejto aplikácie, ktorá funguje na všetkých sociálnych sieťach, a tieto snímky vymaže.
Vznikajú teda rôzne aktivity a skupiny, ktoré pomáhajú zmierniť negatívne prejavy šíriace sa pomocou sociálnych platforiem. Napokon aj technologické firmy sa snažia znižovať negatívne efekty, ktoré ich fungovanie môže spôsobovať.
Bežnému užívateľovi sa však môže zdať, že to veľmi nepomáha…
Je to komplikované, pretože ak ste technologická firma a máte problém s nenávistnými komentármi, môžete nastaviť algoritmy tak, že vymažete všetko. Keď ste nastavení tak, že vymažete všetko, musíte počítať s tým, že niektorí ľudia začnú ako nenávistné prejavy označovať aj veci, ktoré nimi vôbec nie sú.
Robia to len preto, aby dosiahli zmazanie toho, čo sa im nepáči. Ako súčasť konkurenčného boja to môžu robiť aj niektoré firmy svojej konkurencii.
Ak napríklad máte v jednom meste dve firmy, ktoré servisujú bicykle alebo počítače, a jedna z nich nechce, aby mala v meste konkurenciu, môže svojho konkurenta neustále označovať z dôvodu nenávistných prejavov. Predtým boli algoritmy nastavené veľmi citlivo, ale našli sa ľudia, ktorí ich reálne zneužívali.
Aké hrozby vidíte do budúcnosti?
Dnes je globálne silný trend veľmi emocionálnej politiky. Politici chcú na seba strhnúť veľa pozornosti, potrebujú veľa sledovateľov, aby získali hlasy, a preto často hovoria aj extrémnejšie veci. Žijeme v dobe, keď sa to považuje za normálne, a pritom to vôbec normálne nie je.
Ďalší aspekt je zaujatá žurnalistika. Kedysi boli nezávislé noviny kritické ku všetkým. Dnes to je často tak, že kritizujú len jednu stranu. Pozrite sa napríklad na niektoré americké médiá. Vidíte, že sa ich správy úplne zhodujú s tým, ktorú politickú stranu podporujú.
To je problém, pretože ľudia prestávajú veriť médiám. Tretia vec sú algoritmy, k tomu sa ešte vrátim. A štvrtá vec je veľký pocit nespravodlivosti medzi ľuďmi. Algoritmy vedia rýchlo zistiť, do akej skupiny sa radíme.
Čo z toho vyplýva?
Vysvetlím to takto: algoritmy fungujú ako marketing. Ak sa mi páči blúzka v Zare, tak sa mi pravdepodobne bude páčiť aj podobná z Manga a asi aj tento šál z Bershky.
Sú tam aj iné faktory, napríklad s kým sa priatelíte online, ktorým stránkam ste dávali lajky, s kým si často vymieňate obrázky a názory, aké typy produktov kupujete online atď. Toto všetko môže o vás prezradiť, aký typ človeka ste a aké máte politické názory. To isté platí aj pre spravodajstvo.
Ak sledujem CNN a moji známi lajkujú demokratické stránky, tak je veľmi pravdepodobné, že sa mi budú páčiť názory AOC (americká politička a aktivista Alexandria Ocasio-Cortez, členka Demokratickej strany, pozn. red.).
Ďalšia vec je, že je jedno, v ktorej skupine ste, či ste na strane Palestíny, či ste v Rusku alebo Ukrajine. Hlavný naratív je v každej skupine veľmi podobný: moja skupina podporuje stranu, ktorá je morálne vyššie a správa sa férovo.
Naopak, tá druhá strana nehľadí na pravidlá, zneužíva svoje postavenie, klame a je nemorálna. Tento naratív vyvoláva silné emócie, najmä hnev, ktorý sa prehlbuje s každou ďalšou správou, „meme“ alebo príspevkom v online priestore. Čím viac takéhoto obsahu človek konzumuje, tým viac sa cíti nahnevaný a polarizovaný – a v extrémnych prípadoch to môže viesť až k radikalizácii online.
archív Lenky Molins
Aké to má následky?
V súčasnej spoločnosti sú ľudia oveľa viac polarizovaní než v minulosti. Dokonca aj rodinní príslušníci a priatelia sa od seba vzďaľujú pre politické názory. V USA už polarizácia údajne ovplyvňuje aj podiel ľudí, ktorí zostávajú slobodní – muži sú totiž častejšie konzervatívni republikáni, zatiaľ čo ženy inklinujú k liberálnym postojom.
Podľa aktuálnych štúdií je jedným z hlavných problémov aj to, že ľudia sa začali silno identifikovať so svojimi politickými názormi.
Výsledkom je, že tých, ktorí majú opačné presvedčenie, vnímame nielen ako ľudí s odlišným pohľadom na svet, ale ako dezinformovaných alebo morálne skazených – ako tých, ktorí podporujú zlo, nenávisť a klamstvá. Tento jav je v modernej spoločnosti novým fenoménom a v takejto miere predtým neexistoval.
Ako sa dá toto vyriešiť z pohľadu nastavenia sociálnych sietí?
Jedna z vecí, na ktorej pracujú v technologickom inkubátore Jigsaw (vytvorila ho spoločnosť Google, pozn. red.), je otázka, či by ľudia, ktorí sú na jednej strane pólu, nemali do svojich „feedov“ dostávať akoby „nútene“ aj niečo z opačného brehu. A platilo by to aj naopak.
Nie preto, že by sa ich niekto snažil presvedčiť o opaku, ale preto, aby dokázali vnímať a počúvať aj opačnú stranu; aby sa oba extrémy na základe nejakých argumentov posunuli od extrému o niečo viac k stredu. Niečo také by podľa mňa bolo osožné v spoločnosti, politike aj v žurnalistike.
Spomínali ste, že pracujete aj na regulačných vyšetrovaniach technologických firiem. Aký je rozdiel medzi investigáciami vo finančnom a technologickom sektore?
Najzásadnejší rozdiel je v tom, že ak sa vo financiách niečo pokazí, takmer vždy sa dá určiť, kde sa stala chyba a aký zákon bol porušený. V technológiách je to iné.
Hoci nové regulácie vytvorili rámec pre technologické firmy, neustále vznikajú nové výzvy a otázky, na ktoré zákony ešte nemajú jasné odpovede.
Napríklad deepfake videá politikov, ktoré sa šíria online – mnohé krajiny stále nemajú zákony, ktoré by ich regulovali. Ešte zložitejšie sú etické otázky, kde často neexistuje jednoznačná odpoveď.
O akých situáciách hovoríme?
Napríklad ak sa žena žijúca v Saudskej Arábii opýta jazykového modelu otázku, čo by si mala obliecť na futbalový zápas, mal by jej odporučiť tradičné saudskoarabské oblečenie alebo západné oblečenie?
Ak jej odporučí tradičné oblečenie, môže sa stať, že to posilní lokálne zaužívané normy, ktoré môžu viesť k potláčaniu práv žien. Ak jej odporučí západné oblečenie – tričko, rifle a podobne, môže byť model obvinený z kultúrnej propagandy západných hodnôt.
Toto ukazuje, aké komplexné sú technologické a etické otázky. Zatiaľ čo v tradičných sektoroch, ako sú financie, existujú jasné pravidlá, v technológiách sa regulácie stále dobiehajú a musia sa prispôsobovať novým výzvam.
Kto je Lenka Molins
Lenka Molins (rod. Fačkovcová) študovala na slovensko-španielskom gymnáziu v Novom Meste nad Váhom a neskôr na Gymnázium Jura Hronca v Bratislave. Vyštudovala právo v Londýne a Madride, kvalifikovala sa ako právnička v New Yorku a magisterské štúdium si robila na Oxfordskej univerzite na Oxford Internet Institute.
Kariéru začínala v medzinárodnej bankovej inštitúcii Barclays, kde analyzovala algoritmy a neskôr AI používané na finančných trhoch.
Neskôr prešla do konzultačnej sféry, najskôr pôsobila v EY, dnes pracuje ako zástupkyňa riaditeľa v tíme pre umelú inteligenciu, sociálne siete a internet v Deloitte v Londýne a veľkým technologickým spoločnostiam radí pri implementácii systémov v boji proti dezinformáciám či nenávistným prejavom.
Získali ste právnickú kvalifikáciu v štáte New York a čoskoro sa tam budete aj sťahovať. Čo presne vás tam z profesijného hľadiska čaká?
V New Yorku plánujem pokračovať v spolupráci s americkými technologickými spoločnosťami, najmä v oblasti regulácií, regulačných vyšetrovaní, etiky a integrity. V USA sa prijímajú kľúčové rozhodnutia o nových produktoch a funkciách, a preto sa teším na možnosť pracovať priamo v centre diania.
Prístup k technologickým firmám v EÚ a USA je odlišný, v Európe technologické firmy čelia väčšej regulácii ako za Atlantikom. Aká je podľa vás správna cesta?
Správny prístup závisí od toho, čo je cieľom. Ak chceme podporiť rýchly rozvoj AI a technologických firiem, menej regulácií znamená viac inovácií. Vidíme to v USA a Číne, ktoré medzi sebou súperia o technologické prvenstvo.
Obe krajiny podporujú svoje súkromné technologické firmy, pomáhajú im expandovať do zahraničia a posilňujú tým svoj vplyv vo svete. Ten sa prejavil aj počas vojny na Ukrajine. Microsoft pomohol odraziť kybernetické útoky, Amazon ochránil ukrajinské dáta a satelity Starlink zabezpečili internetové spojenie.
Takýto vplyv si buduje aj Čína a čínske firmy…
Čína predáva svoje technológie do zahraničia za nízke ceny, čím si buduje závislosť iných krajín od jej systémov. Zároveň vyvíja technológie, ktoré by v Európe neprešli reguláciami, napríklad niektoré masové sledovacie systémy.
V zahraničí ich testuje, zdokonaľuje svoje algoritmy a posilňuje tak svoj technologický vplyv. Svet sa začína rozdeľovať na dva tábory – na krajiny, ktoré preferujú americkú technológiu, alebo čínsku. Toto rozhodnutie krajín závisí od bezpečnostných a ekonomických vzťahov.
A čo Európa?
Európska únia pristupuje k technológiám inak. Kladie dôraz na regulácie, ochranu ľudských práv a etiku. USA tvrdia, že prísne pravidlá brzdia technologický rozvoj a oslabujú konkurencieschopnosť západných firiem v súboji s Čínou.
Navyše Európa nemá vlastného AI technologického giganta, ale chce nastavovať pravidlá pre globálne firmy, čo medzi EÚ a USA vytvára napätie. Neexistuje jedna správna cesta. Ak chceme chrániť ľudské práva a etiku, európsky model je najlepší.
Ak chceme technologickú dominanciu a rýchly vývoj, potrebujeme menej regulácií. V konečnom dôsledku ide o geopolitiku, pretože platí, že ten, kto kontroluje technológie, kontroluje aj budúcnosť.
Ste členkou výboru združenia C2PA. Čo je jeho cieľom?
C2PA (Coalition for Content Provenance and Authenticity) je medzifiremné združenie, ktoré vytvorilo globálne štandardy na boj proti dezinformáciám. Začalo sa to šiestimi firmami ako MSFT (Microsoft Corporation) alebo Adobe. Teraz sú v jej výbore aj spoločnosti ako OpenAI, Meta a ďalšie. Cieľom je, aby ľudia vedeli, odkiaľ digitálny obsah pochádza a či bol upravovaný.
Ako to funguje?
Umelá inteligencia dnes denne vytvorí milióny položiek obsahu. Kedysi technologické firmy vyvinuli takzvané „watermarky“, špeciálne „neviditeľné kódy“, ktoré mali pomáhať počítačom identifikovať AI obsah.
Problém nastal, keď nové systémy dokázali vodoznaky odstrániť, čím prakticky stratili účinnosť. Preto sa prístup zmenil a namiesto rozpoznávania AI obsahu sa teraz kladie dôraz na potvrdenie autenticity a dôveryhodnosti obsahu.
Ako tento problém rieši nový C2PA štandard?
Dôveryhodným zdrojom tento štandard umožňuje dokázať, že ich obsah je pravý, čím sa dá ľahšie odlíšiť od falošných alebo manipulovaných materiálov.
C2PA štandardy pridávajú k fotkám, videám a ďalšiemu digitálnemu obsahu takzvaný „digitálny pas“, ktorý ukazuje, kto daný obsah vytvoril, či bol upravovaný, a ak áno, akým spôsobom a aké nástroje boli na jeho úpravu použité.
Tento pas sa nedá vymazať ako vodoznaky a každý raz, keď sa fotografia, video, zvuk alebo čokoľvek iné zmení, dá sa to vidieť v tom pase.
Čo presne to znamená?
Znamená to, že ak uvidíte virálne video alebo obrázok, môžete si skontrolovať, či sú autentické alebo či sa s nimi nejakým spôsobom manipulovalo, či boli upravované. Technológia sa už začala využívať v žurnalistike, vo vojnových sporoch aj na súdoch, začali sa o ňu zaujímať už aj poisťovne.
C2PA štandard sa napríklad použil pri dokumentovaní ničenia kultúrneho dedičstva na Ukrajine a fotky potvrdené C2PA boli uznané na Medzinárodnom trestnom súde. Okrem firiem Adobe a Microsoft už štandard C2PA zaviedli aj spravodajské spoločnosti BBC, Reuters, ale aj Nikon a Sony, ktoré novú technológiu integrujú priamo do fotoaparátov.
Očakáva sa, že v najbližších rokoch sa bude používať už aj priamo v našich mobilných telefónoch.
Aká je podľa vás budúcnosť sociálnych sietí?
Z historického hľadiska vieme, že každá nová technológia spôsobila v spoločnostiach ten istý cyklus – dala hlas menšinám a novým skupinám, ktoré predtým neboli vypočuté. Takáto zmena narušila a aj dnes narušuje existujúcu mocenskú štruktúru a status quo.
Rovnako ako to bolo v období vynájdenia kníhtlače alebo rozšírenia rozhlasového vysielania. Je to preto, že tí, ktorí dovtedy kontrolovali všetky hlavné spoločenské naratívy, túto kontrolu stratili. Nové technológie sa často využívali aj na rozširovanie klamlivých správ alebo propagandy.
Počas studenej vojny Spojené štáty vytvorili vysielacie služby, ako napríklad Voice of America, s cieľom šíriť proamerické posolstvá v komunistických krajinách a sovietsky zväz tiež šíril svoju propagandu v západných štátoch. Postupne krajiny rušili vysielania „nepriateľských štátov“, niečo, čo vidíme aj dnes s internetom.
Opäť to viedlo k zavádzaniu pravidiel týkajúcich sa obsahu a etických štandardov. Rovnaký proces v prípade sociálnych sietí sledujeme už dnes.
Ako sa podľa vás bude táto sféra vyvíjať? Bude tu Facebook, Instagram a ďalšie siete ešte aj o desať-pätnásť rokov?
Najpravdepodobnejší scenár je, že sociálne siete sa stanú pevnou súčasťou nášho digitálneho ekosystému a budú zavedené nové pravidlá, ktoré doteraz neexistovali. Hovoríme napríklad o regulácii zverejňovania informácií.
V akom zmysle?
Napríklad že účty s veľkým počtom sledovateľov možno nebudú môcť zverejňovať neoverené informácie bez dôkazov. Vzniknú aj pravidlá pre influencerov. Vidíme, že Európsky digitálny zákon o férovosti (Digital Fairness Act) už zavádza transparentnosť príjmov influencerov a zodpovednosť za ich obsah.
Nevyhnutná bude aj štandardizácia pravidiel, to znamená, že regulácie určia, kto môže šíriť informácie a aká zodpovednosť s tým súvisí. Predpokladám, že tak ako v minulosti si na tieto pravidlá spoločnosť zvykne. A potom príde nová technológia, ktorá status quo opäť naruší a celý cyklus sa zopakuje odznova.
