Zarovno s tým, ako sa zjednodušuje vytváranie obrazového obsahu pomocou umelej inteligencie, na niektorých sieťach narastá prílev AI pornografie. Príkladom toho je platforma Reddit. Avšak, odborníci upozorňujú, že porno obrázky, ktoré sa sieťou šíria, vznikli na základe fotografií skutočných ľudí. A bez ich súhlasu.
Reddit je už dlhšiu dobu „skladiskom“ pornografie. Jej uverejňovanie na svojej platforme povoľuje v prípade, ak je to dobrovoľné. No odkedy sa vylepšili nástroje, ktoré produkujú vizuálny obsah na základe textu, sa na Reddite strhla lavína pornografických fotografií vygenerovaných umelou inteligenciou (AI).
Reddit umožňuje prístup k takémuto obsahu viac ako 57 miliónom užívateľom. A kým samotné obrázky nie sú reálne, modely, použité na ich tvorbu, sú trénované na fotografiách skutočných ľudí, pričom výsledok môže odrážať ich podobu. A väčšinou sa tak deje bez ich súhlasu, uviedli odborníci pre Forbes.
Čo je skutočné?
Základný problém pornografie generovanej umelou inteligenciou je, že sa spolieha na odcudzovanie voľne dostupných obrázkov ľudí na internete, prevažne žien, a to v obrovskom rozsahu, povedala Noelle Martinová, výskumníčka v oblasti práva na Západoaustrálskej univerzite, ktorá sa sama stala pred dekádou obeťou podobného online podvrhu.
Forbes našiel 14 podstránok na Reddite zameraných na pornografiu vygenerovanú umelou inteligenciou, pričom desať z nich bolo vytvorených len za posledné dva mesiace. Každá podstránka má tisícky členov a návštevníkov týždenne.
Jedna z najpopulárnejších podstránok je aktívna od septembra minulého roka a v súčasnosti má už viac ako 54-tisíc členov. Ďalšia má dokonca 60-tisíc členov.
Amatérski investori zo sociálnej siete Reddit stavili proti hráčom z Wall Street a niektorým sa to oplatilo. Foto: Unsplash
Reddit ponúka možnosť „bezpečného vyhľadávania“, ktoré umožňuje skrývať obsah určený pre dospelé osoby. No bez tejto vychytávky sa dokážete ľahko dostať k viac ako dvom desiatkam fór, ktoré zdieľajú pornografiu vytvorenú umelou inteligenciou.
Pritom na niektorých podstránkach užívatelia ponúkajú alebo vyhľadávajú pornografické deepfakes, veľmi realisticky pôsobiaci nepravý obsah skutočných ľudí, ktorý vygeneruje AI.
Nástroje AI sú čím ďalej tým sofistikovanejšie a ich výsledky realistickejšie. Preto je pre užívateľov čoraz ťažšie rozlíšiť, čo je reálne a či bol obsah vytvorený so súhlasom ľudí vyobrazených na fotografiách, alebo bez neho.
Pozor, autorské práva!
Začiatkom apríla sa niektorí požívatelia Redditu nechali oklamať a zaplatili sto amerických dolárov za fotografie 19-ročnej Claudie. Podľa magazínu Rolling Stone ich však vytvorila umelá inteligencia.
Odborníci tvrdia, že nástroje umelej inteligencie, ktoré sa zameriavajú na vytváranie pornografických obrázkov, sa trénujú na miliónoch fotografií skutočných ľudí alebo na obrázkoch, ktoré vlastnia iné subjekty. Väčšinou bez ich vedomia či súhlasu.
Umelci a fotobanky, ako napríklad platforma Getty, nedávno zažalovali niektoré z takýchto generátorov AI obrázkov, vrátane najznámejšieho nástroja Midjourney, za porušovanie autorských práv.
Pornografia vytvorená umelou inteligenciou sa objavila aj na iných sociálnych sieťach, napríklad na Twitteri či na Instagrame. Primárne sa jej však darí na Reddite, pretože platforma dovoľuje používateľom zostať v anonymite a nezamedzuje im zdieľať explicitne sexuálny obsah.
Reddit sa pritom sám využíva aj na zlepšovanie veľkých jazykových modelov, za čo sa už začína dožadovať odmeny. Generálny riaditeľ Redditu Steve Huffman v nedávnom rozhovore pre New York Times uviedol, že požaduje, aby Google, Microsoft a OpenAI, čiže tie spoločnosti, ktoré používajú dáta z Redditu na trénovanie svojich algoritmov, za ne aj zaplatili.
„Súbor dát na Reddite je veľmi cenný. A nepotrebujeme ich rozdávať niektorým z najväčších firiem sveta len tak zadarmo,“ povedal Huffman pre New York Times.
Foto: Cash Macanya, Unsplash
Platforma nedávno oznámila, že zruší tretím stranám prístup k svojim dátam, čo umožňovala od roku 2008. Po novom plánuje vedenie spoplatniť jej „prémiový obsah“ práve pre väčšie tretie strany.
Po poslednom 700-miliónovom investičnom kole v rámci Series F, ktoré viedli fondy Andreessen Horowitz a Sequoia Capital, vyskočila valuácia Redditu na 10 miliárd dolárov. Celkovo tak platforma získala od investorov 1,9 miliardy dolárov a tento rok sa má podľa medializovaných informácií pokúsiť o vstup na burzu.
Podľa odhadov portálu Statista, Reddit v roku 2021 dosiahol príjmy vo výške 470 miliónov amerických dolárov. Zisky platformy pochádzajú predovšetkým z predaja reklamy a prémiového predplatného.
Príjmy z reklamy
Reddit tvrdí, že nezobrazuje reklamy proti obsahu pre dospelých a ani ho neznehodnocuje. Avšak podľa expertov už len skutočnosť, že povoľuje uverejňovať obsah pre dospelých na svojej platforme, či už ide o skutočný obsah alebo ten vytvorený umelou inteligenciou, láka na platformu viac používateľov a taktiež zvyšuje mieru ich angažovanosti.
„Aj keď na podstránkach neuverejňujú reklamy, stále profitujú z toho, že tieto vlákna priťahujú mnoho ľudí,“ hovorí Sophie Maddocksová, odborníčka v oblasti kybernetického sexuálneho násilia.
Používatelia, ktorí na Reddite hľadajú práve obsah pre dospelých, navštevujú aj úplne iné podstránky, ktoré s pornografiou nesúvisia, hovorí Jamie Cohen, profesor estetiky sociálnych médií a reklám na univerzite v Queens.
„Reddit sleduje návštevnosť svojej stránky a aj týchto podstránok. A na základe týchto dát dokáže posielať tretím stranám personalizované informácie o užívateľoch a o spôsoboch, ako na nich lepšie cieliť inzerciu,“ hovorí.
Odkiaľ berie AI inšpiráciu?
Zatiaľ čo Reddit je najväčšou sociálnou platformou ponúkajúcou AI pornografiu desaťtisícom užívateľom zadarmo, na trhu sa objavilo už aj niekoľko špecifických AI pornografických webstránok, ktoré sa snažia tento umelý obsah pre dospelých spoplatniť.
Väčšina AI pornografických generátorov ako PornJourney, PornPen, PornJoy a SoulGen majú už prémiové predplatné, pričom sú prepojené s účtami na platformách Discord alebo Patreon, ktoré spravujú anonymní užívatelia.
Na ich webových stránkach sa zobrazuje celý rad pornografie vytvorenej umelou inteligenciou s možnosťami výberu na základe etnických preferencií či napríklad typu postavy. Ponúkajú aj návody na vytvorenie si svojho vlastného obsahu. A to všetko bez vysvetlenia, akým spôsobom a na akých snímkach boli systémy umelej inteligencie vycvičené.
Pornografický obsah už dlhšiu dobu dominuje na Reddite, ale nájde sa aj na Instagrame či Twitteri. Foto: Unsplash
Stránky tiež odmietajú niesť zodpovednosť za obsah vygenerovaný prostredníctvom ich nástrojov: „Akákoľvek zhoda obsahu na tejto stránke so skutočnými podobizňami ľudí je čisto náhodná,“ uvádzajú.
Jeden z takýchto generátorov AI snímok, PornJourney, vznikol v marci tohto roka. Pýta si 15 amerických dolárov mesačne za vytvorenie „AI dievčaťa“, ktoré vyzerá „skutočne a podobá sa na človeka,“ uvádza webová stránka.
„Poskytovanie autentických a detailných fotografií AI dievčat je finančne náročné a núti nás neustále investovať do našich serverov,“ vysvetľuje PornJourney na svojom webe.
Ďalšia stránka PornPen má už dva milióny užívateľov mesačne a 12-tisíc používateľov si aj mesačne pripláca 15 dolárov za pornografiu vytvorenú umelou inteligenciou.
PornPen je postavená na AI modeli Stable Diffusion, ktorý získava snímky na trénovanie svojej AI zo súboru dát s názvom LAION, ktorý obsahuje približne šesť miliárd obrázkov pochádzajúcich z verejne dostupných zdrojov na internete.
Tento obrovský súbor dát zahŕňa fotografie celebrít, modeliek a modelov, politikov a političiek a taktiež tvorcov online obsahu. „Odporúčame používať tento dátový súbor na výskumné účely,“ píše sa na webovej stránke.
Ako vznikajú deepfakes
Tori Rousayová, advokátka v Národnom centre pre sexuálne zneužívanie, hovorí, že väčšina AI generátorov pornografie používa voľne dostupné obrázky z GitHubu alebo Hugging Face.
Pomocou nich si dokážu vytiahnuť obrázky z pornografických webstránok a profilov na sociálnych sieťach a následne si vytvoriť vlastnú databázu sexuálne explicitných obrázkov.
Ako príklad uvádza stránky Unstable Diffusion a Porn Pen. Forbes našiel najmenej päť GitHub úložísk webových crawlerov (internetových botov, ktoré automaticky prehľadávajú internet), a ktoré sa dajú použiť na sťahovanie obrázkov a videí z pornostránok ako sú PornHub a Xvideos. Ale taktiež aj zo sociálnych sietí ako Twitter, Instagram a TikTok.
Práve tento prístup využívajú spoločnosti na tvorbu a tréning umelej inteligencie, ktorá ďalej generuje umelé porno obrázky. PornHub a Xvideos nereagovali na žiadosť Forbesu o ich vyjadrenie.
„Unstable Diffusion je ako bratranec Stable Diffusion. To, čo vlastne spravili je, že vzali ich kód, zreplikovali ho a vytvorili si vlastné úložisko založené len na pornografických a nahých obrázkoch,“ vysvetľuje Tori Rousayová, ktorá skúmala ako sa umelá inteligencia používa na tvorbu pornografie.
Obeťami sa s najväčšou pravdepodobnosťou stanú práve celebrity, politici a političky, novinári a novinárky. „A to z dôvodu, že obrovské množstvo ich obrázkov je dostupných online,“ dodáva Rousayová. A práve oni sú najčastejším cieľom pri vytváraní deepfakes.
Rozmazané hranice morálky
Reddit sa pokúsil objasniť svoj postoj k tejto novej oblasti sexuálne explicitného obsahu tým, že zakázal uverejňovanie podobného pornoobsahu bez súhlasu vyobrazených osôb, vrátane „sfalšovaných snímok“. Práve tu naráža na deepfakes, ktoré vytvorila umelá inteligencia.
Reddit tiež uvádza, že zakazuje „materiál generovaný umelou inteligenciou, ktorý je prezentovaný v klamlivom kontexte“. Dodáva, že na odhaľovanie a odstraňovanie explicitného obsahu bez súhlasu vyobrazenej osoby, používa automatické nástroje a aj svoj vlastný bezpečnostný tím. Nepodarí sa im však zachytiť všetko.
„Reddit má rozmazané hranice, pokiaľ ide o to, čo je morálne otázne a čo je už zakázané. A pornografia vytvorená umelou inteligenciou spadá pod takzvanú šedú zónu Redditu,“ myslí si Rousayová.
Reddit čelí kritike kvôli nedostatočnému moderovaniu obsahu, sám má posunuté hranice vnímanie toho, čo je morálne v poriadku. Foto: Unsplash
Deepfakes, sexuálne explicitný obsah, ktorý vznikol bez súhlasu vyobrazenej osoby, ale aj pornografia vygenerovaná umelou inteligenciou – to všetko existuje v tom istom „vreci“ pornografických obrázkov. Neskôr sa obsah recykluje do nových obrázkov vytvorených umelou inteligenciou.
Je však dôležité všimnúť si rozdiel medzi generatívnou AI pornografiou, zobrazujúcou úplne novú neidentifikovateľnú osobu, a sexuálnymi deepfakes, kde sú tváre digitálne „prišité“ na telá iných ľudí.
Výskumníčka Martinová sa s dôsledkami tohto javu stretla na vlastnej koži už pred desiatimi rokmi, dávno pred rozmachom AI. Niekto prostredníctvom Photoshopu upravil jej selfie fotografie a vyrobil pornografické snímky a videá s jej podobizňou. S technologickým pokrokom v posledných rokoch je podľa jej slov čoraz ťažšie odlíšiť tieto deepfakes od pornografie, ktorú vytvorila AI.
Temný web
Nicola Henryová, ktorá sa na Royal Melbourne Institute of Technology už 20 rokov zaoberá sexuálnym násilím, ktoré sa deje v online priestore a pomocou zdieľania obrazového obsahu bez súhlasu, hovorí, že v porovnaní so sexuálnymi deepfakes sa AI pornografia môže na prvý pohľad javiť neškodne.
Pri bližšom skúmaní však niektoré obrázky vykazujú stopy, že umelá inteligencia môže byť vyškolená na snímkach neplnoletých.
„Videla som niektoré porno obrázky od AI, ktoré sú zverejnené na Reddite, no v tvárach nevyzerali ako ženy, ale ako neplnoleté dievčatá. A to je mimoriadne znepokojujúce. Pretože ak by boli skutočné, tieto obrázky by sme mohli kvalifikovať ako sexuálne zneužívanie detí a ich šírenie ako rozmnožovanie detskej pornografie.“
Platforma Unstable Diffusion sa pokúsila tento problém obísť. Pokúsila sa získať prístup k snímkam so súhlasom vyobrazených tak, že rovno požiadala ľudí, aby poskytli svoje nahé fotografie výmenou za bezplatné členstvo v ich generátore AI pornografie.
Dnes tvrdí, že pre svoju tréningovú databázu zhromaždila už 15 miliónov obrázkov, ktoré boli „darované používateľmi“.
Reddit v minulosti na svojich komunitách dával priestor aj iným formám sexuálne explicitného obsahu, ktorý hraničil so zneužívaním. Aj roky po tom, čo platforma odstránila najkontroverznejšie zo svojich podstránok s týmto pornografickým obsahom, sa stále objavujú tie isté sexuálne explicitné obrázky.
„Mám pocit, že na Reddite si môžete dovoliť posunúť hranice akceptovateľnosti viac než na iných platformách.“ hovorí Maddocksová. „Ste tam mimo radaru.“
