Za pár dolárov môžete zohnať nahé fotky tých najatraktívnejších svetových speváčok, herečiek, ba dokonca političky. Problémom však je, že ich vytvorila umelá inteligencia. Predajcovia mohli na falošných záberoch zarábať aj napriek zákazu.
Na vine sú pritom predajcovia s najvyššími hodnoteniami, ktorí do svojho predajného portfólia zaradili pornografické fotky vytvorené umelou inteligenciou (AI). Na záberoch je napríklad Margot Robbie, Selena Gomez či Jenna Ortega.
eBay upozornil na pornografický obsah, na ktorom sú celebrity zvučných mien, práve americký Forbes. Jeden z najväčších online trhov preto stiahol po výzve stovky upravených fotografií a pozastavil účty daných predajcov.
Ponuka upravených snímok s pornografickým či sexuálnym podtónom sa pritom týka predajcov s vysokým hodnotením, z ktorých sa niektorí pýšia aj označením „najrešpektovanejší predajcovia”.
U jedného z dlhoročných predajcov sa našli v bohatej ponuke fotografie upravené v editovacom programe. Boli na nich nahé speváčky, napríklad Taylor Swift, Selena Gomez, Katy Perry, Ariana Grande či politička Alexandria Ocasio-Cortez.
Ďalší predajca ponúkal stovky fotografií vytvorených umelou inteligenciou, ktorá na nich „vyzliekla“ hviezdy ako napríklad Margot Robbie či Gal Gaddot. Jeden záber stál 5,85 eur.
Profituje aj samotný eBay
Predajcovia s najlepším hodnotením získavajú podľa eBay smerníc rôzne výhody, medzi ktoré patrí vyššie umiestnenie vo vyhľadávaní a zaujímavé finančné bonusy. Algoritmus online trhoviska navyše upozorňuje kupujúcich na „podobné sponzorované položky” od predávajúcich. Ak na takto zobrazenú ponuku kliknú zákazníci a tovar si kúpia, eBay dostane províziu z predaja.
Ďalší z predajcov s odznakom najlepšie hodnoteného takto predal viac ako 2 000 položiek. Nechýbali medzi nimi pornografické obrázky Jennifer Aniston a Jennifer Lawrence.
„Nejde len o predajcov. Spoločnosti ako eBay profitujú zo sexuálneho zneužívania na základe obrázkov,” uviedla Lina Nealon, výkonná riaditeľka Národného centra pre sexuálne zneužívanie. „Modifikujú ženské telá bez súhlasu a vedomia tých, ktoré sú na fotkách zobrazené. Je to hrozné,” dodáva.
Rozpor je v samotných pravidlách trhoviska. Na jednej strane dovoľuje eBay predajcom zverejňovať snímky zobrazujúce nahotu, ak sú zaradené do kategórie umenie a zberateľské predmety. Do tejto kategórie sa radia aj AI vygenerované nahé obrázky nereálnych ľudí.
„Obrázky vytvorené umelou inteligenciou, ktoré zobrazujú nahé alebo sexuálne vyzývavé verejne známe osoby” sú podľa noriem zakázané. Napriek tomu je online trhovisko popretkávané práve týmito fotografiami.
Boj s veternými mlynmi?
eBay potvrdil, že „v súčasnosti aktívne aktualizuje zásady týkajúce sa deepfake bez nahoty”, aby predajcovia jednoznačne vedeli, čo je a nie je povolené na eBay.
Hovorkyňa trhoviska eBay Trina Somera okrem toho uviedla, že firma využíva kombináciu „technológie umelej inteligencie a profesionálne vyškolených vyhľadávačov spoločnosti” na identifikovanie a odstraňovanie ponúk, ktoré porušujú zásady týkajúce sa zakázaných položiek.
„Ponuky s obrázkami dospelých celebrít vytvorenými umelou inteligenciou alebo Photoshopom, ktoré porušujú pravidlá platformy, budú zablokované alebo odstránené. Používatelia, pri ktorých sa zistí, že sa pokúšajú inzerovať zakázané položky, môžu čeliť následkom až do trvalého pozastavenia,“ uviedla Somera.
eBay pritom nie je jedinou online platformou, kde sa šíria pornografické obrázky vytvorené umelou inteligenciou. Reddit, X (bývalý Twitter) aj Etsy, ako o tom informoval Forbes, zápasia s náporom sexuálne explicitných obrázkov od AI.
Len pre predstavu, v januári sa na sociálnej sieti X objavili umelou inteligenciou vytvorené nahé fotografie Taylor Swift, ktoré sa na sieti zobrazili až miliónkrát.
Zákonodarcovia, vrátane dotknutej kongresmanky Alexandrie Ocasio-Cortez, potom predstavili tzv. zákon Disrupt Explicit Forged Images and Non-Consensual Edits (alebo DEFIANCE), ktorý poskytuje obetiam „deepfake pornografie“ prostriedky na podniknutie krokov proti tvorcom a distribútorom tohto obsahu.
Freepik
„Hoci neexistujú žiadne federálne zákony na ochranu obetí falošnej pornografie, v americkom Kongrese boli predložené tri ďalšie návrhy zákonov, ktoré sa zaoberajú týmito problémami,“ povedala Lina Nealon.
Minulý týždeň sa v americkom v Kongrese konalo vypočúvanie o tom, aký vplyv má na ženy
a deti nárast počtu „deepfake pornografie“ vytvorenej bez súhlasu a aké kroky možno prijať na zníženie škôd.
„Naozaj potrebujeme federálne zákony a potrebujeme ich rýchlo, pretože sa technológie vyvíjajú rýchlejšie ako naši zákonodarcovia. Sme svedkami exponenciálneho nárastu umelej inteligencie a šírenia deepfake,“ povedala pre Forbes.
Sophie Maddocks, výskumná pracovníčka Centra pre rizikové médiá na Pensylvánskej univerzite, uviedla, že ju neprekvapuje, že sa na internetových stránkach bežne objavujú pornografické obrázky generované umelou inteligenciou.
Celebrity ako ľahká obeť
„Ak sa pozrieme na dlhšiu históriu internetu, vieme, že sex predáva. Nemyslím si, že platformy ako eBay poskytujú takýto obsah náhodou,” povedala Maddocks.
„Je tu širší kontext, ktorý prihráva myšlienke, že ak ste slávnou ženou, môžete byť vyzlečená bez súhlasu a niekto iný môže profitovať z vášho obrazu bez toho, aby dostal váš súhlas. To sa prenáša na všetkých.”
Článok vyšiel na Forbes.com, jeho autorkou je redaktorka Rashi Shrivastava.
