Elon Musk a Steve Wozniak patria medzi stovky špičkových technológov, podnikateľov a výskumníkov, ktorí vyzývajú na okamžité zastavenie vývoja výkonnejších systémov AI. Podľa nich sa tieto preteky vymkli spod kontroly a je načase zhodnotiť riziká, ktoré predstavuje pokročilá umelá inteligencia pre ľudstvo.
Každé laboratórium pracujúce na systémoch výkonnejších ako GPT-4 – čo je motor poháňajúci obľúbený ChatGPT – by malo podľa signatárov výzvy „okamžite prerušiť“ prácu aspoň na šesť mesiacov, aby si ľudstvo mohlo zhodnotiť riziká, ktoré takéto pokročilé systémy AI predstavujú. Výzvu, ktorú v stredu (29. 3.) zverejnil inštitút Future of Life, podpísalo už viac ako 1000 ľudí.
Zastavenie vývoja by malo byť „verejné a overiteľné“ a malo by zahŕňať všetkých kľúčových hráčov, uvádza sa v liste. Podľa autorov by mali zasiahnuť vlády a prijať drastické opatrenia a laboratóriá a nezávislí experti by mali využiť túto pauzu na vývoj bezpečnostných protokolov pre AI.
Preteky sa začali
Medzi signatárov patrí množstvo známych počítačových vedcov ako Yoshua Bengio a Stuart Russell, výskumníci z akademických a priemyselných ťažkých váh ako Oxford, Cambridge, Stanford, Caltech, Columbia, Google, Microsoft a Amazon, ako aj prominentní tech podnikatelia ako spoluzakladateľ Skype Jaan Tallinn, spoluzakladateľ Pinterestu Evan Sharp a spoluzakladateľ Ripple Chris Larsen.
Keďže podpísané osobnosti môžu k výzve pripojiť aj ďalšie mená, na zozname sa objavil aj šéf OpenAI Sam Altman, čo bolo zrejme myslené ako vtip.
Obrovský úspech ChatGPT, chatbota s umelou inteligenciou, ktorý vytvorila americká OpenAI, spustil šialenú snahu dostať na trh nové produkty AI. Najväčší technologickí hráči a nespočetné množstvo startupov sa teraz snažia udržať si alebo získať priestor na rýchlo sa rozvíjajúcom trhu, čo by mohlo formovať budúcnosť celého sektora, a laboratóriá pracujú na vývoji ešte výkonnejších produktov.
Riziká umelej inteligencie
Odborníci však varujú, že systémy umelej inteligencie môžu zhoršiť existujúcu nerovnosť v spoločnosti, podporovať dezinformácie, narúšať politiku a ekonomiku a mohli by sa stať nástrojom pre hackerov.
Podľa niektorých expertov môže umelá inteligencia z dlhodobého hľadiska predstavovať existenčné riziko pre ľudstvo a mohla by nás zničiť. Preto je kľúčové riešiť už teraz bezpečnosť systému neurálnych sietí.
Miliardár Bill Gates, zakladateľ a bývalý generálny riaditeľ spoločnosti Microsoft, ktorá výrazne investuje do OpenAI, hovorí najmä o pozitívnom prínose AI pre ľudstvo. V nedávnom blogu však Gates identifikoval mnohé z problémov spomenutých v otvorenom liste.
Podľa miliardára by sa mali sociálne dilemy týkajúce sa AI vyriešiť medzi vládami a súkromným sektorom, pričom by sa táto technológia mala zabezpečiť, aby sa používala na dobro. Pokiaľ ide o technicképroblémy, Gates uviedol, že výskumníci už pracujú na odstránení tých naliehavých a pravdepodobne uspejú v priebehu niekoľkých rokov.
Dodal, že obavy zo superinteligencie, ktorá vo všeobecnosti presahuje ľudské schopnosti, sú legitímne a „budú časom naliehavejšie“.
Článok vyšiel na Forbes.com, jeho autorom je Robert Hart.
