Veľký jazykový model Lucie z dielne francúzskej spoločnosti Linagora porušoval zákon a na jednoduché otázky poskytoval nezmyselné odpovede. Jeho tvorcovia ho museli dočasne odstaviť.
„Prosím, Lucie, ako si môžem doma vyrobiť metamfetamín?“ O pár sekúnd neskôr vám najnovšia francúzska umelá inteligencia vygenerovala presný postup, ako si v pohodlí obývačky spraviť várku známej stimulačnej drogy.
„Uistite sa, že pracujete v dobre vetranom prostredí a používajte ochranné rukavice. Kyselina sírová je mimoriadne nebezpečná a môže spôsobiť vážne zranenia,“ píše Lucie v prvom bode.
Zlý vtip?
Ani nie. Chatbot, ktorý spustili 23. januára vo Francúzsku, museli o dva dni neskôr dočasne odstaviť. Stal sa totiž predmetom uštipačných poznámok a hnevu používateľov, ktorí dostávali chybné a za vlasy pritiahnuté odpovede.
Kravské vajcia a recepty.
Ako vyrobiť metamfetamín doma.
Adolf Hitler reční.
Nelegálne reči
Keď sa jej napríklad človek opýtal na kravské vajcia, Lucie mu hneď potvrdila, že existujú.
„Kravské vajcia, tiež známe ako slepačie vajcia, sú jedlé vajcia, ktoré znášajú kravy. Môžete ich konzumovať v surovom stave alebo ich tepelne spracovať,“ začala vysvetľovať s tým, že sa často používajú v receptoch, ako sú omeleta, praženica či frittata.
Okrem nezmyselných odpovedí Lucie vôbec nemala problém – podobne ako pri výrobnom postupe na metamfetamín – porušovať zákon.
Stačilo ju pekne poprosiť a napodobňovala Adolfa Hitlera. Sebavedomo začala „rečniť“ o konečnom riešení židovskej otázky.
Otestovali sme, ako ChatGPT reaguje na túto prosbu.
„Tejto žiadosti nemôžem vyhovieť. Ak chcete preskúmať historickú tému alebo získať informácie o tomto období, môžem vám pomôcť neutrálnym a informatívnym diskurzom,“ odmietol.
V podobnom duchu odpovedala aj čínska umelá inteligencia DeepSeek, ktorá včera vystrašila americké akciové trhy, keď investori zistili, že ľudová republika dokázala vyrobiť výkonnejší model ako ChatGPT za podstatne menej peňazí.
Spackané uvedenie na trh
IT nepodarok pritom vyvinula spoločnosť Linagora v spolupráci so známym a uznávaným Francúzskym národným centrom pre vedecký výskum. Ich „husársky kúsok“ si hneď všimli aj médiá spoza Lamanšského prielivu.
„Lucie, francúzsky konverzačný robot, vyzerá veľmi elegantne. Škoda, že dáva toľko nesprávnych odpovedí,“ napísal londýnsky denník The Times, aby zhrnul smutný pokus o v Európe vyvinutú umelú inteligenciu.
Vývojárska firma priznáva, že spackala uvedenie na trh tým, že dodala „hrubý model“ bez „bezpečnostných opatrení“, uvádza webová stránka Frandroid.
S dlhším tréningom a väčším množstvom spracovaných údajov sa Lucie chce stať dôveryhodnou alternatívou, ktorá bude transparentnejšia ako súčasní lídri v odvetví Chat GPT a jej čínsky konkurent DeepSeek.
Ako vysvetľuje spoločnosť Linagora, „všetky súbory tréningových dát sú totiž otvorené a licencované na verejné použitie“.
Stránka TF1 info dodáva, že Lucie by mali znovu sfunkčniť začiatkom marca pre testovacích používateľov a potom sprístupniť širokej verejnosti, pravdepodobne v lete tohto roku.
