Európska únia v pondelok spustila vyšetrovanie platformy X miliardára Elona Muska pre fungovanie jej chatbota s umelou inteligenciou Grok, ktorý podľa Bruselu umožňoval vytváranie sexualizovaných deepfake obrázkov žien a maloletých. Ide o najnovší krok v rastúcej medzinárodnej reakcii proti tomuto nástroju.
Pobúrenie vyvolali zistenia, že používatelia dokázali pomocou jednoduchých textových príkazov, ako napríklad „obleč ju do bikín“ či „vyzleč ju“, vytvárať sexualizované obrázky žien a detí. Podľa Európskej komisie (EK) ide o vážne riziko šírenia nelegálneho obsahu.
Nulová tolerancia
„V Európe nebudeme tolerovať nepredstaviteľné správanie, akým je digitálne vyzliekanie žien a detí,“ vyhlásila predsedníčka Európskej komisie Ursula von der Leyenová. Zdôraznila, že ochrana súhlasu a detí nemôže byť prenechaná technologickým firmám, ktoré by takéto praktiky zneužívali a speňažovali. „Škody spôsobené nelegálnymi obrázkami sú veľmi reálne,“ dodala.
Vedľajšie škody
Podpredsedníčka EK pre technologickú suverenitu, bezpečnosť a demokraciu Henna Virkkunenová uviedla, že vyšetrovanie má preveriť, či platforma X splnila svoje právne povinnosti podľa aktu o digitálnych službách (DSA), ktorý má za cieľ prísnejšie regulovať veľké internetové platformy. Práva žien a detí podľa nej nesmú byť „vedľajšími škodami“ fungovania online služieb.
Brusel sa zameria najmä na to, či spoločnosť X primerane zmiernila riziká spojené so šírením nelegálneho obsahu v EÚ, vrátane manipulovaných sexuálne explicitných materiálov, ktoré by mohli predstavovať aj obsah sexuálneho zneužívania detí.
