Britský mediálny regulátor Ofcom v pondelok spustil formálne vyšetrovanie platformy X Elona Muska pre funkciu generovania obrázkov pomocou chatbota Grok, ktorá bola zneužívaná na tvorbu sexualizovaných „deepfake“ obrázkov.
Grok čelí rastúcej medzinárodnej kritike za to, že umožňuje používateľom vytvárať a šíriť sexuálne explicitné obrázky žien a detí pomocou jednoduchých textových pokynov.
Hlboko znepokojujúce zistenia
Ofcom označil tieto zistenia za „hlboko znepokojujúce“. Regulátor vo vyhlásení uviedol, že obrázky odhalených osôb „môžu predstavovať zneužitie intimity alebo pornografiu – a sexualizované obrázky detí… môžu predstavovať materiál sexuálneho zneužívania detí“. Platforma X na žiadosť AFP o reakciu bezprostredne nereagovala.
Po vlne kritiky za sexuálne obrázky žien a detí zablokoval Grok túto funkciu pre neplatiacich používateľov
Regulátor informoval, že 5. januára požiadal sieť X o vysvetlenie krokov na ochranu britských používateľov. Platforma odpovedala v stanovenej lehote, no detaily komunikácie Ofcom nezverejnil. Vyšetrovanie má určiť, či sieť porušila svoje zákonné povinnosti.
Povinnosť overovať vek
Podľa britského zákona o online bezpečnosti musia weby a sociálne siete s potenciálne škodlivým obsahom zaviesť prísne overovanie veku, napríklad pomocou rozpoznávania tváre alebo overením kreditnej karty. Nelegálne je aj vytváranie či šírenie intímnych obrázkov bez súhlasu, ako aj materiálov zobrazujúcich sexuálne zneužívanie detí vrátane „deepfake“ obrázkov vytvorených umelou inteligenciou.
V Nemecku začal súd s online predátorom, ktorý prinútil obeť vysielať online svoju samovraždu
Ofcom môže za porušenie pravidiel uložiť pokutu až do výšky 10 percent celosvetových tržieb.
Indonézia v sobotu ako prvá úplne zablokovala prístup k nástroju Grok, v nedeľu ju nasledovala Malajzia. Európska komisia (EK) tiež oznámila, že preveruje sťažnosti týkajúce sa chatbota Grok.
