Vyjednávači Európskeho parlamentu (EP) a členských štátov Európskej únie (EÚ) sa vo štvrtok dohodli na zákaze systémov umelej inteligencie (AI) vytvárajúcich sexualizované deepfaky bez súhlasu zobrazovaných osôb.
Rozhodnutie prišlo po vlne pobúrenia okolo nevyžiadaných nahých fotografií generovaných chatbotom Grok miliardára Elona Muska.
Koniec vyzliekania
„Európska únia dnes stanovila červenú čiaru. Umelá inteligencia nesmie byť nikdy používaná na ponižovanie, zneužívanie alebo ohrozovanie ľudí,“ povedal pre agentúru AFP europoslanec Michael McNamara. Dodal, že úniová legislatíva po prvý raz výslovne zakazuje tzv. „vyzliekacie“ aplikácie.
Zákaz bude súčasťou zmien rozsiahleho európskeho zákona o umelej inteligencii prijatého v roku 2024.
Vyjednávači sa zároveň dohodli na odložení pravidiel pre vysoko rizikové systémy AI. Tie mali začať platiť od augusta 2026, nový termín pre samostatné AI systémy je december 2027.
Obavy z AI
Európska komisia (EK) uviedla, že zmeny majú pomôcť firmám a zabrániť brzdeniu inovácií. Únia však zároveň čelí rastúcim obavám z pokročilých modelov AI.
„Keď sa v auguste 2026 začnú uplatňovať právomoci Európskeho úradu pre umelú inteligenciu (EU AI Office), zabezpečíme si v prípade potreby prístup k modelu,“ uviedol hovorca Európskej komisie v súvislosti s modelom Mythos od spoločnosti Anthropic.
