Regulačné orgány Európskej únie stanovili, aké typy nástrojov umelej inteligencie majú byť podľa zákona o AI zakázané ako príliš nebezpečné. Ustanovenia zakazujúce používanie technológie, o ktorej sa predpokladá, že predstavuje neprijateľné riziko, nadobudli platnosť tento týždeň, hoci 27 štátov Európskej únie bude mať do augusta čas na určenie regulačného orgánu, ktorý ich bude presadzovať.
Subjektom, ktoré porušia pravidlá, hrozia pokuty až do výšky siedmich percent celosvetových ročných príjmov alebo pokuty až do výšky 35 miliónov eur, podľa toho, ktorá čiastka je vyššia. Komisia stanovila osem prípadov odôvodňujúcich zákaz.
1. Identifikácia ľudí v reálnom čase pomocou kamier na verejných priestranstvách
Zákon zakazuje používanie systémov AI vybavených kamerou na biometrickú identifikáciu v reálnom čase na verejných priestranstvách na účely presadzovania práva. Cieľom je predísť scenárom, v ktorých by polícia mohla zadržať jednotlivca bez krížovej kontroly s informáciami z reálneho sveta. Existujú výnimky, ako napríklad predchádzanie špecifickým hrozbám vrátane teroristických útokov.
2. Sociálne bodovanie založené na osobných údajoch nesúvisiacich s rizikom
Pravidlá zakazujú používať AI na hodnotenie pravdepodobnosti, že ľudia nesplatia pôžičku alebo spáchajú podvod v oblasti sociálnej starostlivosti, na základe údajov, ktoré nesúvisia s kontextom, ako je pôvod, farba pleti alebo správanie na sociálnych sieťach.
3. Hodnotenie kriminálneho rizika len na základe biometrických údajov
Polícia nemôže použiť AI na predpovedanie rizika trestného správania jednotlivca, ako je účasť na nepokojoch alebo spáchanie útoku, len na základe čŕt tváre alebo iných osobných charakteristík bez toho, aby zohľadnila objektívne a overiteľné skutočnosti priamo súvisiace s ich konaním.
4. Zbieranie online obrázkov na vytvorenie databáz na rozpoznávanie tváre
Zákon o AI zakazuje nástroje, ktoré prehľadávajú internet a zábery priemyselných kamier s cieľom bez rozdielu extrahovať obrázky tváre a vytvárať rozsiahle databázy s miliardami obrázkov, čo by prakticky znamenalo štátny dohľad.
5. Detekcia emócií na pracoviskách a miestach vzdelávania
Organizácie majú zakázané používať webové kamery alebo systémy rozpoznávania hlasu na zisťovanie emócií ľudí.
6. Manipulácia so správaním pomocou AI
Integrácia klamlivých alebo podprahových systémov AI do nejakého dizajnu s cieľom prinútiť používateľov k nákupu je zakázaná.
7. Využívanie slabých miest súvisiacich s vekom alebo zdravotným postihnutím
Pravidlá zakazujú hračky alebo iné systémy založené na umelej inteligencii zamerané na deti, starších alebo inak zraniteľných ľudí, ktoré sú navrhnuté tak, aby podporovali potenciálne škodlivé správanie.
8. Vyvodzovanie politických názorov alebo sexuálnej orientácie na základe biometrických údajov
Systémy, ktoré tvrdia, že z analýzy ich tváre odvodzujú politické názory alebo sexuálnu orientáciu ľudí, nebudú podľa zákona o AI v Európskej únii povolené.