V rámci používania aplikácií umelej inteligencie budú zakázané tie, ktoré ohrozujú práva občanov. Európsky parlament (EP) totiž v stredu schválil akt o umelej inteligencii, ktorý zaisťuje bezpečnosť a súlad so základnými právami a zároveň podporuje inovácie.
Nové pravidlá sa týkajú napríklad systémov biometrickej kategorizácie založených na citlivých charakteristikách. Ďalším príkladom je necielené extrahovanie podôb tváre z internetu alebo videozáznamov z bezpečnostných kamier na tvorbu databáz na rozpoznávanie tvárí.
Používanie biometrickej identifikácie
Okrem toho bude zakázané aj rozpoznávanie emócií na pracovisku či v škole, sociálne bodovanie či prediktívne vykonávanie policajných funkcií, ak je založené výlučne na profilovaní osoby alebo posudzovaní jej charakteristík. Nebude sa môcť používať ani umelá inteligencia, ktorá manipuluje ľudské správanie alebo zneužíva zraniteľnosti ľudí.
Slovákov už oveľa menej otravujú marketingové telefonáty, pomohli zmeny v zákone
Biometrická identifikácia v reálnom čase sa môže používať len vtedy, ak sú splnené prísne záruky, napríklad ak je takéto použitie časovo a geograficky obmedzené a bolo k nemu vopred vydané súdne alebo správne povolenie. Môže sa to týkať napríklad cieleného pátrania po nezvestných osobách alebo predchádzania teroristickým útokom.
Vysokorizikové systémy umelej inteligencie
Jasné povinnosti sa stanovia aj pre iné vysokorizikové systémy umelej inteligencie. Tie sa používajú napríklad v kritickej infraštruktúre, vzdelávaní a odbornej príprave, ale aj pri nábore do zamestnania či v kľúčových súkromných a verejných službách, ako sú zdravotníctvo a bankovníctvo.
Prvá bitka so sociálnymi médiami je prehratá, podľa odborníčky je to vážne obzvlášť pre Slovensko
Uplatňujú sa aj v určitých systémoch presadzovania práva, pri riadení migrácie a hraníc, ako aj v súdnictve a v demokratických procesoch, napríklad na ovplyvňovanie volieb. Pri takýchto systémoch bude povinné posúdiť a znížiť riziká, viesť záznamy o používaní, zabezpečiť ich transparentnosť a presnosť, ako aj ľudský dohľad.
Občania budú mať právo podávať sťažnosti na systémy umelej inteligencie, ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré ovplyvňujú ich základné práva.
Deepfakes musia byť označené
Umelé alebo zmanipulované obrázky, audio nahrávky alebo tzv. „deepfakes“ videá musia byť jasne označené.
„Umelá inteligencia môže byť dobrý sluha. Je preto dôležité, aby sme jej spoločenský prínos naplno využili a zároveň sa chránili pred jej možnými úskaliami a rizikami. Aj na Slovensku už mnohí novinári, tvorcovia či podnikatelia v rôznych odvetviach využívajú služby ako Chat GPT a nevidím cestu v tom, aby sme takéto služby zakázali. Na druhej strane si musíme dávať pozor na to, že v súčasnosti umelá inteligencia dokáže vyrobiť falošné fotografie aj videá, ktoré môžu zásadne ovplyvňovať verejnú mienku,“ dodal poslanec EP Vladimír Bilčík.
Umelá inteligencia bude podľa Kmeca znamenať rovnakú revolúciu ako nástup internetu. Pellegrini poukázal na možné riziká (foto+video)
„Navrhovaná regulácia má viacero rizík. Nemáme spoľahlivo vyčíslené náklady tejto regulácie, nepoznáme jej dlhodobé dopady na produktivitu práce ani na investície. Platí, že už teraz investujeme v EÚ do umelej inteligencie výrazne menej než v USA alebo Číne, táto regulácia to môže ešte zhoršiť. Myslím si, že flexibilnejší a menej byrokratický prístup by poskytol viac priestoru na rozvoj umelej inteligencie, ktorá dokáže výrazne zvyšovať produktivitu ekonomiky a byť v prospech spotrebiteľa,“ zdôraznil poslanec EP Eugen Jurzyca.
Prísny systém sankcií
Nariadenie ešte musia naposledy skontrolovať právnici. Očakáva sa, že s konečnou platnosťou bude prijaté pred koncom volebného obdobia. Zákon musí formálne schváliť aj Rada EÚ, naplno by sa mal začať uplatňovať dva roky po nadobudnutí účinnosti, až na pár výnimiek.
5 revolučných spôsobov, akými AI mení naše každodenné rutiny
„Európa sa stane prvým kontinentom s komplexnými pravidlami pre využívanie umelej inteligencie. Tieto by mali platiť najskôr od budúceho roka. Zohľadňovať budú predovšetkým mieru rizika, ktorú technológie a jednotlivé systémy využívajúce umelú inteligenciu predstavujú. Riziká musíme vedieť účinne eliminovať,“ uviedla poslankyňa Európskeho parlamentu Monika Beňová.
Za porušovanie nastavených pravidiel by mal byť podľa jej slov zavedený prísny systém sankcií, vrátane finančných pokút. Podľa Petra Polláka je už teraz zrejmé, že prijaté pravidlá nebudú postačujúce, ale sú prvým krokom k jej regulácii.
