Americkí politici pripravujú návrh zákona, ktorý by obmedzil používanie systému na rozpoznávanie tvárí. Niektorých odborníkov znepokojuje využívanie databáz, ktoré majú pod kontrolou vlády a súkromné spoločnosti.
Meredith Whittaker z AI Now Institute Newyorskej Univerzity na stredajšom pojednávaní Výboru americkej Snemovne reprezentantov pre dohľad a vládne reformy vyhlásila, že by túto technológiu mali zastaviť.
Spôsoby zhromažďovania dát
Podľa nej je potrebné zaviesť pravidlá vyžadujúce súhlas so softvérom na rozpoznávanie tvárí. Dodala, že by nemali dovoliť firemným záujmom „predbehnúť sa“ a začleniť túto technológiu do systémov bez záruk.
Pracovný trh budúcnosti: Ľudia ruka v ruke s umelou inteligenciou a technológiami
Na technológii pracujú firmy ako Google, Microsoft, Amazon a Facebook. Dáta potrebné na vývoj softvéru zhromažďujú rôznymi spôsobmi.
Využívajú pritom priemyselné kamery, či weby umožňujúce zdieľanie fotografií ako sú Facebook, Flickr, Instagram alebo Snapchat.
Technológia nie je spoľahlivá
Polícia v Spojených štátoch poukázala na úspech rozpoznávania tvárí pri identifikácii nezvestných detí alebo zločincov.
Existujú však obavy, že technológiu môžu zneužiť autoritárske režimy na sledovanie občanov. Softvér takisto môže poskytnúť nepresné výsledky.
BBC s odvolaním sa na štúdiu americkej vlády v decembri informovala, že algoritmy na rozpoznávanie tvárí sú v prípade afroamerických a ázijských tvárí omnoho nepresnejšie ako v prípade belochov.
Ešte vyššia pravdepodobnosť, že ich nesprávne identifikujú, hrozí afroamerickým ženám.