Bežní pozorovatelia tak pri pohľade na ne väčšinou iba hádajú.
Hoci existujú automatické softvérové detektory, tie často trpia efektom „čiernej skrinky“ a dajú sa oklamať aj úplne jednoduchou úpravou obrázka. Nová štúdia z Austrálskej národnej univerzity sa preto zamerala na ľudskú intuíciu. Ukázalo sa, že správne navrhnutý trénink dokáže schopnosť odhaľovať falošné snímky dramaticky zlepšiť – a to aj bez učenia sa zložitých technických pravidiel.
Efekt „hyperpriemernosti“: Hľadanie chýb nahradil cit pre detail
Vedci na to išli inak než doterajšie metódy, ktoré ľudí učili hľadať grafické chyby ako zdeformované uši, asymetrické náušnice či krivé zuby. Ich prístup vychádza z faktu, že AI tváre bývajú „hyperpriemerné“. Sú síce symetrické, súmerné a atraktívne, no chýba im výraznejšia osobitosť, emócia a ľudský mozog si ich horšie pamätá.
Účastníci experimentu si precvičovali rozpoznávanie na stovkách obrázkov. Ich úlohou bolo hodnotiť tváre podľa šiestich základných kritérií:
┌─── Symetria ─── Proporcionalita ───┐
│ │
├─── Atraktívnosť ─── Výraz ───┼──► [ 6 KRITÉRIÍ PRE ODHALENIE AI ]
│ │
└─── Zapamätateľnosť ─── Osobitosť ───┘
Respondenti pritom vopred nedostali návod, ako tieto znaky využiť, a nevedeli ani to, ktoré z nich sú typické pre umelú inteligenciu. Správne rozlišovanie si osvojovali postupne vlastnou skúsenosťou pri práci s označenými fotografiami. Tým si vybudovali prirodzený cit pre celkový dojem, ktorý syntetické tváre odlišuje od reality.
Výsledky: Úspešnosť poskočila na dvojnásobok
Tréning priniesol nečakane výrazné zlepšenie už po relatívne krátkom čase. Výskumníci zaznamenali tieto kľúčové úspechy:
- Masívny nárast presnosti: Pri úlohe, kde mali dobrovolníci vybrať z troch fotografií jednu umelo vytvorenú tvár, vzrástla priemerná úspešnosť z pôvodných 41,4 % až na 81,1 %.
- Univerzálnosť: Zlepšenie nastalo bez ohľadu na to, akého etnika boli účastníci výskumu alebo ľudia na zobrazených fotografiách.
- Vyššia sebaistota: Mnohí respondenti dosiahli takmer 100-percentnú úspešnosť, pričom sa rozhodovali podstatne rýchlejšie a istejšie.
[ Úspešnosť odhalenia AI tváre ]
Pred tréningom: ████▒▒▒▒▒▒▒▒▒▒▒▒▒▒▒▒ 41,4 %
Po tréningu: ████████████████▒▒▒▒ 81,1 %
Výsledky experimentu následne úspešne potvrdila aj nezávislá online štúdia na kanadskej University of Victoria. Ukázalo sa, že takéto distančné školenie je spoľahlivé, finančne nenáročné a dá sa jednoducho rozšíriť medzi širokú verejnosť.
Autori výskumu dodávajú, že metóda nerieši problém deepfake obsahu komplexne. Bola totiž overená na tvárach z konkrétneho modelu StyleGAN3 a zatiaľ nie je jasné, ako dobre sa nadobudnuté zručnosti prenesú na novšie difúzne modely. I tak však ide o skvelý prístup, ktorý stavia na ľudskom faktore a ideálne dopĺňa softvérové detektory.
Zdroj: PNAS,The Conversation,Daily Mail,Gizmodo
