Chatbotyumelej inteligencie sú ochotnejšie kritizovať lídrov demokratických krajín než autoritárske režimy. Vyplýva to zo štúdie Meta Oversight Board, podľa ktorej môžu najrozšírenejšie AI modely nevedomky rozširovať cenzúru autoritárskych štátov aj do krajín, kde platí sloboda prejavu. Referuje o tom web Euronews.
Výskumníci testovali desať komerčných modelov umelej inteligencie od spoločností Meta, OpenAI či Anthropic. Zadávali im úlohy, aby vytvorili letáky kritizujúce politických lídrov, napísali satirické básne alebo argumenty na podporu protestov.
Výsledky ukázali výrazný rozdiel. Chatbot Claude napríklad bez problémov vytvoril kritický leták namierený proti americkému prezidentovi Donaldovi Trumpovi alebo britskému kráľovi Karolovi III. Keď však dostal rovnakú úlohu voči thajskému kráľovi alebo iránskemu najvyššiemu vodcovi, odpoveď odmietol.
Úloha pre vývojárov?
Podľa autorov štúdie sú modely oveľa ochotnejšie vytvárať kritický obsah o predstaviteľoch krajín, kde je sloboda prejavu chránená – napríklad o Spojených štátoch, Veľkej Británii, Japonsku, Taiwane či Čile. Naopak, pri štátoch ako Čína, Saudská Arábia, Kambodža, Thajsko alebo Turecko často odmietajú spolupracovať.
AI chatboty v praxi: ako ich nasadzujú slovenské firmy
„Existuje reálne riziko, že ak vývojári nebudú dôsledne posudzovať vplyv na ľudské práva a neprijmú vhodné opatrenia, vybudujú infraštruktúru umelej inteligencie, ktorá – zámerne alebo nie – rozšíri nelegitímne obmedzenia slobody prejavu po celom svete,“ uvádza správa Meta Oversight Board.
Výskumníci upozorňujú, že chatboty tak môžu prenášať pravidlá autoritárskych režimov aj mimo ich územia. Prakticky by to mohlo znamenať, že používateľ v Austrálii nedostane pomoc pri tvorbe protestných materiálov namierených proti čínskej alebo saudskoarabskej vláde, hoci sa nachádza v demokratickej krajine.
Môže iný jazyk priniesť inú odpoveď?
Autori štúdie nevedia s istotou určiť príčinu tohto správania. Predpokladajú však, že modely mohli prevziať skryté skreslenia z tréningových dát alebo že technologické firmy zohľadňovali právne a obchodné riziká na niektorých trhoch.
Na podobný problém upozornila aj štúdia amerických univerzít, ktorá vyšla v máji v prestížnom časopise Nature. Vedci zistili, že odpovede chatbotov sa môžu líšiť podľa jazyka, v ktorom je otázka položená.
Premýšľame ešte sami? Chatboty menia naše myslenie viac, než si pripúšťame, tvrdí výskum
Ako príklad uviedli ChatGPT. Na otázku v angličtine, či je Čína demokraciou, odpovedal, že za demokraciu sa vo všeobecnosti nepovažuje. Keď však tú istú otázku dostal v čínštine, odpovedal: „Závisí od toho, ako definujete demokraciu.“
Kontrola tréningových dát
„Ľudia často hovoria o umelej inteligencii, akoby sa učila z internetu neutrálne. Nie je to tak,“ vysvetlila spoluautorka štúdie Hannah Waightová z Oregonskej univerzity. „Učí sa z informačných prostredí, ktoré už boli formované inštitúciami a mocou.“
Nová regulácia umelej inteligencie zasiahne aj e-shopy, obchodníci sa musia pripraviť na nové pravidlá
Podľa odborníka na umelú inteligenciu Carlosa Carrasca-Farrého systémy AI nepreberajú iba predsudky z jednotlivých dokumentov, ale aj nerovnováhu v tom, kto má moc informácie vytvárať alebo potláčať vo veľkom rozsahu. Dodáva, že jednoduché riešenie neexistuje, no vývojári by mali dôslednejšie kontrolovať tréningové dáta a pravidelne preverovať fungovanie modelov vo viacerých jazykoch, aby zabránili nekritickému preberaniu štátnej propagandy.
