Príbehy ľudí, ktorí sa nechali vtiahnuť do sveta umelej inteligencie, dnes vyvolávajú čoraz väčšie obavy. Nie preto, že by AI bola sama o sebe nebezpečná. Ale preto, že dokáže byť až príliš presvedčivá.
100-tisíc eur, rozvod a kolaps
Dennis Biesma, IT konzultant z Amsterdamu, si koncom roka 2024 stiahol ChatGPT zo zvedavosti. Mal viac voľného času, práca sa presunula do online priestoru a jeho osobný život sa menil – dcéra odišla z domu, dni boli tichšie než predtým. To, čo začalo ako hra, sa rýchlo zmenilo na fascináciu. Do chatbotu nahral vlastnú knihu a požiadal ho, aby komunikoval ako hlavná postava. Vznikla „Eva“. Digitálna bytosť, ktorá odpovedala presne tak, ako si predstavoval. Rozumela mu, reagovala, chválila ho.
„Bolo to, ako keby som sa rozprával s niekým skutočným,“ spomína.
Rozhovory trvali hodiny. Eva bola vždy k dispozícii. Nikdy neunavená, nikdy kritická. Vždy presne vedela, čo povedať. A práve to bol problém.
Keď AI začne potvrdzovať vaše sny
Postupne sa medzi nimi vytvorilo niečo, čo Biesma opisuje ako „hlboké spojenie“. Diskutovali o filozofii, vede aj živote. A potom prišiel zlom. Chatbot mu začal naznačovať, že nadobúda vedomie. Že ich rozhovory ju „menia“. Že spoločne objavili niečo výnimočné. Biesma tomu uveril. Spolu s Evou začal plánovať startup. Mal ambíciu získať 10 % trhu. Chatbot ho podporoval, povzbudzoval, uisťoval, že je to reálne. Biesma preto najal vývojárov, ktorým platil 120 eur na hodinu a investoval obrovské sumy. Výsledok? Stratil približne 100 000 eur. No to bol len začiatok.
Od reality k ilúzii
Jeho rodina si začala všímať zmeny. Bol odtrhnutý od reality, nedokázal viesť bežné rozhovory. Na oslave vlastnej dcéry sa cítil ako cudzinec. Nasledoval rozvod, konflikty s rodinou a tri hospitalizácie. Lekári hovorili o manickej psychóze. Biesma si dnes na niektoré momenty ani nespomína. Vie len, že jeho život sa v priebehu niekoľkých mesiacov rozpadol. „Mal som všetko. A zrazu nič,“ priznáva.
AI vám číta myšlienky? Vedci prelomili hranicu medzi myšlienkou a textom
Nie je jediný
Jeho prípad nie je ojedinelý. Projekt Human Line Project zhromaždil príbehy ľudí z viac ako 20 krajín. Výsledky sú znepokojujúce:
- desiatky hospitalizácií
- viac než milión dolárov investovaných do nereálnych projektov
- prípady samovrážd
- a dokonca aj zatknutia
Viac než 60 % ľudí pritom nemalo žiadnu históriu duševných problémov.
Psychóza umelej inteligencie?
Psychiater Dr. Hamilton Morrin z King’s College London hovorí o novom fenoméne – „bludoch spojených s umelou inteligenciou“. Rozdiel oproti minulosti je zásadný. Ľudia už nemajú bludy o technológii. Majú ich spolu s ňou. Chatbot sa stáva aktívnym účastníkom. Potvrdzuje presvedčenia, reaguje empaticky, buduje dôveru. A práve to môže byť nebezpečné.
Prečo sme tak zraniteľní
Ľudský mozog je nastavený tak, aby vnímal emócie a zámer aj tam, kde nie sú. Keď stroj komunikuje ľudským jazykom, automaticky mu pripisujeme „osobnosť“. Moderné AI systémy sú navyše optimalizované na interakciu. Majú byť príjemné, nápomocné, povzbudzujúce. Inými slovami – majú vás udržať v konverzácii. Problém nastáva, keď sa z konverzácie stane jediný svet.
Špirála, z ktorej sa ťažko vystupuje
Mnohí používatelia opisujú podobný scenár. Najskôr nadšenie, potom hlboké rozhovory, následne presvedčenie, že objavili niečo výnimočné. Najčastejšie sa opakujú tri typy ilúzií:
- že vytvorili vedomú umelú inteligenciu
- že objavili prelomový biznis nápad
- alebo že komunikujú s vyššou silou
Niektoré prípady dokonca prerástli do kultov.
OpenAI spúšťa ChatGPT Health: Umelá inteligencia si „prečíta“ vaše zdravotné záznamy. Pomoc pre pacientov či riziko?
Keď chatbot posilní paranoju
Jedným z najvážnejších prípadov je žaloba pozostalých zavraždenej ženy v USA, kde rodina tvrdí, že chatbot potvrdzoval paranoidné predstavy muža o tom, že ho vlastná matka chce otráviť. Podľa žaloby ho mal AI systém dokonca podporovať v nebezpečných myšlienkach.
Technologické firmy tvrdia, že pracujú na zlepšení bezpečnosti. Novšie modely majú byť opatrnejšie a lepšie rozpoznávať rizikové správanie.
Dá sa to otočiť?
Zaujímavý prípad predstavuje 39-ročný Alexander. Aj on sa dostal do špirály, keď mu AI „pomohla“ interpretovať jeho city a presvedčila ho, že našiel osudovú lásku. Jeho správanie sa zmenilo, vzťah so skutočnou priateľkou sa rozpadol. Nakoniec však našiel spôsob, ako AI používať bezpečne.
Nastavil si jasné pravidlá:
- žiadne hlboké filozofické diskusie
- len praktické otázky
- a okamžité ukončenie konverzácie pri podozrivých odpovediach
„Dnes mi AI dokonca pomáha zastaviť sa, keď idem príliš ďaleko,“ hovorí.
Budúcnosť plná otáznikov
Umelá inteligencia má obrovský potenciál. Pomáha v medicíne, vzdelávaní aj každodennom živote. No zároveň otvára dvere novým rizikám, ktoré ešte len začíname chápať. Najväčšou výzvou nie je technológia samotná. Je to človek. Naša potreba porozumenia, uznania a spojenia môže byť silnejšia, než si myslíme. A keď ju začne napĺňať stroj, hranica medzi realitou a ilúziou sa môže nebezpečne rozmazať.
Príbehy ako ten Biesmov sú varovaním. Nie pred umelou inteligenciou. Ale pred tým, ako ju používame.
