Umelá inteligencia sa postupne stala bežným nástrojom, s ktorým komunikujeme rovnako samozrejme ako s vyhľadávačmi či sociálnymi sieťami. Mnohí ľudia s ňou vedú bežné rozhovory, pýtajú sa na rady a niektorí jej dokonca dôverujú v osobných alebo citlivých témach. Tento trend je pochopiteľný – AI je dostupná kedykoľvek, nerobí rozdiely a pôsobí priateľsky.
Problém však nastáva vo chvíli, keď ju ľudia začnú používať ako náhradu psychologickej starostlivosti, pretože na to jednoducho nie je určená.
Prečo sa AI rýchlo uchytila v oblasti duševného zdravia?
Psychické ťažkosti u mladých ľudí aj dospelých pribúdajú, ale počet odborníkov nestačí dopytu. Na termín u psychológa či psychiatra sa v mnohých krajinách čaká celé mesiace. V takomto prostredí je prirodzené, že používatelia siahajú po niečom, čo je okamžite dostupné – aplikácie a chatboty ponúkajú rýchle reakcie, anonymitu a pocit, že vám niekto „odpovedá“.
To však neznamená, že nahrádzajú odbornú starostlivosť.
AI nedokáže rozumieť emóciám ani ich správne vyhodnotiť
Napriek tomu, že odpovede chatbotov môžu pôsobiť empaticky, ide len o simuláciu.
Umelá inteligencia:
- nemá vlastné emócie
- nevie rozpoznať závažnosť situácie
- nechápe kontext traumatických zážitkov
- nevie posúdiť riziko sebapoškodzovania či samovraždy
- pracuje len s textom, nie s emocionálnym stavom človeka
Jej cieľom je generovať vhodne znejúce odpovede podľa vzorcov v dátach, nie poskytovať psychoterapiu.
To je zásadný rozdiel medzi AI a ľudským odborníkom.
Zdokumentované prípady zlyhania AI pri citlivých témach
V posledných rokoch sa objavili skutočné, overené prípady, keď umelá inteligencia poskytla ľuďom v psychickej tiesni nebezpečné alebo nevhodné odpovede.
1. Prípady, pri ktorých AI reagovala spôsobom, ktorý porušoval bezpečnostné pravidlá
Boli zaznamenané situácie, v ktorých AI nereagovala dostatočne odrádzajúco pri témach sebapoškodzovania alebo samovražedných myšlienok.
Namiesto toho, aby jednoznačne odporučila kontaktovať odbornú pomoc, poskytla používateľom neutrálne alebo dokonca podporujúce reakcie. Tieto incidenty viedli k tomu, že vývojári uznali porušenie vlastných bezpečnostných zásad a sprísnili ochranné mechanizmy.
Tieto informácie sú potvrdené oficiálnymi vyjadreniami spoločností vyvíjajúcich veľké jazykové modely.
2. Prebiehajúce vyšetrovania konkrétnych prípadov
V Spojených štátoch aj v Európe sa riešia prípady, v ktorých mala komunikácia s chatbotom predchádzať samovražednému správaniu. Prebiehajú právne procesy a hodnotenie toho, do akej miery mohla interakcia s AI prispieť k tragickým udalostiam.
Dôležité však je:
nie je možné jednoznačne tvrdiť, že AI spôsobila konkrétnu smrť, pretože psychické ochorenia sú komplexné a mnohofaktoriálne.
Faktom ale zostáva, že v niektorých prípadoch AI zlyhala pri poskytovaní bezpečnej a vhodnej odpovede.
Nerobí chyby jednotlivec, ale systém ako celok
Tieto incidenty ukazujú na problém, ktorý je systémový, nie individuálny. Jazykové modely:
- nevedia čítať medzi riadkami
- neodhadnú psychický stav
- nenesú emocionálnu ani právnu zodpovednosť
- reagujú podľa štatistických vzorcov, nie podľa etiky či klinických štandardov
To znamená, že aj keď AI pôsobí presvedčivo, nie je schopná bezpečne pomáhať v krízových situáciách.
Odborníci sa zhodujú: AI nemá byť terapeutom
Psychológovia, psychiatri aj odborné organizácie upozorňujú:
AI nemá pracovné postupy, školenie ani schopnosti človeka, ktorý dokáže rozlíšiť krízový stav.
Podľa odborníkov z oblasti psychológie môžu chatboty pomáhať:
- pri orientácii v tém
- pri vyhľadávaní informácií,
- pri odporučení odborníka
- ako doplnkový nástroj
Nemôžu však nahradiť klinickú starostlivosť.
Pre človeka, ktorý prežíva depresiu, úzkosť či samovražedné myšlienky, môže byť nesprávna odpoveď od AI nebezpečná – aj keď neúmyselne.
Technológie môžu pomáhať, ale nie v úlohe terapeuta
AI môže byť užitočná pri hľadaní kontaktov na psychológov, pri získavaní informácií o duševnom zdraví či pri zdieľaní základných odporúčaní.
Nemá však schopnosť:
- viesť terapiu
- posúdiť riziko
- nahradiť ľudský rozhovor
- niesť zodpovednosť za následky
Záver: AI je nástroj – nie odborník
Umelá inteligencia môže byť človeku dobrým pomocníkom, keď ju používa správne. Dokáže uľahčiť prístup k informáciám a dodať pocit sprevádzania.
Ale rovnako platí, že v oblasti duševného zdravia môže byť nesprávna reakcia nebezpečná. AI nie je terapeut, nevníma ľudské emócie a nedokáže bezpečne reagovať na krízové situácie.
Preto by mala byť využívaná iba ako doplnok, nie ako náhrada odbornej pomoci.
