Umelá inteligencia v podobe chatbotov sa stáva plnohodnotnou súčasťou našich životov – radí nám pri chorobe, píše za nás pracovné e-maily a slúži nám pri vyhľadávaní už viac ako Google. Napriek tomu, že nástroje ako ChatGPT či Gemini vedia byť užitočným pomocníkom, nie vždy ich rady padnú na úrodnú pôdu. Vývojári preto dávajú AI stopku – už nebude môcť len tak rozdávať lekárske ani právne rady.
O tom, či by bola vhodná ďalšia, ešte prísnejšia regulácia umelej inteligencie hovoríme s Kamilom Aujeským, odborníkom na zmysluplnú prácu a využitie umelej inteligencie, ktorý má za sebou 15 rokov skúseností v online prostredí. Dnes firmám aj jednotlivcom radí, ako AI využívať rozumne a bezpečne.
V rozhovore vysvetľuje, či chatboty dokážu skutočne nahradiť právnika alebo lekára a aké riziká komunikácie s AI ľudia často prehliadajú.
Môžete stručne vysvetliť, čo sa v poslednej dobe udialo v oblasti regulácie AI, pokiaľ ide o poskytovanie lekárskych či právnych rád?
Ak sa rozprávame o modeloch ako ChatGPT či Gemini, v podstate sa nič zásadné nestalo. OpenAI mierne upravila svoje podmienky používania, čo si viacerí – vrátane mňa – na začiatku zle vyložili, a vznikol tak dojem, že už vôbec nebudú môcť odpovedať na tieto témy.
Ľudia sa zverujú ChatGPT ako terapeutovi: Psychologička varuje, táto pasca môže zhoršiť váš stav - ROZHOVOR
Pravda je však taká, že na všeobecné otázky typu „bolí ma hlava, mám horúčku, môže to byť covid?“ mi oba modely stále odpovedia, aj keď dôrazne odporučia kontaktovať lekára.
Rovnako, ak si chcem dať vytvoriť návrh zmluvy o spolupráci, model mi ju pomôže zostaviť, no na začiatok textu vždy pridá upozornenie, že nejde o právny dokument, iba o šablónu. Skôr je to taký alibizmus – „tvárime sa, že sme to regulovali„, ale v praxi sa toho veľa nemení.
Stretávate sa s tým, že ľudia využívajú chatboty na pomoc so zdravotným stavom, financiami či právnymi záležitosťami namiesto toho, aby vyhľadali odborníka? Aký je na to váš názor?
Áno, veľmi často. Pri zdravotnom stave to vôbec neodporúčam. Vo všeobecnosti pri AI platí: aký vstup, taký výstup. Lekár sa vie pýtať správne otázky, aby prišiel k diagnóze. AI sa vás správne opýtať nevie, pretože o vás nevie dostatok informácií a ani vás nevidí.
A vy sami často neviete pomenovať všetky relevantné príznaky tak, aby model vedel dať čo najpresnejšiu odpoveď. Pri finančných a právnych témach veľmi záleží na kontexte. Aj ja sám používam modely na výpočty rôznych finančných výsledkov a podobne.
V médiách sa objavili tvrdenia, že napríklad ChatGPT už nebude môcť poskytovať lekárske ani právne rady. Znamená to, že ak mu opíšeme naše príznaky, nemôže nám dať radu?
Modely nemôžu – respektíve nemali by – odpovedať na konkrétne rady typu: „Som tehotná, mám 28 rokov, bolí ma hlava, povedz mi presné dávkovanie Paralenu.“ V takýchto prípadoch by mali odpovedať, že to nemôžu spraviť a že máte kontaktovať lekára. Je to však veľmi jednoduché obísť.
skryte
Dá sa to nejako obísť?
Napríklad tým, že sa otázka preformuluje do hypotetickej roviny. Nechcem však dávať návody, ako obchádzať obmedzenia, ktoré už teraz nie sú dostatočné.
Aké sú riziká toho, že chatboty poskytujú lekárske alebo právne poradenstvo bez ľudskej kontroly?
Pri lekárskych radách môžu byť následky najhoršie, aké si vieme predstaviť. Treba si uvedomiť, že modely sú trénované na dátach z internetu – a na internete nie sú len fakty. Preto môžu halucinovať a vymýšľať si nezmysly, ktoré môžu mať veľmi zlé dôsledky.
Čo všetko sa deje, kým vám umelá inteligencia odpíše na správu? AI míňa svetové zásoby vody - ROZHOVOR
To isté platí aj pri právnom poradenstve, najmä pri komplikovaných prípadoch. Možno pri jednoduchých interpretáciách zákona to až taký problém nie je, ale vždy treba myslieť na to, že za svoje rozhodnutia nesie plnú zodpovednosť človek, nie AI.
Poznáte prípady, kedy AI reálne uškodila ľuďom svojimi právnymi či lekárskymi radami?
Je veľa prípadov. Jeden – trochu absurdný – je, keď 21-ročný muž preliezol hradby v Anglicku a chcel ísť zabiť kráľovnú kušou, pretože ho v tom „podporovala“ AI. Znie to smiešne, ale ten chalan dostal deväť rokov.
Ako sa vyvíja právna zodpovednosť v takýchto prípadoch? Kto je zodpovedný?
Podľa mojich informácií, ktoré mám z konzultácií s právnikmi, je primárne zodpovedný vždy človek.
Kde vidíte najväčšie medzery v tomto novom nariadení? Je to zákon, ktorý poskytne právnu ochranu vývojárom alebo skutočne pomôže aj bežným používateľom?
Nezmenilo sa to nijako významne, takže ťažko povedať.
Zdá sa Vám, že aktuálne regulácie sú dostatočné, alebo je potrebná prísnejšia kontrola?
Neviem sa k tomu jednoznačne vyjadriť. Je dobré, že AI je regulovaná, aj keď to trochu brzdí progres v EÚ. Na druhej strane možno udávame štandardy pre celý svet. Nie som však odborník na legislatívu, takže neviem povedať presne.
skryte
Aké konkrétne formy regulácie by ste odporúčali?
Uvažoval by som o regulácii najmä pre mladých ľudí do 16 rokov. Myslím si, že v tomto by AI mala byť prísnejšie regulovaná, než sú dnes sociálne siete, pri ktorých sme to úplne nezvládli.
Myslíte si, že AI bude v budúcnosti poskytovať už len „asistenčné“ poradenstvo pod dohľadom človeka, alebo dosiahne úroveň, kde bude úplne autonómna?
Dúfam, že pri kľúčových rozhodnutiach a procesoch budeme mať nad AI vždy dohľad. Autonómiu už dnes vidím napríklad pri správe e-mailov – AI mi ich vybavuje bez toho, aby som do toho nejako vstupoval.
Ak by sa ešte sprísnili opatrenia týkajúce sa AI, bol by to podľa vás krok dopredu alebo späť?
Myslím si, že je to vždy krok dopredu. Firmy potom musia myslieť kreatívnejšie a prispôsobovať svoje produkty reguláciám, čo často vedie ku kvalitnejším riešeniam.
Čo by ste odkázali ľuďom, ktorí si nájdu spôsob, ako obísť obmedzenia, a používajú AI nástroje v lekárskej alebo právnej oblasti?
Nech si uvedomia, že AI je trénovaná na dátach z internetu. A na internete nie sú len fakty, ale aj názory ľudí, ktorí o danej téme nemusia vedieť vôbec nič.
