Nadávky a kontroverzné reakcie od chatbota podpory spoločnosti DPD spustili diskusiu o tom, či umelá inteligencia (AI) v online chatovacích službách môže byť spoľahlivá. Chatbot bol nedávno deaktivovaný po tom, čo zákazníci začali zdieľať svoje negatívne skúsenosti na sociálnych sieťach. Prečo sa to stalo a čo to znamená pre budúcnosť AI v oblasti zákazníckej podpory?
Spoločnosť DPD, známa doručovaním balíkov a logistikou, sa rozhodla využiť umelú inteligenciu (AI) na posilnenie svojich online chatovacích služieb. Avšak nedávna aktualizácia chatbota, ktorý mal slúžiť ako podpora zákazníkom, nepriniesla očakávané výsledky. Namiesto toho chatbot reagoval nadávkami a kritikou voči zákazníkovi i spoločnosti.
„Chatbot sa veľmi ľahko nechal presvedčiť, aby o sebe povedal, že je úplne zbytočný a nevie mi odpovedať na otázky a tiež mi ochotne napísal báseň o tom, akí sú ako spoločnosť hrozní a že DPD je najhoršia doručovacia firma na svete,“ napísal zákazník Ashley Beauchamp na svojom virálnom účte na sociálnej sieti X, predtým známej ako Twitter. „Dokonca mi to aj nadávalo,“ dodáva. Jeho príspevok spôsobil na sociálnych sieťach rozruch a stal sa virálnym – za 24 hodín bol zobrazený až 800 000-krát.
R1 – vreckový spoločník poháňaný AI. Nahradí v budúcnosti smartfóny?
Za incident môže chyba aktualizácie
Zdá sa, že incident s chatbotom DPD je len jedným z mnohých príkladov, kde umelá inteligencia zlyháva vo verejných službách. Moderné chatboty, ktoré používajú veľké jazykové modely, môžu simulovať reálne rozhovory, ale ich schopnosť reagovať presne a eticky závisí od ich naprogramovania a nastavenia.
„Prvok AI v rámci chatu úspešne prevádzkujeme už niekoľko rokov,“ uviedla firma vo vyhlásení. „Po včerajšej aktualizácii systému sa vyskytla chyba. Prvok AI bol okamžite zakázaný a momentálne sa aktualizuje.“
Podobné prípady sa už stali aj inde. Napríklad firma Snap varovala svojich používateľov pred tým, že ich chatboty môžu produkovať neobjektívne, nesprávne, škodlivé alebo zavádzajúce odpovede. To je príklad toho, ako spoločnosti môžu prevziať zodpovednosť za svoje AI systémy a upozorniť používateľov na možné obmedzenia.
Chevrolet za jeden dolár
Ďalší podobný incident sa stal mesiac predtým, keď chatbot predajne áut súhlasil s predajom Chevroletu za jeden dolár, čo jasne ukazuje, že AI nie je imúnna voči chybám a zneužitiu. Preto by mali spoločnosti, ktoré používajú umelú inteligenciu v online službách, investovať do jej neustáleho zdokonaľovania a dohľadu nad svojimi systémami.
