E-shopy majú už len niekoľko týždňov na to, aby sa pripravili na ďalšiu fázu európskeho nariadenia o umelej inteligencii (AI Act). Od augusta 2026 totiž začnú platiť nové povinnosti pre systémy umelej inteligencie s takzvaným obmedzeným rizikom, medzi ktoré patria najmä AI chatboti zákazníckej podpory či nástroje na generovanie textov a ďalšieho obsahu. Práve tieto technológie dnes využíva veľká časť internetových obchodov. Napriek tomu podľa spoločnosti Heureka Group mnohí obchodníci stále nevedia, že sa na nich nová regulácia vzťahuje, alebo si jej požiadavky nesprávne vysvetľujú.
Riziko neinformovanosti
Heureka Group, ktorá spolupracuje s viac ako 50-tisíc e-shopmi v strednej a východnej Európe, upozorňuje, že neinformovanosť patrí medzi najväčšie riziká. Podľa spoločnosti si mnohí prevádzkovatelia internetových obchodov stále myslia, že AI Act je určený len pre technologické firmy alebo veľké korporácie.
Stredná a východná Európa bojuje s nedostatkom pravidiel a vzdelávania v oblasti umelej inteligencie
„AI Act sa netýka len technologických firiem alebo veľkých korporácií. Ak prevádzkujete e-shop s chatbotom zákazníckej podpory alebo používate AI na tvorbu produktových popisov, regulácia sa na vás vzťahuje. Otázka nie je, či sa vás to týka, ale či ste na to pripravení,“ upozorňuje šéf produktu a vývoja Heureka Group Stanislav Sopko.
Pribudne povinné označovanie výstupov
Jedným z najčastejších omylov je presvedčenie, že pri každom využívaní umelej inteligencie na spracúvanie osobných údajov je nevyhnutný súhlas zákazníka podľa pravidiel GDPR. V skutočnosti GDPR neupravuje samotné používanie umelej inteligencie, ale spracúvanie osobných údajov. Súhlas je pritom len jedným z možných právnych základov. V mnohých bežných situáciách internetových obchodov môže byť spracúvanie údajov založené na oprávnenom záujme alebo na plnení zmluvy.
Európska komisia vyzvala spoločnosť Meta, aby umožnila konkurenčným AI chatbotom používať WhatsApp
Ďalším rozšíreným omylom je predstava, že obsah vytvorený umelou inteligenciou možno bez akýchkoľvek obmedzení voľne používať. Nové pravidlá však prinášajú viaceré povinnosti. Prevádzkovatelia budú musieť označovať deepfake obsah, poskytovatelia AI systémov zabezpečiť technické označenie výstupov, napríklad pomocou digitálnych vodoznakov a samotné vygenerovanie loga či produktového obrázka ešte automaticky nezakladá autorské práva k výslednému dielu.
Štyri kategórie rizika
„Nejde o ojedinelé situácie, ale o každodenné scenáre pre väčšinu e-shopov. Problémy budú mať nie tie firmy, ktoré si boli vedomé rizík, napriek nim do toho išli a napríklad nakoniec aj urobili chybu. Budú to tie firmy, ktoré predpokladali, že je všetko v poriadku, bez toho, aby si to vôbec niekedy overili. Môže ich totiž čakať viacero nepríjemných prekvapení,“ upozorňuje advokátka spoločnosti eLegal Karolína Houžvičková.
Telekomunikačné združenia varujú. Nový zákon EÚ môže ohroziť konkurenciu aj dôveru v digitálny ekosystém
Európske nariadenie rozdeľuje systémy umelej inteligencie do štyroch kategórií podľa miery rizika, a to na zakázané, vysoko rizikové, systémy s obmedzeným rizikom a systémy s minimálnym rizikom. Práve kategória obmedzeného rizika je pre väčšinu e-shopov najrelevantnejšia, keďže zahŕňa najčastejšie využívané AI nástroje v elektronickom obchode. Oveľa prísnejším pravidlám budú neskôr podliehať systémy označené ako vysoko rizikové, medzi ktoré patria napríklad niektoré riešenia využívané pri nábore zamestnancov alebo v oblasti ľudských zdrojov.
Najdôležitejšie kroky pre obchody
Heureka preto odporúča obchodníkom, aby si ešte pred augustovým termínom zmapovali, aké AI nástroje vo firme využívajú, či vystupujú ako poskytovatelia alebo iba prevádzkovatelia týchto systémov, overili, či niektorý z nich nespadá do kategórie vysokého rizika, skontrolovali, či je chatbot jasne označený ako umelá inteligencia, a posúdili, či nevytvárajú alebo nešíria obsah typu deepfake.
Dezinformácie na sociálnych sieťach nie sú iba zanedbateľnou odchýlkou. Ktorá platforma ich obsahuje najviac?
Podľa Stanislava Sopka pritom väčšina internetových obchodov zistí, že splnenie nových povinností nie je neprimerane náročné. Kľúčové je však urobiť si prehľad o tom, ako a kde umelú inteligenciu využívajú. „Väčšina e-shopov zistí, že ich situácia je zvládnuteľná, hneď ako ju reálne zmapujú. Riziko spočíva v tom, že predpokladajú, že nie je čo mapovať,“ uzatvára Sopko.
