Európska únia (EÚ) potvrdila, že vedie diskusie s americkou spoločnosťou Anthropic ohľadom obáv týkajúcich sa schopností jej najnovšieho AI modelu Mythos. Podľa Anthropicu môže byť potenciálnou hrozbou pre kybernetickú bezpečnosť.
Hovorca Európskej komisie (EK) Thomas Regnier uviedol, že Anthropic vydal nový AI model, ktorý so sebou prináša určité riziká, a preto je potrebné získať informácie o týchto rizikách.
„Kontaktujeme platformu Anthropic. Už sme dostali určité informácie,“ povedal Regnier a potvrdil, že prvé stretnutie sa uskutočnilo v stredu a ďalšie budú nasledovať.
Len veľké firmy
Anthropic začiatkom mesiaca obmedzil uvoľnenie modelu Mythos len na 40 veľkých technologických spoločností, aby im poskytla náskok pri odstraňovaní zraniteľností pred ich zneužitím.
Žiadne zahraničné subjekty však neboli zahrnuté, čo vyvolalo obavy o pripravenosť sveta na model, ktorého útočné schopnosti by nepoznali hranice USA.
Podľa spoločnosti Anthropic a jej partnerov dokáže Mythos autonómne prehľadávať obrovské množstvo kódu a identifikovať a prepájať doteraz neznáme bezpečnostné zraniteľnosti v rôznom softvéri, od operačných systémov po webové prehliadače.
Dokáže ničiť
Dôležité je, že to dokáže robiť rýchlosťou a rozsahom, ktorý žiadny človek nedokáže dosiahnuť, čo znamená, že by mohol byť použitý na zničenie bánk, nemocníc alebo národnej infraštruktúry v priebehu niekoľkých hodín.
Oznámenie Anthropicu vyvolalo zmiešané reakcie, od alarmu po skepticizmus, pričom niektorí poukazujú na to, že firma, ktorá je jedným z viacerých súťažiacich v intenzívnom závode v oblasti umelej inteligencie, môže z tejto pozornosti profitovať.
V hre je aj Fed
Šéfovia najväčších amerických bánk sa tento mesiac stretli s predsedom Federálneho rezervného systému (Fed)Jerome Powellom a ministrom financií Scottom Bessentom, aby zvážili bezpečnostné dôsledky ešte nevydaného modelu.
