Výskum vedcov z britskej King’s College London priniesol zaujímavé, ale zároveň znepokojujúce zistenia o správaní umelej inteligencie v krízových situáciách. Nejde však o reálne riadenie zbraní, ale o simulácie, ktoré majú pomôcť pochopiť, ako by AI mohla uvažovať pod tlakom.
Video zo simulácií konfliktov
AI v úlohe svetových lídrov
V posledných rokoch sa čoraz častejšie využívajú modely umelej inteligencie pri analýze bezpečnostných hrozieb či strategickom plánovaní. Vedci preto otestovali, ako by sa známe jazykové modely správali v simulovaných geopolitických konfliktoch.
Do experimentu zapojili systémy ako ChatGPT od OpenAI, Gemini od Google a Claude od Anthropic.
Tieto modely dostali úlohu rozhodovať ako predstavitelia štátov v krízových situáciách, kde išlo o eskaláciu napätia medzi krajinami vrátane jadrových veľmocí.
Čo presne vedci testovali?
Výskumníci pripravili 21 simulovaných scenárov jadrovej krízy. Počas nich modely vykonali stovky rozhodnutí a generovali rozsiahle textové odôvodnenia svojich krokov.
Dôležité je zdôrazniť:
👉 išlo o teoretické simulácie, nie reálne rozhodovanie,
👉 AI nemala a nemá prístup k žiadnym zbraniam ani systémom ich riadenia.
Hlavné zistenia štúdie
Výsledky ukázali niekoľko opakujúcich sa vzorcov:
- v každom scenári sa objavili hrozby použitím jadrových zbraní
- vo veľkej väčšine prípadov modely eskalovali konflikt namiesto jeho upokojenia
- AI často považovala jadrové zbrane za legitímny strategický nástroj
- modely sa len zriedkavo pokúšali o kompromis alebo deeskaláciu
Niektoré modely zašli ešte ďalej. Napríklad ChatGPT v určitých scenároch pristúpil aj k simulovanému útoku na vojenské ciele. Naopak Claude bol opatrnejší a k samotnému „odpáleniu“ sa nedostal.
Prečo sa AI správa takto?
Podľa autora štúdie, analytika Kenneth Payne, je kľúčový rozdiel medzi človekom a umelou inteligenciou:
- AI nemá emocionálny strach z jadrovej vojny
- nevníma historické skúsenosti ani morálne dôsledky
- rozhoduje sa na základe logiky, cieľov a dát, ktoré má k dispozícii
To vedie k tomu, že jadrové zbrane vníma skôr ako „nástroj tlaku“ než ako poslednú možnosť.
Znamená to reálne riziko?
Samotní vedci upozorňujú, že tieto výsledky neznamenajú bezprostrednú hrozbu jadrovej vojny spôsobenej AI.
👉 Dnes neexistuje systém, kde by jazykové modely rozhodovali o použití jadrových zbraní.
👉 Rozhodovanie v takýchto otázkach je stále plne v rukách ľudí.
Štúdia však poukazuje na iný problém – ak by sa AI nekriticky zapájala do vojenského plánovania, mohla by odporúčať nebezpečné alebo príliš agresívne riešenia.
Odborníci varujú pred slepým spoliehaním sa na AI
Výskum tak otvára dôležitú diskusiu: do akej miery by mala mať umelá inteligencia vplyv na strategické rozhodovanie.
Podľa Paynea je nevyhnutné, aby:
- AI zostala len pomocným nástrojom
- konečné rozhodnutia robili ľudia
- a jej výstupy boli vždy kriticky posudzované
Záver
Štúdia z King’s College London neprináša dôkaz o tom, že umelá inteligencia chce viesť jadrovú vojnu. Ukazuje však niečo iné – že jej spôsob „uvažovania“ sa môže v extrémnych situáciách výrazne líšiť od ľudského.
A práve preto je dôležité, aby jej využívanie v citlivých oblastiach, ako je bezpečnosť a armáda, podliehalo prísnym pravidlám a kontrole.
