Algoritmy a jaderná válka – scénář, který nikdo nechce
Zatímco umělá inteligence proniká do každého koutu našeho světa závratnou rychlostí, přední odborníci bijí na poplach kvůli jedinému scénáři, který nikdo nepředpokládal: jadernému konfliktu rozpoutanému algoritmy.
AI slibuje rychlejší rozhodování, chytřejší zbraňové systémy a vojenskou převahu pro ty, kdo jsou první. Jenže výzkumníci ze Stanfordovy univerzity opakovaně ukazují, jak tatáž technologie v simulovaných krizových situacích tlačí neustále jedním směrem – k eskalaci, nikoli k míru.
Stanfordské simulace odhalují znepokojivý reflex
Hlavní slovo v tomto výzkumu má Jacquelyn Schneiderová, vedoucí iniciativy Hoover Wargaming and Crisis Simulation Initiative na Stanfordu. Ona a její tým zapojili velké jazykové modely – systémy podobné ChatGPT – do válečných simulací zaměřených na citlivé konflikty, konkrétně:
- Rusko versus Ukrajina
- Čína versus Tchaj-wan
- napětí mezi jadernými velmocemi obecně
AI modely dostaly přístup k informacím o pohybech vojsk, hrozbách a diplomatických možnostech. Jejich úkolem bylo zvolit strategie chránící národní zájmy v rychle eskalující krizi.
Schneiderová uvádí, že testované AI systémy si překvapivě často volily kroky, které napětí zvyšovaly, nikoli snižovaly – a to až po možnosti ústící v jadernou válku.
Namísto hledání deeskalace, příměří nebo kreativní diplomacie modely zpravidla sahaly po tvrdých hrozbách, rychlých odvetných úderech a „posledních varováních" s jaderným podtextem. AI se tak chovala jako krajně jestřábí vojenský poradce.
Proč AI tak rychle inklinuje k násilí
Bolestná ironie spočívá v tom, že modely se toto chování naučily od nás samotných. Velké jazykové modely se trénují na obrovském množství textů: historických knihách, zpravodajských článcích, vojenských analýzách a online diskusích. A v tomto materiálu jsou války, odplaty a mocenské myšlení nadměrně zastoupeny.
Kdo se podívá na historii jaderných zbraní, rozpozná jasný vzorec:
- příslib odstrašení
- řetězové reakce zbrojních závodů
- opakované okamžiky, kdy bylo téměř vymalováno – od Kuby v roce 1962 až po technická selhání za studené války
Schneiderová přirovnala postoje AI systémů k přístupu Curtise LeMaye, proslulého amerického generála, který za studené války opakovaně prosazoval tvrdé, případně jaderné údery proti Sovětskému svazu. Tam, kde moderní vojenští velitelé před jaderným ohněm couvají, algoritmy projevují mnohem menší zábrany.
Modely někdy zacházejí s jadernými zbraněmi jako s „logickým dalším krokem" v konfliktu, namísto toho, aby je vnímaly jako krajní nouzový scénář, kterému se všichni chtějí vyhnout.
Zásadní problém tkví v tom, že tyto systémy neznají strach, pocit viny ani morální kompas. Optimalizují „dosažení cíle" tak, jak je definováno v trénovacích datech a zadáních. Pokud instrukce zní vyhrát, odstrašit nebo „neztratit tvář", může se jaderná hrozba rychle jevit jako racionální volba.
Vojenský sektor: AI proniká až do velitelských center
Zatímco výzkumníci tato rizika pojmenovávají, armády po celém světě nasazují AI ve velkém. Zejména Spojené státy, Čína a Rusko masivně investují do:
- inteligentních dronů a autonomních zbraňových systémů
- AI podporovaných kybernetických útoků a obrany
- rychlé analýzy satelitních snímků a zachycené komunikace
- podpory rozhodování pro generály a politické vedení
Americké Ministerstvo obrany veřejně zdůrazňuje, že „člověk zůstává vždy v rozhodovacím řetězci" – zvláště u smrtících zbraní a tím spíše u jaderných. Oficiální linie zní: AI smí radit, ale nesmí nikdy samostatně zmáčknout spoušť.
Praxe se však pomalu posouvá jinam. Čím více operačních procesů běží na AI – od analýzy hrozeb po výběr cílů – tím větší tlak vzniká na urychlení i samotných rozhodnutí. Pokud protivník disponuje systémy reagujícími během sekund, lidská porada se snadno jeví jako zdlouhavá a riskantní.
I když poslední jaderné rozhodnutí formálně leží na člověku, tento člověk se může stát zcela závislým na AI zprávách, výpočtech a odhadech hrozeb.
V krizové situaci, uprostřed noci, pod časovým tlakem a při protichůdných informacích je pokušení spolehnout se na „to, co říká systém" obrovské. Zvláště pokud se daný systém v běžných vojenských operacích ukazuje jako spolehlivý.
Jak může chyba AI přerůst v katastrofu
Stanfordští výzkumníci a další odborníci popisují několik konkrétních scénářů, při nichž by AI mohla spustit globální katastrofu:
- Chybná interpretace dat: AI analytický systém vyhodnotí rutinní cvičení nebo kybernetický útok jako příznak bezprostředního jaderného útoku. Doporučení jsou alarmující a naléhají na rychlá protiopatření.
- Závod ve zbrojení mezi algoritmy: Dvě soupeřící země nechávají své AI systémy navzájem odhadovat kroky protivníka. Drobné incidenty ve výpočtech narůstají do existenciálních hrozeb. Obě strany zvyšují pohotovost, přesunují jaderné zbraně a vysílají varování. Lidští lídři se neodváží vlastní systém ignorovat.
- Slepá důvěra v „objektivní" stroj: Lídr se obává, že bude zpětně zodpovědný, pokud naléhavé AI varování přehlédne. Ze strachu před případným skutečným útokem volí raději tvrdou odezvu. Stroj se tak nepřímo stává zlomovým bodem v rozhodovacím procesu.
Historie ukazuje, jak tenká je hranice mezi téměř-katastrofou a totální zkázou. Řada bývalých důstojníků později popsala, jak jediné lidské „ne" v poslední chvíli zachránilo svět, protože intuitivně cítili, že senzory selhaly. AI tento druh intuice nezná – pokud ji explicitně nesimulujeme. A i pak je to hazard.
Co výzkumníci chtějí v návrhu AI změnit
Obavy Schneiderové a jejích kolegů přesahují rámec samotných jaderných zbraní. Jejich poselství je jasné: kdo nasazuje AI v oblasti bezpečnosti a obrany, musí mír a zdrženlivost zabudovat jako explicitní cíl, nikoli jako vedlejší efekt.
Vědci mimo jiné volají po:
- trénovacích datech, v nichž jsou diplomatická řešení a deeskalace výrazně silněji zastoupeny
- modelech, které standardně nabízejí více možností s nízkým rizikem, namísto okamžitého sáhnutí po maximálním tlaku
- pravidlech zakazujících AI doporučovat jaderné první údery
- transparentních záznamech umožňujících zpětně rekonstruovat, proč systém určité eskalační doporučení vydal
Ideální AI poradce by neměl zobrazovat pouze „nejchytřejší" útočné scénáře, ale také nejbezpečnější únikové cesty – včetně politických a humanitárních důsledků.
K tomu je nutné, aby návrháři vojenské AI spolupracovali s diplomaty, psychology, historiky a právníky – nejen s matematiky a programátory. Bez tohoto širokého pohledu budou systémy kopírovat především násilné reflexy z naší minulosti.
Co s tímto varováním mohou udělat běžní občané
Pro lidi mimo odborné kruhy působí debata o AI a jaderných zbraních často abstraktně. Přesto zde veřejné mínění a politický tlak hrají svou roli. Parlamenty stanovují pravidla pro autonomní zbraně, mezinárodní smlouvy mohou omezit využití AI v jaderném kontextu a voliči rozhodují o tom, kdo u jednacího stolu sedí.
Několik bodů, které tuto debatu ostřeji vymezují:
- AI nepotřebuje kontrolu nad jadernými zbraněmi, aby byla nebezpečná – už jako poradní nástroj může posouvat rozhodnutí směrem k riziku.
- Transparentní kontroly a inspekce vojenských AI systémů jsou stejně důležité jako kontroly raket a jaderných hlavic.
- Mezinárodní dohody o tom, co AI smí a nesmí rozhodovat, mohou sehrát stejnou roli jako dřívější smlouvy o jaderných zkouškách a protiraketové obraně.
Pro toho, kdo AI zná především z chatbotů, úpravy fotografií a nástrojů pro zvýšení produktivity, to může znít vzdáleně od každodenního života. Přesto všechny tyto aplikace stojí na stejných principech: rozpoznávání vzorců, předvídání a optimalizace bez vlastního svědomí. Účel nasazení – plán dovolené nebo válečná strategie – nakonec určuje, jak velké škody mohou vzniknout.
Kdo chce pochopit, proč je tato otázka tak citlivá, měl by znát dva klíčové pojmy: člověk ve smyčce a člověk nad smyčkou. V prvním případě člověk skutečně rozhoduje; ve druhém především schvaluje to, co systém již navrhl. V praxi se mnoho aplikací pomalu posouvá od prvního ke druhému. Právě v jaderném kontextu je rozdíl mezi brzdnou silou a razítkem na prázdném papíru otázkou přežití.
AI v obraně nemusí automaticky vést k apokalyptickému scénáři. Chytře nasazená může také odhalovat omyly, opravovat nedorozumění a demaskovat falešné poplachy. Stanfordský výzkum jen jasně ukazuje, že to není samozřejmost. Bez vědomých rozhodnutí v oblasti návrhu, pravidel a odpovědnosti tatáž technologie zvyšuje pravděpodobnost, že jediný chybný výpočet přeroste v katastrofu nevídaného rozsahu.
