Spolupráce s Pentagonem se proměnila v krizi důvěry
To, co začalo jako prestižní dohoda s americkým ministerstvem obrany, se během několika dnů proměnilo ve vážnou krizi důvěry pro OpenAI. Generální ředitel Sam Altman musel veřejně přiznat chybu, zatímco konkurenční firma Anthropic sklízí chválu za přísnější etický přístup k vojenskému využití umělé inteligence.
Jak z Pentagonské dohody vznikla PR katastrofa
Koncem minulého týdne podepsal OpenAI smlouvu s americkým ministerstvem obrany o nasazení svých AI modelů, včetně ChatGPT, pro obranné účely. Interně byl tento krok prezentován jako kontrolovaná spolupráce s dodatečnými bezpečnostními opatřeními.
Ve skutečnosti to dopadlo úplně jinak. Jakmile se o dohodě veřejnost dozvěděla, propukla online bouře kritiky. Mnoho uživatelů se cítilo zrazeno, protože se domnívali, že OpenAI se drží stranou od přímého vojenského nasazení své technologie.
Podle průzkumné společnosti Sensor Tower vzrostl denní počet odinstalací aplikace ChatGPT po zveřejnění zprávy o dohodě o 295 procent.
Na sociálních sítích se okamžitě objevily hashtagy jako CancelChatGPT a QuitGPT, prostřednictvím nichž aktivisté vyzývali k dlouhodobému bojkotu služeb OpenAI. Pro firmu, která silně spoléhá na důvěru ke své značce a přízeň veřejnosti, jde o vážné riziko.
Anthropic řekl „ne" tam, kde OpenAI řekl „ano"
Celý spor ve skutečnosti nezačal u OpenAI, ale u Anthropicu, firmy stojící za AI asistentem Claude. Pentagon oslovil Anthropic s podobnými požadavky na vojenské využití, jenže společnost tvrdě odmítla.
Firma kategoricky odmítá dvě věci:
- nasazení Clauda ve zbraňových systémech, které zcela samostatně vybírají a útočí na cíle
- přispívání k rozsáhlému hromadnému sledování civilního obyvatelstva na vlastním území
Tato pevná linie Anthropic hodně stojí. Podle amerických médií se firma ocitla na černé listině, což znamená, že již nezískává přímé vládní zakázky. Vedení se přesto drží toho, co považuje za své základní principy.
Ironií osudu se zdá, že právě tato zásadová pozice se nyní obchodně vyplácí. Ve veřejné debatě je Anthropic prezentován jako hráč, který skutečně dokáže říct vojenskému využití AI „dost", zatímco OpenAI je obviňován z přizpůsobování se přáním ministerstva obrany.
Přesto nasazení v konfliktních situacích
Realita je ovšem složitější. Americká média informují, že Claude je přes oficiální vyloučení přesto využíván v kontextu napětí mezi USA, Izraelem a Íránem. Jak přesně k tomu dochází, zůstává nejasné. Pentagon odmítl situaci komentovat.
Tyto zprávy prohlubují obecné obavy, že vojenské složky vždy najdou cestu k pokročilým AI systémům, i když se firmy formálně snaží zavádět omezení.
Altman přiznal chybu a upravil smlouvu s ministerstvem obrany
Pod rostoucím tlakem reagoval Sam Altman překvapivě rychle. V příspěvku na platformě X přiznal, že načasování a tón oznámení byly chybné.
Altman označil celý přístup za „oportunistický a nedbalý" a uznal, že OpenAI špatně odhadl dopad na veřejnost.
Podle jeho slov se OpenAI snažil zabránit „horšímu scénáři" tím, že do smlouvy sám zakomponoval přísné podmínky. Toto vysvětlení kritické uživatele příliš neuklidnilo, ale mělo jeden přímý důsledek: smlouva s ministerstvem obrany byla v krátké době upravena.
Klíčové nové závazky, které OpenAI zveřejnil:
| Oblast | Nové omezení |
|---|---|
| Sledování Američanů | OpenAI slibuje, že jeho systémy nebudou vědomě nasazovány ke špehování občanů v USA. |
| Přístup zpravodajských služeb | Služby jako NSA nemohou přistupovat přímo k modelům bez samostatné, předem schválené změny smlouvy. |
| Využití ve vojenském rozhodování | OpenAI deklaruje záměr zachovat roli, v níž konečná rozhodnutí přijímají lidé. |
Přesné právní znění těchto omezení zůstalo stále poněkud vágní, což debatu o důvěře a kontrole spíše rozjitřilo, než uklidnilo.
ChatGPT klesá v žebříčcích aplikací, Claude míří na vrchol
Poškození reputace se okamžitě projevilo v uživatelských číslech. V dnech po zveřejnění zprávy:
- denní míra odinstalací aplikace ChatGPT vzrostla o téměř 300 procent
- v žebříčcích App Store se váha přesouvala ke konkurenčním aplikacím
- Claude dosáhl pozice číslo 1 mezi nejstahovanějšími aplikacemi v několika zemích
Podle amerických novin Claude v nových stažení ChatGPT překonává, přestože ChatGPT stále drží výrazně větší celkovou uživatelskou základnu. Trend nicméně ukazuje, jak rychle mohou uživatelé přejít ke konkurenci, pokud nabydou dojmu, že firma překračuje morální hranice.
Aktivisté online vyzývají k trvalému přechodu na alternativy, dokud OpenAI jasněji nedistancuje od dalekosáhlých vojenských aplikací. Pro značku, která byla dlouho spojována s „odpovědnou AI", je to vážné varování.
Výzvy k legislativě pro vojenské využití umělé inteligence
Celý spor se dotýká hlubší otázky: kdo určuje hranice vojenské AI? Analytické centrum Center for American Progress zastává názor, že by jednotlivé technologické firmy neměly samy rozhodovat o tom, jak daleko v obranných aplikacích zajdou.
Pokud firmy mezi sebou soutěží na poli rychlosti a rozsahu, hrozí závod ke dnu, v němž etické záruky podlehnou tržním zájmům.
Organizace vnímá spor mezi Anthropicem a Pentagonem, po němž následovala dohoda s OpenAI, jako signál, že Kongres musí přijmout jasnou legislativu. A to nejen ohledně autonomních zbraní, ale také v otázkách sledování, přístupu k datům a transparentnosti vojenských spoluprací.
Profesorka digitální etiky z Oxfordské univerzity označuje za zvlášť znepokojivé, že právě ta strana, která nejdůrazněji trvá na bezpečnosti — tedy Anthropic — je vyřazena z vládních zakázek. Tím podle ní chybí důležitý hlas v jednáních o tom, kde mají hranice ležet.
Člověk v rozhodovacím procesu — ale jak dlouho?
Vojenští zástupci mezitím zdůrazňují, že umělá inteligence se nestane samostatnou válečnou zbraní. Datový důstojník jedné z jednotek NATO uvádí, že v rozhodovacím procesu vždy zůstane člověk: AI poskytuje analýzy, ale netlačí na spoušť.
V praxi to však naráží na ambice obranných firem. Společnosti jako Palantir již dnes dodávají platformy, které kombinují obrovská množství dat — od satelitních snímků po zpravodajské zprávy — s bleskovou rychlostí. Tyto systémy jsou výslovně určeny k umožnění „rychlejších a efektivnějších, a v případě potřeby smrtících" rozhodnutí.
K tomu přistupuje dobře známý problém AI: velké jazykové modely mají tendenci občas poskytovat nesprávné nebo vymyšlené informace, tzv. „halucinace". V běžném chatu je to nepříjemné, ve vojenském kontextu to může být smrtelně nebezpečné.
Proč je to důležité i pro běžné uživatele
Vojenské nasazení AI se může běžnému uživateli zdát vzdálené. Tato diskuse se však přímo dotýká důvěry v každodenní AI aplikace. Kdo dnes používá chatbota pro práci, studium nebo zdravotní dotazy, chce věřit, že stejná technologie není jinde nasazována způsoby, které morálně odmítá.
Firmy proto budou stále více muset být transparentní ohledně:
- toho, s jakými vládními institucemi spolupracují
- pro jaké typy aplikací jejich modely jsou a nejsou využívány
- jak jsou uživatelská data oddělena od citlivých obranných projektů
Pro vývojáře to znamená nutnost přemýšlet o výjimkách již při návrhu systému: o funkcích, které nesmí být nikdy využity pro zbraně, hromadný dohled nebo manipulační kampaně. Technická omezení, jako jsou pevné filtry a smluvní blokády pro určitá odvětví, budou pravděpodobně hrát stále větší roli.
Na zákonodárce pak dopadá tlak, aby stanovili jasná a vymahatelná pravidla: co smí obrana s generativní AI dělat, jaký minimální lidský dohled je vyžadován a kdy systém překročí hranici zakázané autonomní zbraně. Současný spor kolem OpenAI a Anthropicu tuto diskusi urychluje — a ukazuje, že uživatelé nepřijmou fakt, že taková rozhodnutí se přijímají za zavřenými dveřmi.
