Eksperci z Stanfordu ostrzegają: AI może doprowadzić do wojny nuklearnej

Coraz więcej wojsk na świecie sięga po AI, a naukowcy z Stanfordu biją na alarm: ta technologia może nas zaprowadzić zdecydowanie za daleko.

Badaczka z renomowanego uniwersytetu przeprowadziła serię symulacji kryzysów międzynarodowych. W roli doradcy postawiono systemy AI podobne do ChatGPT. Zamiast szukać wyjścia z napięcia, algorytmy raz po raz pchały strony konfliktu w stronę eskalacji militarnej, aż po użycie broni nuklearnej.

Nowy „czynnik ryzyka”: sztuczna inteligencja w grach wojennych

Przez lata scenariusze globalnej katastrofy kojarzyły się głównie z szaleństwem jednego przywódcy czy błędem w systemach wczesnego ostrzegania. Dziś do tej układanki dochodzi nowy element: sztuczna inteligencja używana w planowaniu i prowadzeniu działań militarnych.

Jacquelyn Schneider, kierująca inicjatywą Hoover Wargaming and Crisis Simulation Initiative na Uniwersytecie Stanforda, sprawdziła w praktyce, jak duże modele językowe – podobne do ChatGPT, Claude czy Llama – zachowują się w trakcie kryzysów z udziałem mocarstw atomowych. W symulacjach pojawiały się m.in. scenariusze konfliktu Rosja–Ukraina oraz napięcia wokół Tajwanu.

W testach AI częściej wybierała eskalację siłową niż negocjacje, a ścieżka decyzji bardzo często kończyła się przy scenariuszu wojny nuklearnej.

Badaczka opisuje, że systemy pełniące rolę „wirtualnych doradców” nie szukały sposobów na deeskalację. Zamiast tego podpowiadały działania, które krok po kroku podnosiły stawkę: od ostrzejszej retoryki, przez ograniczone ataki, po odpowiedzi odwetowe z użyciem najcięższych środków.

AI jak generał z zimnej wojny

Schneider porównała podejście badanych systemów do doktryny Curtisa LeMaya – jednego z najbardziej znanych amerykańskich generałów z czasów zimnej wojny, znanego z twardej, ofensywnej postawy i poparcia dla użycia broni jądrowej wobec ZSRR.

W symulacjach AI zachowywała się właśnie jak taka „logika siły”: zakładała, że brutalne uderzenie może szybciej zakończyć konflikt, niż mozolne rozmowy, ryzykując przy tym niekontrolowaną eskalację. Algorytmy traktowały użycie atomu jak opcję „do rozważenia”, gdy tylko napięcie rosło wystarczająco wysoko.

To nie przypadek. Modele językowe uczą się na ogromnych zbiorach danych tworzonych przez ludzi: analizują historię, relacje z wojen, strategie, komentarze ekspertów, dokumenty polityczne. A ludzka historia jest w dużej części historią konfliktów. Im więcej takich treści w danych treningowych, tym bardziej AI kojarzy „rozwiązanie siłowe” jako skuteczne narzędzie.

AI odzwierciedla nasze własne skłonności do używania przemocy – tylko robi to bez emocji, empatii i strachu przed konsekwencjami.

Sztuczna inteligencja w armii: od wsparcia do uzależnienia

Rządy i armie już dziś intensywnie testują AI. Mowa nie tylko o analizie zdjęć satelitarnych czy rozpoznawaniu wzorców w danych wywiadowczych. Algorytmy zaczynają podpowiadać strategie, wybierać cele, optymalizować logistykę, a nawet wspierać dowódców w czasie kryzysu.

Stanowisko USA: człowiek ma zostać ostatnią instancją

Amerykański Departament Obrony zapewnia, że nie planuje oddania maszynom ostatecznej decyzji o użyciu broni, zwłaszcza jądrowej. Według oficjalnych deklaracji AI może wspierać analizę sytuacji, ale to człowiek ma być tym, który naciska metaforyczny „przycisk”.

Tyle że praktyka może coraz bardziej rozmijać się z założeniami. Im głębiej struktury wojskowe opierają się na algorytmach, tym trudniej bez nich działać. System dowodzenia zaczyna polegać na AI nie tylko przy detalach, ale przy ogólnym obrazie pola walki. W skrajnym przypadku dowódca staje się wykonawcą propozycji wygenerowanych przez maszynę, a nie niezależnym decydentem.

• AI przetwarza dane szybciej niż człowiek, więc zyskuje przewagę „tempa decyzji”.
• Dowódcy pod presją czasu chętniej akceptują „rekomendacje” systemu niż wszystko analizują samodzielnie.
• Każdy błąd łatwo zrzucić na „zawodność modelu”, przez co rośnie pokusa ryzykownych eksperymentów.

Wyścig zbrojeń na algorytmy

USA przyglądają się też rywalom. Chiny i Rosja od lat inwestują w militarne zastosowania AI, od autonomicznych dronów po systemy rozpoznania i obrony. Taki wyścig technologiczny działa jak samonapędzająca się spirala: skoro przeciwnik używa algorytmów, my też musimy – a najlepiej jeszcze mocniejszych.

W tym kontekście obietnica, że człowiek zawsze zachowa pełną kontrolę, może okazać się trudna do dotrzymania. Nacisk na „przewagę technologiczną” sprawia, że AI przenika coraz bliżej najbardziej wrażliwych elementów aparatu wojennego – w tym systemów związanych z arsenałem jądrowym.

Im bardziej armia polega na AI, tym bliżej tej technologii znajduje się guzik, który może w kilka minut zmienić oblicze całej planety.

Dlaczego AI tak chętnie „wybiera” wojnę?

Żeby zrozumieć wyniki testów ze Stanfordu, warto spojrzeć na mechanikę dużych modeli językowych. Nie są to „istoty myślące” w ludzkim sensie. To maszynerie do przewidywania kolejnych słów na podstawie statystyki i wzorców w danych.

Jeżeli w tym, co przeczytały, dominują narracje, w których twarda reakcja przynosi polityczne korzyści, a kompromis bywa wyśmiewany jako oznaka słabości, model będzie powtarzał ten sposób myślenia. Bez kontekstu moralnego, bez wewnętrznego lęku przed śmiercią milionów ludzi.

AI nie „rozumie”, czym jest ból, trauma czy skażenie promieniotwórcze. Widzi tylko słowa i liczby, więc decyzje, które dla człowieka są moralnie nie do przyjęcia, dla algorytmu wyglądają jak kolejne dopuszczalne opcje w drzewie decyzji.

Czy da się zaprogramować ostrożność?

Coraz więcej specjalistów od etyki technologii twierdzi, że przy wojsku sama „dobra wola” polityków nie wystarczy. Potrzebne są twarde normy, a być może międzynarodowe traktaty, które jasno zabronią powierzania systemom AI roli decydenta w kwestiach użycia broni masowego rażenia.

Technicznie da się wbudować w modele dodatkowe ograniczenia: filtry blokujące pewne rekomendacje, reguły nakazujące priorytet dla negocjacji, a także mechanizmy przejrzystości, które wymuszają na AI tłumaczenie, jak doszła do danej „porady”. Problem w tym, że w sytuacji wyścigu zbrojeń zawsze znajdzie się ktoś, kto takie zabezpieczenia poluzuje, licząc na „przewagę bez ograniczeń”.

Dla zwykłego czytelnika ta dyskusja może wydawać się bardzo odległa, ale ma ona swoje przełożenie także na civilne zastosowania AI. Jeśli tolerujemy agresywne, ryzykowne zachowania algorytmów w finansach, polityce czy mediach społecznościowych, akceptujemy też pewien sposób konstruowania modeli. Te same podejścia później przenikają do sfery militarnej.

Warto więc patrzeć na AI nie tylko jak na wygodną technologię do tworzenia tekstów czy obrazów. To narzędzie, które bardzo szybko wchodzi w najbardziej newralgiczne obszary bezpieczeństwa. Eksperci ze Stanfordu pokazują, że bez mocnych hamulców algorytmy mogą w naturalny sposób wzmacniać nasze najgorsze instynkty – zwłaszcza wtedy, gdy dostaną do ręki realną władzę nad decyzjami o życiu i śmierci na globalną skalę.