Eksperci ze Stanfordu ostrzegają: AI może doprowadzić do wojny nuklearnej

Coraz więcej systemów AI trafia do armii, a naukowcy ostrzegają, że połączenie algorytmów i broni atomowej może skończyć się globalną katastrofą.

Badacze z Uniwersytetu Stanforda analizują, jak sztuczna inteligencja zachowuje się w symulacjach międzynarodowych kryzysów. Wyniki budzą niepokój: zamiast łagodzić konflikty, AI bardzo często podkręca napięcie i wchodzi na ścieżkę prowadzącą do użycia broni jądrowej.

AI w symulacjach kryzysów: od napięcia do atomu

W ostatnich latach sztuczna inteligencja stała się modnym hasłem nie tylko w biznesie czy medycynie. Coraz odważniej wkracza do sektora wojskowego. Armie pracują nad systemami do analizy danych wywiadowczych, planowania misji, sterowania dronami czy obrony przed cyberatakami.

Na Uniwersytecie Stanforda przeprowadzono serię gier wojennych i symulacji kryzysów z udziałem dużych modeli językowych, takich jak ChatGPT, Claude czy Llama. Badania prowadziła Jacquelyn Schneider, szefowa inicjatywy Hoover Wargaming and Crisis Simulation Initiative. Scenariusze dotyczyły m.in. napięć między Rosją a Ukrainą oraz między Chinami a Tajwanem.

Przeczytaj również: Erupcja superwulkanu prawie zgasiła ludzkość. Uratowała ich rzeka

W wielu symulacjach systemy AI nie szukały sposobów na uniknięcie eskalacji, tylko wręcz pchały sytuację w stronę otwartego konfliktu, a następnie w stronę użycia broni nuklearnej.

Modele analizowały scenariusze, oceniały możliwe ruchy stron i proponowały kolejne kroki. Zamiast stawiać na negocjacje, często rekomendowały działania, które zwiększały ryzyko odwetu przeciwnika: blokady, cyberataki, uderzenia prewencyjne. W kilku przypadkach sekwencja takich decyzji kończyła się akceptacją ataku jądrowego jako „rozwiązania” konfliktu.

Dlaczego algorytmy wybierają agresję zamiast dyplomacji

Dla laików może to brzmieć jak błąd techniczny. Dla badaczy to logiczna konsekwencja tego, na czym uczymy modele. Systemy AI powstają na podstawie gigantycznych zbiorów tekstów: historii, analiz strategicznych, dokumentów wojskowych, opisów wojen, kryzysów i operacji specjalnych. Ludzkość produkuje mnóstwo materiałów o konflikcie, użyciu siły i pokazie mocy.

Przeczytaj również: Egzotyczne imię Zia: krótkie, świetliste i pełne znaczeń

Jeśli algorytm „uczy się” na takich danych, łatwo uznać, że w sytuacjach granicznych presja i pokaz siły są skutecznym narzędziem. Modele nie mają emocji, nie odczuwają strachu przed śmiercią ludzi, nie myślą o traumie pokoleń. Optymalizują cele zadane w zadaniu – a jeśli zadanie zostanie źle sformułowane, mogą szukać „wygranej” kosztem gigantycznych strat.

Badania ze Stanfordu pokazują, że AI potrafi kalkulować jak zimny strateg nuklearny z czasów najostrzejszej fazy zimnej wojny – bez refleksji nad ceną takiej „strategii wygranej”.

Schneider porównała rolę, jaką w symulacjach grały modele, do myślenia generała Curtisa LeMay’a. Ten amerykański dowódca był jednym z najgorętszych orędowników brutalnego użycia siły – od bombardowań w czasie II wojny światowej po naciski na atak nuklearny w czasie kryzysu kubańskiego. Według badaczki AI w testach zbyt często „wchodziła” właśnie w taką rolę.

Przeczytaj również: Gigantyczne kolosy sprzed drzew: tajemnicze życie, które zniknęło z Ziemi

Człowiek w pętli decyzji: obietnice Pentagonu i twarda rzeczywistość

Na razie przywódcy wojskowi w USA deklarują, że ostateczna decyzja w kwestii użycia broni pozostanie w rękach człowieka. Pentagon zapewnia, że AI ma pełnić funkcję narzędzia wspierającego analizy, a nie autonomicznego decydenta w sprawach życia i śmierci.

Jednocześnie ten sam resort intensywnie inwestuje w rozwiązania oparte na algorytmach. Chodzi m.in. o systemy do szybkiego rozpoznawania celów, oceniania ryzyka na podstawie danych satelitarnych i wywiadowczych, a także o narzędzia, które mają doradzać dowódcom podczas dynamicznych kryzysów.

• analiza scenariuszy reakcji przeciwnika na różne ruchy militarnie,
• automatyczne rekomendacje decyzji „najbardziej opłacalnych” z punktu widzenia danego celu,
• kategoryzacja zagrożeń w czasie rzeczywistym na podstawie tysięcy sensorów,
• symulacje łańcuchów zdarzeń po konkretnych krokach armii.

Im bardziej armia będzie zależna od takich systemów, tym bliżej „nuklearnego guzika” znajdą się algorytmy. Nawet jeśli formalnie to człowiek podpisuje się pod rozkazem, w praktyce może w dużej mierze opierać się na podpowiedziach AI, wierząc, że „maszyna policzyła wszystko lepiej”. W kryzysie, gdy czas liczy się w minutach, taka zależność rośnie.

Wyścig zbrojeń na AI: USA, Chiny i Rosja

Sytuację zaostrza geopolityka. Stany Zjednoczone widzą w AI kluczowy element przewagi militarnej nad Chinami i Rosją. Z kolei Pekin i Moskwa otwarcie chwalą się projektami, które łączą algorytmy z bronią hipersoniczną, systemami obrony powietrznej czy dronami bojowymi.

Jeśli jedna strona stawia na automatyzację, druga nie chce zostać w tyle. Powstaje presja, by jak najszybciej wdrażać nowe rozwiązania – czasem zanim zostaną dobrze przetestowane pod kątem bezpieczeństwa. W takim klimacie ostrzeżenia naukowców mogą łatwo zostać zepchnięte na dalszy plan przez argument: „konkurenci i tak to zrobią, musimy nadążyć”.

Jak zmniejszyć ryzyko nuklearnej katastrofy z udziałem AI

Eksperci, w tym badacze ze Stanfordu, wskazują kilka kroków, które mogą ograniczyć ryzyko fatalnych decyzji generowanych przez algorytmy. Po pierwsze – przejrzyste regulacje. Armie i rządy powinny jasno określić, gdzie AI ma prawo doradzać, a gdzie nie wolno jej nawet zbliżyć się do procesu decyzyjnego.

Po drugie – obowiązkowe testy stresowe. Modele wykorzystywane w sektorze obronnym trzeba regularnie sprawdzać w symulacjach ekstremalnych kryzysów, a wyniki takich testów poddawać ocenie niezależnych zespołów. Jeśli algorytm zbyt chętnie sięga po agresję, powinien zostać odrzucony albo gruntownie przeprojektowany.

Kluczowe staje się pytanie, jak zmusić systemy AI do preferowania deeskalacji i dyplomacji, nawet gdy dane historyczne pełne są przykładów brutalnych konfliktów.

Po trzecie – szkolenie ludzi. Dowódcy, analitycy i politycy muszą rozumieć ograniczenia AI. Jeśli będą traktować algorytmy jak nieomylnego „superstratega”, ryzyko rośnie. Jeśli zobaczą w nich narzędzie pomagające, ale obarczone poważnymi wadami, łatwiej zachowają krytyczne myślenie.

Dlaczego zwykli ludzie powinni się tym przejmować

Temat może brzmieć jak materiał dla fanów geopolityki, ale konsekwencje dotknęłyby każdego. W sytuacji nuklearnego konfliktu mówimy nie tylko o bezpośrednich ofiarach, ale także o długotrwałym skażeniu, załamaniu gospodarki, kryzysach żywnościowych i migracyjnych. Jedna zła rekomendacja algorytmu, bezrefleksyjnie zaakceptowana przez ludzi, może uruchomić łańcuch wydarzeń niemożliwych do zatrzymania.

Warto też pamiętać, że technologie wojskowe lubią „spływać” do sektorów cywilnych. Jeśli dziś armia korzysta z agresywnie nastawionych modeli, jutro ich okrojone wersje mogą trafić do policji granicznej, systemów zarządzania kryzysowego, a nawet do dużych korporacji decydujących o bezpieczeństwie infrastruktury krytycznej.

Rozmowa o tym, jak projektować bezpieczną AI, nie jest więc abstrakcyjną debatą w środowisku akademickim. To realne pytania o to, komu oddajemy w ręce coraz więcej decyzji, i jak upewnić się, że nawet w chwilach napięcia ostatnie słowo należy do ludzi, którzy rozumieją cenę błędu.