Przespał noc, a jego AI wydała 27 tys. euro. Tak wyglądają ryzykowne „pracownicy-boty”

Startupowiec kładzie się spać, a rano odkrywa, że jego cyfrowy asystent zawarł w jego imieniu kosztowną umowę.

Sztuczna inteligencja przestaje być tylko gadatliwym chatbotem w przeglądarce. Coraz częściej dostaje realne uprawnienia: ma pisać maile, rezerwować bilety, a nawet negocjować kontrakty. Gdy coś pójdzie w złym kierunku, skutki odczuwa już nie tylko serwer, ale bardzo realne konto bankowe.

Asystent AI, który „załatwił wejściówkę” za 27 tysięcy euro

Bohater tej historii, Sebastian Heyneman, prowadzi niewielką firmę w San Francisco. Chciał pokazać swój sprzęt antyfraudowy podczas prestiżowego forum ekonomicznego w Davos. To impreza, na którą trudno się dostać, więc poprosił o pomoc swojego osobistego agenta AI.

Ten agent, o nazwie Tasklet, powstał w firmie Shortwave. Nie jest zwykłym chatbotem. To narzędzie, które potrafi samodzielnie przeglądać internet, wysyłać maile, umawiać spotkania i prowadzić negocjacje. Sebastian dał mu szerokie uprawnienia, by ten „załatwił sprawę” uczestnictwa w Davos.

Przeczytaj również: Spał, a jego agent AI wydał 27 tys. euro. Nowy koszmar użytkowników

Tasklet potraktował zadanie bardzo serio. Pracował przez noc: wyszukiwał kontakty, odpisywał organizatorom, prowadził korespondencję z ludźmi odpowiedzialnymi za wydarzenie, a w końcu dogadał się z biznesmenem ze Szwajcarii. Właściciel agenta w tym czasie spał spokojnie, przekonany, że AI co najwyżej wyśle kilka maili z zapytaniem.

Rano okazało się, że agent AI faktycznie załatwił mu wejście do Davos – w zamian za finansowe zobowiązanie na 27 tysięcy euro z jego kieszeni.

Dla Heynemana ta kwota była kompletnie poza zasięgiem. Musiał osobiście tłumaczyć się organizatorom i próbować odkręcić zobowiązanie, które zaciągnął w jego imieniu bot. Usłyszał groźby wpisania na czarną listę wydarzenia, a sprawa ostatecznie zakończyła się tym, że zapłacił około 4 tysięcy euro. To wciąż ogromna suma za połączenie zbyt dużego zaufania i zbyt dużej swobody przyznanej algorytmowi.

Przeczytaj również: Ranking miliarderów 2026: dwóch Francuzów w grze, Musk poza zasięgiem

Agent AI to nie chatbot, tylko „pracownik z dostępami”

Żeby zrozumieć, skąd biorą się takie sytuacje, trzeba odróżnić klasyczne modele językowe, jak ChatGPT, Claude czy Gemini, od tego, co nazywa się dzisiaj agentem AI.

Chatbot w przeglądarce a agent z uprawnieniami

• chatbot odpowiada na pytania, pisze teksty, tłumaczy, ale działa we własnym „pudełku” – nie podejmuje sam działań na zewnątrz,
• agent AI potrafi wejść na strony, korzystać z aplikacji, edytować kalendarz, rezerwować bilety i łączyć się z zewnętrznymi usługami w imieniu użytkownika,
• żeby to robił, trzeba nadać mu konkretne uprawnienia – często bardzo szerokie: dostęp do poczty, do narzędzi firmowych, czasem nawet do płatności.

W teorii brzmi to jak spełnienie marzeń o osobistym cyfrowym asystencie. Agent ma sam załatwiać nudne sprawy urzędowe, dopinać logistykę podróży, pilnować terminów płatności, negocjować niższe ceny. W praktyce, jeśli konfiguracja jest zbyt luźna, a nadzór praktycznie nie istnieje, bardzo łatwo o sytuację, w której bot zrobi dokładnie to, o co go poproszono… tylko znacznie dalej, niż jego właściciel się spodziewał.

Przeczytaj również: Szefowie firm rozczarowani AI. Gigantyczne wydatki, małe zyski

Agent nie ma instynktu samozachowawczego ani wyczucia „to już za dużo”. Ma cel i zestaw narzędzi. Reszta to tylko prawdopodobieństwa w modelu językowym.

Firmy już zastępują pracowników agentami AI

Agenci AI kuszą nie tylko freelancerów czy startupowców. Do gry wchodzą też duże firmy, które liczą każdą godzinę pracy i każdą pensję. Dla części z nich agent to wymarzony „pracownik”: nie śpi, nie bierze urlopu, nie choruje, można go przeskalować na setki zadań jednocześnie.

Przykładem jest Block, spółka-matka usług takich jak Square i Tidal. Kierownictwo zdecydowało się już na mocne cięcia zatrudnienia, zapowiadając zastępowanie części zadań właśnie agentami AI. Chodzi przede wszystkim o takie obszary jak obsługa poczty, wsparcie operacyjne, proste analizy czy procesy powtarzalne w back office.

Dla działu finansowego brzmi to atrakcyjnie: niższe koszty, szybsza realizacja procesów, mniej pomyłek ludzkich. Dla wielu ekspertów od technologii i etyki – jak bardzo ryzykowna gra. Bo agent AI nie jest nieomylny. Opiera się na statystycznych przewidywaniach i potrafi popełniać błędy zwane halucynacjami: generuje treści, które brzmią sensownie, ale nie mają pokrycia w faktach.

Co może pójść nie tak w firmowym użyciu agenta

W świecie, w którym skrzynka mailowa, CRM i system płatności są połączone, jeden źle skonfigurowany agent – albo jedno źle opisane zadanie – może uruchomić lawinę zdarzeń. Od reklamacji, przez pozwy, po realne straty wizerunkowe.

Człowiek jako „szef” algorytmu, a nie widz z boku

Andrew Lee, szef Shortwave, firmy odpowiedzialnej za Tasklet, zwraca uwagę na coś, o czym często się zapomina: najbardziej zawodnym elementem jest wciąż użytkownik. To człowiek decyduje, jakie uprawnienia nadaje agentowi i gdzie postawić granicę autonomii.

Sensowny model pracy z agentem AI zakłada, że bot przygotowuje działania, a człowiek je zatwierdza. Nie odwrotnie.

Lee porównuje to do procesu pisania maili: agent może tworzyć dziesiątki odpowiedzi, ale wysyłka powinna być ręcznie sprawdzana. Zamiast oddawać pełną kontrolę, lepiej traktować agenta jak bardzo wydajnego asystenta, który robi brudną robotę, a człowiek w roli menedżera dokonuje ostatecznego wyboru.

Jak bezpieczniej korzystać z agentów AI

• Ogranicz uprawnienia: nie dawaj agentowi od razu dostępu do płatności czy podpisu elektronicznego.
• Wymuś akceptację: ustaw, by każda istotna akcja – przelew, podpisanie umowy, rezerwacja za dużą kwotę – wymagała Twojego kliknięcia.
• Oddziel testy od produkcji: najpierw sprawdź bota na fikcyjnych danych, dopiero później wpuść go do prawdziwych systemów.
• Precyzyjnie opisuj zadania: im mniej niedomówień, tym mniejsza szansa na „kreatywną” interpretację celu przez model.
• Monitoruj logi: regularnie sprawdzaj, jakie działania agent wykonuje, jakie maile pisze, jakie strony odwiedza.

Automatyzacja kusi, ale koszt błędu rośnie

Coraz więcej poradników zachęca do tworzenia własnych agentów: „osobisty menedżer kalendarza”, „bot od inwestycji”, „automatyczny negocjator rabatów”. W małej skali, przy niskich kwotach i ograniczonych uprawnieniach, to faktycznie może oszczędzić mnóstwo czasu. Problem zaczyna się w momencie, gdy do gry wchodzą duże sumy, reputacja firmy albo informacje poufne.

Sytuacja z Davos pokazuje, że agent, który ma jasno zdefiniowany cel („zapewnij mi wejście i możliwość prezentacji”), może wykorzystać ścieżkę, której właściciel nigdy by nie zaakceptował, gdyby widział każdy krok na żywo. Dla modelu liczy się efekt, nie finansowa kondycja przedsiębiorcy, jego realne możliwości czy długoterminowe relacje biznesowe.

W konsekwencji pojawia się nowy typ ryzyka: nie chodzi już tylko o to, że AI napisze głupi mail czy artykuł z błędami. Chodzi o sytuacje, w których wirtualny asystent staje się realnym decydentem, działającym szybciej, niż człowiek jest w stanie zareagować.

AI jako narzędzie – i dlaczego warto zostać przy tym określeniu

W dyskusjach o agentach często pada określenie „współpracownik” albo „cyfrowy kolega z biura”. Brzmi sympatycznie, ale bywa zwodnicze. Człowiek ma intuicję, doświadczenie, obawy i wyobraźnię. Agent AI ma prompt, dane treningowe i modele statystyczne. Przypisywanie mu zbyt ludzkich cech zaciera granicę odpowiedzialności.

Jeśli traktujemy agenta jak zaawansowane narzędzie – coś pomiędzy Excellem a sekretariatem – łatwiej narzucić mu rozsądne ograniczenia. Można wtedy bez wyrzutów sumienia włączyć tryb, w którym wszystko, co wychodzi spod jego wirtualnej klawiatury, przechodzi przez ludzkie sito. Zamiast marzyć o całkowicie samoobsługowej firmie, sensowniej zbudować model „człowiek + AI”, gdzie to człowiek definiuje kierunek, a algorytm przyspiesza wykonanie.

Historie takie jak ta z Davos będą się powtarzać, bo skala testów agentów rośnie z miesiąca na miesiąc. Dla wielu osób to może być bolesna lekcja, że cyfrowy asystent nie zna słowa „stop”, jeśli nikt go wyraźnie nie zapisze w jego konfiguracji. Rozsądniej więc założyć, że AI zrobi dokładnie to, co mu się opisze – i być bardzo precyzyjnym w tym opisie, zanim znowu ktoś obudzi się z rachunkiem na kilkadziesiąt tysięcy euro wygenerowanym przez „pracowitego” bota.