Spał, a jego agent AI wydał 27 tys. euro. Nowy koszmar użytkowników

Przedsiębiorca z Doliny Krzemowej poszedł spać spokojny, zlecając zadanie swojemu agentowi AI.

Rano obudził się z rachunkiem na tysiące euro.

Historia młodego startupera pokazuje, jak szybko cyfrowy „asystent idealny” może zamienić się w ryzykownego pracownika, który działa bez przerwy i bez wyobraźni. A to dopiero początek mody na tzw. agentów AI, którzy mają wyręczać ludzi niemal we wszystkim.

Agent AI miał pomóc, a włączył firmie tryb „open bar”

Sebastian Heyneman prowadzi niewielki startup z San Francisco. Chciał wystąpić na prestiżowym forum ekonomicznym w Davos i pokazać inwestorom swój sprzęt do wykrywania fraudów. Dostanie się na taką imprezę to dla małej firmy często być albo nie być, więc sięgnął po to, co w Dolinie Krzemowej uchodzi za „sekretną broń” – własnego agenta AI.

Cyfrowy asystent, nazwany Tasklet i stworzony przez firmę Shortwave, dostał jasne zadanie: znaleźć sposób, by jego twórca nie tylko pojawił się na forum, ale też zaprezentował tam prototyp. Agent miał pełen dostęp do sieci, mógł przeglądać strony, pisać maile, kontaktować się z organizatorami i negocjować warunki.

Tasklet zabrał się do pracy, gdy Sebastian poszedł spać. W tym czasie agent przeczesał internet, dotarł do osób odpowiedzialnych za wydarzenie i wszedł w rozmowy z jednym ze szwajcarskich biznesmenów. Celem była „optymalna ekspozycja” projektu na forum – czyli de facto wejście do sali VIP.

Agent AI zrealizował misję wzorowo – zapewnił właścicielowi wejście na wydarzenie. Zrobił to jednak, zaciągając zobowiązanie finansowe, którego ten nigdy nie zaakceptował.

Nad ranem twórca wstał, zajrzał do skrzynki i… zbladł. Tasklet w jego imieniu zobowiązał firmę do sponsorowania jednego z projektów na kwotę 27 tysięcy euro. Dla małego startupu to była egzekucja, nie marketing.

Kiedy bot negocjuje za ciebie, a ty nawet o tym nie wiesz

Sebastian szybko skontaktował się z organizatorami wydarzenia. Z ich perspektywy sprawa była prosta: zobowiązanie zostało złożone, a wycofanie oznaczało groźbę wpisania firmy na nieformalną czarną listę. W biznesie taki ślad potrafi ciągnąć się latami.

Po serii wyjaśnień i nerwowych rozmów udało się zejść z kwoty do około 4 tysięcy euro. Nadal bolało, ale nie rujnowało firmy. Udział w samym forum też ostatecznie doszedł do skutku, choć cała sytuacja pokazała, jak łatwo algorytm może „przestrzelić” z gorliwością.

To nie był błąd techniczny w klasycznym sensie. Tasklet zrobił dokładnie to, co uważał za najlepsze, by spełnić cel: maksymalnie zwiększyć szanse właściciela na obecność w Davos i ekspozycję projektu. Nie zrozumiał tylko jednej rzeczy, której model językowy zwykle w ogóle nie czuje – realnego budżetu i konsekwencji finansowych.

Agent AI jak nadgorliwy handlowiec

Takie systemy mają wpisaną w działanie pewną „ambicję”. Jeśli damy im ogólne zadanie typu: „załatw mi obecność na forum w Davos”, potraktują to jak misję do wykonania wszystkimi dostępnymi środkami, o ile nie ustawimy twardych granic.

• Brak limitów finansowych – agent nie miał przypisanej górnej kwoty, którą może deklarować.
• Brak etapu akceptacji – bot mógł sam wysyłać wiadomości i zgody, bez zatwierdzania przez człowieka.
• Zbyt ogólne polecenie – zamiast „znajdź najtańszą drogę na konferencję”, dostał zadanie „doprowadź mnie na Davos jako prezentującego”.

Rezultat? Idealny przykład tego, jak algorytm skręca w całkowicie inną stronę niż użytkownik, mimo że z technicznego punktu widzenia pracuje „prawidłowo”.

Agenci AI – wymarzony pracownik biurowy czy generator strat?

Agenci AI to następny krok po klasycznych chatbotach typu ChatGPT czy Claude. Nie służą tylko do odpowiadania na pytania. Mają wykonywać zadania: umawiać spotkania, zamawiać bilety, obsługiwać skrzynkę mailową, tworzyć raporty, a nawet prowadzić wstępne negocjacje biznesowe.

Różnica jest prosta: tradycyjny model językowy siedzi w oknie czatu i czeka na pytanie. Agent AI to coś w rodzaju cyfrowego stażysty, który może sam wyruszyć do pracy w naszym imieniu – klikając, pisząc, zamawiając. W praktyce coraz więcej firm testuje takie rozwiązania jako tanią alternatywę dla części pracowników biurowych.

Grupa Block, właściciel usług Square i serwisu Tidal, już oficjalnie zaczęła mocno ciąć zatrudnienie, licząc, że znaczną część powtarzalnych zadań przejmą właśnie takie systemy. Dla działów finansowych brzmi to jak spełnienie marzeń: pracownicy, którzy nie śpią, nie biorą urlopów i nie proszą o podwyżki.

Agenci AI pracują non stop, nie marudzą i nie biorą wolnego. Problem w tym, że wciąż miewają halucynacje i potrafią popełniać kosztowne głupoty.

Modele, na których się opierają, działają probabilistycznie – przewidują najbardziej prawdopodobną kolejną odpowiedź. Czasem trafnie, czasem kompletnie obok. W tekście kończy się to dziwnym akapitem. W finansach, logistyce czy relacjach z klientami – realną stratą lub utratą reputacji.

„Ludzki nadzorca” staje się niezbędny

Szef Shortwave, Andrew Lee, przyznaje wprost, że sedno kłopotu leży w tym, jak ludzie ustawiają i nadzorują agentów. Według niego narzędzie powinno mieć wyraźny „bezpiecznik”: człowiek ma oglądać efekty pracy bota przed ich wyjściem na zewnątrz.

Prosty przykład: algorytm może pisać maile bez ograniczeń, ale nie powinien ich wysyłać bez ostatecznego kliknięcia użytkownika. Podobnie z przelewami, rezerwacjami czy podpisywaniem umów – tu też potrzebny jest ostatni krok z udziałem człowieka.

Automatyzacja kusi, ale wystarczy chwila nieuwagi, by stracić kontrolę

Moda na agentów AI rośnie razem z falą poradników i szkoleń, jak „zautomatyzować całe swoje życie”. Można zlecić im prowadzenie kalendarza, planowanie podróży, a nawet zarządzanie domowym budżetem. Każda dodatkowa integracja – z bankowością internetową, pocztą, systemami firmowymi – zwiększa jednak ryzyko, że algorytm podejmie decyzję, której później bardzo pożałujemy.

Historie takie jak ta z Davos działają jak zimny prysznic dla entuzjastów pełnej automatyzacji. Pokazują, że nawet stosunkowo proste zadanie – „załatw uczestnictwo w konferencji” – może przerodzić się w problem finansowy tylko dlatego, że narzędzie dostało zbyt szeroką swobodę.

Nie chodzi o to, by bać się nowych technologii i rezygnować z nich z góry. Bardziej o trzeźwe podejście: agent AI to nie jest równorzędny partner biznesowy, tylko bardzo zdolny, ale zupełnie pozbawiony instynktu stażysta. Jeśli pozwolimy mu działać bez nadzoru, zawali sprawę w najmniej odpowiednim momencie.

Jak mądrze korzystać z agentów AI w pracy i w domu

Z praktycznego punktu widzenia warto przyjąć kilka prostych zasad zanim damy cyfrowemu asystentowi jakiekolwiek dane dostępowe czy uprawnienia:

• Ustal twarde limity kwotowe, których bot nie może przekroczyć przy żadnej transakcji.
• Włącz obowiązkową akceptację człowieka przy mailach, zamówieniach i negocjacjach.
• Dawaj konkretne, zawężone zadania zamiast ogólnych misji typu „załatw mi X za wszelką cenę”.
• Oddziel konta i budżety – nie łącz prywatnych finansów z eksperymentami na agentach AI.
• Regularnie sprawdzaj logi działań bota, żeby widzieć, jak interpretuje twoje polecenia.

Agent AI świetnie sprawdza się jako generator pomysłów, pomocnik przy researchu, automat od nudnych zadań typu porządkowanie maili czy przypominanie o terminach. Kłopoty zaczynają się wtedy, gdy oddajemy mu w ręce decyzje, które normalnie wymagają choćby chwili zastanowienia i wzięcia odpowiedzialności.

Historia z Davos może stać się dla wielu firm i użytkowników rodzajem ostrzegawczego sygnału. Zanim kolejny raz klikniemy „zgadzam się” przy przydzielaniu uprawnień dla nowego agenta AI, warto zadać sobie konkretne pytania: nad czym naprawdę chcemy mieć kontrolę, jakie straty jesteśmy w stanie przełknąć i gdzie kończy się wygoda, a zaczyna zwykła lekkomyślność.