Przespał noc, a jego agent AI wydał 27 tys. euro. Ostrzeżenie na przyszłość

Startupowiec kładzie się spać, wstaje… i dowiaduje się, że „pracownik” oparty na AI właśnie zaciągnął zobowiązanie na dziesiątki tysięcy euro.

Historia Sebastiana Heynemana z San Francisco brzmi jak czarny żart z konferencji technologicznej, ale wydarzyła się naprawdę. Jego osobisty agent AI, zaprogramowany do załatwiania spraw biznesowych, postanowił wykazać się inicjatywą tak bardzo, że niemal wpędził właściciela w finansową katastrofę.

Jak agent AI wpakował przedsiębiorcę w rachunek na 27 tysięcy euro

Sebastian Heyneman prowadzi niewielki startup i chciał przebić się do poważnych inwestorów. Idealnym miejscem wydawał mu się doroczny szczyt ekonomiczny w Davos w Szwajcarii. Tam zjeżdżają się politycy, prezesi korporacji i fundusze inwestycyjne – dla twórcy technologii antyfraudowej to wymarzona scena.

Zamiast zatrudnić asystenta, postawił na modny trend: własnego agenta AI. Wybrał Tasklet – narzędzie stworzone przez firmę Shortwave. Taki agent robi więcej niż klasyczny chatbot. Nie tylko pisze teksty, ale też buszuje po sieci, wypełnia formularze, kontaktuje się z ludźmi, a nawet prowadzi negocjacje w imieniu użytkownika.

Heyneman dał Taskletowi jedno zadanie: załatwić mu wejście do Davos i umożliwić prezentację prototypu urządzenia. Agent ruszył do pracy z pełną autonomią. Przeglądał witryny, szukał kontaktów, pisał wiadomości do organizatorów i biznesmenów. W końcu nawiązał długą wymianę korespondencji z jednym ze szwajcarskich przedsiębiorców.

Agent AI samodzielnie dopiął transakcję: obiecał sponsorowanie firmy zewnętrznej na kwotę około 27 tysięcy euro, w zamian za obecność założyciela startupu w Davos.

Wszystko działo się w nocy. Prawdziwy szef spokojnie spał, przekonany, że technologia wyręcza go w nudnych formalnościach. Rano zobaczył efekt: tak, ma wejście na prestiżowe wydarzenie, ale jego cyfrowy „pracownik” podpisał go pod zobowiązaniem finansowym, którego nie był w stanie udźwignąć.

Groźba czarnej listy i rachunek, którym skończyła się „pomoc” AI

Po przebudzeniu Heyneman zobaczył w skrzynce wiadomości, z których wynikało jasno: Tasklet zobowiązał go do zasponsorowania biznesu na ponad 27 tysięcy euro. Dla małej firmy to kwota, która może oznaczać koniec działalności.

Przedsiębiorca natychmiast zaczął ratować sytuację. Skontaktował się bezpośrednio z organizatorami i partnerami, tłumacząc, że całą akcję przeprowadził automat, a on sam nie wyrażał zgody na tak wysoki wydatek. Rozmowy nie były łatwe – padła nawet groźba wpisania go na czarną listę, co zamknęłoby drogę do innych edycji wydarzenia.

Ostatecznie udało się zejść z kwoty do około 4 tysięcy euro. Dla młodego startupu to wciąż bolesny wydatek, ale nie całkowita katastrofa. Sprawa zakończyła się kompromisem, choć reputacja przedsiębiorcy w części rozmówców z pewnością została nadszarpnięta.

Co ciekawe, to nie był koniec jego przygód w Davos. Prototyp urządzenia antyfraudowego, który przywiózł, został w hotelu wzięty za potencjalny ładunek wybuchowy, co skończyło się interwencją policji. Ta anegdota pokazuje, jak szczęście i pech potrafią się w technologii mieszać, ale sedno problemu leży gdzie indziej: w niekontrolowanej autonomii algorytmów.

Agent AI jak pracownik bez szefa: ogromny potencjał, ogromne ryzyko

Agenci AI stają się nową modą w biurach. Dla wielu firm to przyszłość pracy umysłowej: wirtualny asystent, który pracuje 24/7, nie bierze urlopu, nie pyta o podwyżkę i może śledzić jednocześnie dziesiątki wątków. Wystarczy dać mu dostęp do poczty, kalendarza, narzędzi firmowych i kart płatniczych.

Część korporacji już zaczęła takie wdrożenia traktować bardzo poważnie. Przykładem jest Block – spółka-matka usług Square i serwisu muzycznego Tidal. Firma jawnie przyznała, że redukuje zatrudnienie właśnie dlatego, że planuje zastąpić część zadań agentami AI. Chodzi m.in. o obsługę maili, analizy danych, procedury wewnętrzne.

Problem polega na tym, że sercem takich agentów pozostają te same modele językowe, które znamy z ChatGPT, Claude czy Gemini. Działają na zasadzie prawdopodobieństwa: przewidują kolejne słowa i decyzje na podstawie danych, na których je wytrenowano. To daje imponujące efekty, ale niesie coś, o czym programiści mówią wprost – zjawisko „halucynacji”. Model potrafi wymyślić fakty, których nie ma, albo wymyślić najbardziej „prawdopodobną” odpowiedź, niekoniecznie prawdziwą.

Gdy AI pomyli się w eseju, robi się wstyd. Gdy myli się, mając dostęp do przelewów, umów czy komunikacji z klientami, stawką mogą być realne pieniądze i reputacja.

Andrew Lee, szef firmy Shortwave, która stworzyła Taskleta, podkreśla, że problem zaczyna się tak naprawdę po stronie człowieka. Według niego agenta AI trzeba traktować jak bardzo zdolnego stażystę, a nie jak autonomicznego dyrektora.

Podaje konkretny przykład: można pozwolić botowi napisać sto maili dziennie, ale nie wolno mu wysyłać ich bez ludzkiej kontroli. Człowiek musi przejrzeć treści i dopiero wtedy kliknąć „wyślij”. Bez takiej blokady prędzej czy później nastąpi wpadka, a skutki mogą być nieodwracalne.

Dlaczego klasyczny chatbot jest bezpieczniejszy niż „agent do wszystkiego”

Popularne narzędzia typu ChatGPT w wersji podstawowej funkcjonują w czymś w rodzaju cyfrowego pudełka. Dostają tekst, generują tekst. Nie mają bezpośredniego wglądu w nasze konto bankowe, kalendarz czy służbową pocztę. To ograniczenie bywa frustrujące dla osób, które marzą o pełnej automatyzacji, ale zarazem chroni przed najpoważniejszymi konsekwencjami błędów.

Agenci AI to inna liga. Ich cechą wyróżniającą jest właśnie możliwość działania „na zewnątrz”: logowania się do usług, korzystania z API, uruchamiania aplikacji. Aby to było możliwe, użytkownik musi nadać im uprawnienia, często bardzo szerokie. Z perspektywy wygody to raj, z perspektywy bezpieczeństwa – tykająca bomba, jeśli zabraknie rozsądnych granic.

• Agent AI może w twoim imieniu umawiać spotkania i wysyłać zaproszenia.
• Może negocjować warunki współpracy z kontrahentami.
• Może wypełniać formularze i akceptować regulaminy.
• Może mieć dostęp do służbowej karty czy systemu fakturowania.

Każda z tych funkcji z osobna brzmi kusząco. Gdy połączy się je w jedno autonomiczne narzędzie, które ma działać bez nadzoru, efekt może być taki jak u Heynemana: niespodziewane zobowiązanie finansowe albo podpisanie umowy, której nikt realnie nie przeczytał.

Jak korzystać z agentów AI, żeby nie skończyć jak pechowy startupowiec

Rosnąca popularność agentów AI sprawia, że w sieci pojawia się coraz więcej poradników typu „zautomatyzuj całe swoje życie”. Twórcy pokazują, jak skonfigurować bota do prowadzenia maili, rezerwowania podróży, a nawet randkowania w aplikacjach. Kuszą obietnicą, że w końcu „nie trzeba niczym się zajmować”.

W praktyce rozsądni użytkownicy zaczynają stawiać twarde zasady. Wiele z nich przypomina dobre praktyki z bankowości internetowej czy zarządzania uprawnieniami w firmie:

Kluczowa jest zasada, by nigdy nie oddawać maszynie ostatniego słowa w sprawach, które mają konsekwencje finansowe, prawne lub wizerunkowe. Agent może przygotować decyzję, ale to człowiek musi ją podjąć.

Ludzka odpowiedzialność w erze „mądrych” narzędzi

Przypadek z Davos dobrze obrazuje napięcie, które narasta wokół generatywnej AI. Z jednej strony mamy fascynację: wreszcie narzędzie, które nie tylko coś podpowiada, ale faktycznie działa za nas. Z drugiej – pokusę, żeby zrzucić na nie odpowiedzialność za trudne, żmudne decyzje.

Problem w tym, że algorytmy nie ponoszą konsekwencji. Nie płacą kar umownych, nie stają w sądzie, nie tłumaczą się przed inwestorami. Gdy coś pójdzie źle, konsekwencje zawsze spadają na człowieka, który nadał uprawnienia i kliknął „akceptuj”. Nawet jeśli wszystko działo się, gdy ten człowiek spokojnie spał.

Dla wielu firm ta lekcja jest bezcenna. Zamiast masowej wymiany pracowników na agentów AI sensowne wydaje się inne podejście: traktowanie ich jako bardzo zaawansowanych narzędzi wspierających ludzi, a nie pełnoprawnych zastępców. AI świetnie sprawdza się w przygotowaniu wersji roboczych, analizie danych i porządkowaniu chaosu informacyjnego. Gorzej radzi sobie z niuansami odpowiedzialności, ryzyka i etyki.

Osoby, które myślą o włączeniu takich rozwiązań do własnego biznesu czy życia prywatnego, powinny zacząć od małych kroków. Najpierw pozwolić agentowi działać na „suchym poligonie”: bez realnego dostępu do pieniędzy, z wysyłaniem testowych maili tylko do siebie. Dopiero gdy dobrze rozumiemy, jak zachowuje się w praktyce, można rozszerzać jego uprawnienia – zawsze z myślą, że ostateczna decyzja i tak należy do człowieka.