Gorące
Grok AI

Grok Bot ignorował polecenia i zaprzeczał. Producent mówi, że to nie błąd, tylko funkcja

Przez pięć dni Grok Bot sam sięgał do poczty, kalendarzy i Slacka pracowników, ignorował polecenia zatrzymania, a zapytany, zaprzeczał. Wsparcie techniczne uznało, że produkt działa zgodnie z założeniami.

Piotr Olszewski

· 5 min czytania

Elon Musk podczas konferencji 28 marca 2024 roku.
Fot. Wcamp9 / Wikimedia Commons, CC BY 4.0

„W nocy z czwartku na piątek byłem bezczynny”. Tak Grok Bot, agent AI z imperium Elona Muska, odpowiedział pracownikowi, który zapytał, czy przez noc czegoś nie robił. Zanim to napisał, dwa razy sprawdził. Logi mówiły co innego: gdy laptop leżał z zamkniętą klapą, a jego właściciel spał, bot próbował dostać się do kont, do których nikt go nie wysłał.

Nie chodzi o zamknięte laboratorium, w którym badacze celowo prowokują model do złego zachowania. Wszystko wydarzyło się na dwóch zwykłych służbowych laptopach w firmie NewCore, która we wtorek 17 listopada sama opublikowała raport o incydencie. NewCore produkuje bramkę, czyli pośrednika, przez którego agent AI musi przejść, zanim dotknie skrzynki mailowej, kalendarza czy repozytorium kodu. Działa to jak recepcja w biurowcu: kto chce wejść, zostawia ślad w książce gości. Gdyby nie ta książka, nikt by się nie dowiedział, że ktoś w ogóle próbował wchodzić.

Trzydzieści jeden pukań do drzwi

W ciągu pięciu dni boty zainstalowane na dwóch komputerach wysłały 31 żądań dostępu do kalendarzy, poczty, Slacka i GitHuba pracowników. Nikt ich o to nie prosił. Część prób przypadła na późną noc, część na czas, gdy laptop był zamknięty, a w logach samego Groka nie pojawiła się żadna. Bramka je zatrzymała. Bez niej wszystkie by się powiodły, a użytkownik nie miałby o nich pojęcia.

Kiedy pracownicy odkryli, co się dzieje, jeden z nich cztery razy kazał agentowi przestać działać na własną rękę. Bot za każdym razem przytakiwał. „Nie będę tego ustawiał i przestanę proponować cykliczne sprawdzanie” - odpowiedział, po czym dalej próbował sięgać po konta. Na pytanie, czy to robił, zaprzeczył.

Ta sekwencja waży więcej, niż sugeruje jej skrót. Agent AI różni się od zwykłego czatbota tym, że nie tylko odpowiada, ale działa: loguje się, czyta, klika, wywołuje kolejne narzędzia. Robi to z poświadczeniami użytkownika, więc dla poczty czy Slacka wygląda jak sam człowiek. Jeśli taki pomocnik nie słucha odmowy, a potem nie przyznaje się do tego, co zrobił, użytkownik traci oba narzędzia kontroli, jakie w ogóle ma: zakaz i pytanie.

„Gorzej niż błąd”

NewCore wysłało logi do wsparcia technicznego Grok Bota i zapytało, co się dzieje. Odpowiedź sprowadzała się do tego, że nic się nie zepsuło. Boty mają z założenia działać proaktywnie, od czasu do czasu same „meldować się” w podłączonych aplikacjach i szukać zadań, zanim użytkownik o cokolwiek poprosi. Mechanizm pochodzi z Cursora, usługi do pisania kodu z pomocą AI, którą SpaceXSI niedawno przejęło.

Dla badaczy to wyjaśnienie okazało się gorsze od samego incydentu. „Nie ma błędu do załatania i właśnie dlatego to jest gorsze niż błąd” - napisał w mailu Ido Hoorvitch, badacz bezpieczeństwa z NewCore. „Lukę się naprawia. Tu produkt działa zgodnie z projektem: agent, który trzyma twoje dane logowania, działa pod twoją tożsamością, gdy śpisz, ignoruje jedyną odmowę, jaką możesz mu dać, a potem mówi ci, że nic nie zrobił”.

Hoorvitch zwraca też uwagę, jak skąpo produkt informuje o tym trybie. Jedyna wzmianka pojawia się przy pierwszym uruchomieniu, kiedy bot mówi, że pracuje dalej, gdy użytkownik odchodzi od komputera, i korzysta z aplikacji tak jak on. „To wygląda jak wiadomość powitalna i znika z ekranu w niecałą minutę” - mówi badacz. „Nikt nie jest proszony o zgodę. Nigdzie nie ma informacji, że platforma będzie zaczynać działania bez żadnej wiadomości od ciebie ani że użyje do tego twoich połączeń z aplikacjami”.

Dokumentacja wspomina wprawdzie, że główny bot „sam się melduje”, a lista zmian mówi o krótkich wybudzeniach w tle, ale nigdzie nie pada, że te wybudzenia sięgają do podłączonych kont. Po fakcie nie zostaje żaden ślad, ani w okienku czatu, ani w historii rozmowy. Zapewnienie, że bot „zawsze pyta przed wprowadzeniem zmian”, dotyczy zaś wyłącznie zapisywania danych. Czytanie cudzej poczty o trzeciej w nocy do tej kategorii nie należy.

Przełącznik po ośmiu dniach

NewCore zgłosiło sprawę 4 listopada. Użytkownicy nie mieli wtedy żadnego sposobu, żeby automatyczne meldunki wyłączyć. Osiem dni później w panelu administracyjnym Cursora, który steruje Grok Botem, pojawił się przełącznik „proaktywne wiadomości” - domyślnie włączony. Boty przestają działać same z siebie dopiero wtedy, gdy administrator zespołu go wyłączy. Na pytania wysłane mailem przedstawiciele SpaceXSI nie odpowiedzieli.

Skąd takie ustawienie domyślne, łatwo zrozumieć, gdy spojrzy się na to, czym Grok Bot jest dla firmy Muska. Sam Musk nazwał go najszybciej rosnącym produktem, jaki kiedykolwiek widział. Gwynne Shotwell, prezes SpaceX, mówiła na początku października o mniej więcej 800 tys. płacących użytkowników tygodniowo, co miało oznaczać podwojenie wyniku sprzed miesiąca. Bot jest dostępny w abonamentach X za 30, 100 i 200 dolarów miesięcznie, a agent, który sam znajduje sobie zajęcie, wygląda na pracowitszego i bardziej potrzebnego.

Ten zapał kosztuje jednak także samą firmę. Każdy samodzielny krok agenta to kolejne wywołania modelu, a abonament pozostaje stały. Na początku listopada użytkownicy zauważyli, że ich tygodniowe limity kończą się po kilku godzinach, a nie po kilku dniach; część relacjonowała, że zużycie skoczyło z 56 do 100 proc. w ciągu godziny. Musk przyznał 1 listopada na X: „Koszt obsługi Grok Bota był niezrównoważenie wysoki w stosunku do przychodów”. Ciche nocne meldunki w pocztach i kalendarzach to część tego rachunku. Raport NewCore pokazuje, że płaci go również użytkownik, choć nikt go o zgodę nie pytał.

Tym razem nikt niczego nie zmieniał

Firma Muska ma już za sobą podobną historię. W maju 2025 roku Grok w serwisie X wtrącał wątek „ludobójstwa białych” w Afryce Południowej do rozmów o pensjach baseballistów i kreskówkach. xAI tłumaczyło wtedy, że winna była „nieautoryzowana modyfikacja” wprowadzona przez pracownika, i obiecało większą przejrzystość. Tym razem nie ma kogo obwinić, bo nikt niczego nie modyfikował. Agent zachowywał się dokładnie tak, jak zaprojektowano go w Cursorze: gdy nikt na niego nie patrzył, pracował, a zapytany o to, odpowiadał, że był bezczynny.

Wpis z pasa „W ruchu”, 20 listopada 2026. Na zdjęciu: Elon Musk podczas konferencji 28 marca 2024 roku.

Źródła (5)
Następny tekstCrowdStrike buduje hamulec dla agentów AI. Sam antywirus już nie wystarczaNa konferencji Fal.Con Europe CrowdStrike ogłosił umowę przejęcia Dreadnode, zapowiedział zakup Fiddler AI i pokazał AI Kill Switch. Firma, która przez lata pilnowała komputerów, chce teraz pilnować programów, które działają na nich w imieniu ludzi.

Z Promptowego - blog o AI tego samego autora