Claude buduje swojego następcę. Anthropic przyznał w prospekcie, że może przegapić ten moment

W prospekcie emisyjnym, który Anthropic złożył w amerykańskiej Komisji Papierów Wartościowych w poniedziałek 2 listopada, wciąż brakuje najważniejszej dla inwestorów liczby. W miejscu przedziału cenowego akcji stoi „między $ a $”, z pustymi polami do uzupełnienia. Jest za to zdanie, którego w wersji z 26 października nie było. Wewnętrzne szacunki i oczekiwania wobec przyszłych modeli wskazują, pisze firma, że „możemy wkrótce spełnić” zapisaną w jej polityce bezpieczeństwa definicję „dramatycznie przyspieszonego postępu, za który odpowiada AI”.

Za tą urzędową formułą stoi pojęcie, które od wiosny robi w branży karierę: rekurencyjne samodoskonalenie, po angielsku recursive self-improvement, w skrócie RSI. Chodzi o moment, w którym sztuczna inteligencja staje się na tyle dobra w budowaniu sztucznej inteligencji, że każda kolejna generacja powstaje szybciej i jest mocniejsza od poprzedniej, a ludzie przestają nadążać. Dla jednych to droga do przełomów w nauce, dla innych punkt, po którym nie ma powrotu.

Najciekawsze w dokumencie jest jednak co innego niż sam alarm. Ten sam prospekt w innych miejscach opisuje dokładnie ten mechanizm jako najcenniejszy atut spółki.

Pętla na sprzedaż

Anthropic nazywa go „zamykaniem pętli”. Każda wersja Claude'a pomaga budować następną: prowadzi eksperymenty, generuje i obrabia dane treningowe, automatyzuje testy i audyty bezpieczeństwa, pisze i recenzuje kod. Firma uważa tę „rekurencyjną dynamikę” za jedną z najważniejszych przewag strukturalnych w całej branży i powtarza to w prospekcie kilka razy, raz w części o technologii, raz o kosztach mocy obliczeniowej, raz wśród ryzyk, gdzie ostrzega, że jeśli konkurencja lepiej wykorzysta AI do własnego rozwoju, Anthropic zacznie zostawać w tyle.

Skalę widać w liczbach, które spółka sama podaje. Wartość wewnętrznego używania Claude'a, liczona po cenach katalogowych, wzrosła od stycznia do września 2026 roku ponad 250-krotnie. W kwietniu po raz pierwszy przekroczyła miesięczne koszty wynagrodzeń pracowników, nie licząc wypłat w akcjach. Mówiąc prościej: firma zużywa dziś na własne potrzeby więcej pracy swojego modelu, niż płaci ludziom.

Tuż obok pada zdanie, które brzmi jak z innego dokumentu. Używanie AI do budowania potężniejszej AI „może też stanowić poważne ryzyko dla bezpieczeństwa, zwłaszcza jeśli gwałtownie przyspieszy tempo postępu”. W części o ryzykach jest jeszcze mocniejsze przyznanie. Większość dowodów na tempo tego przyspieszenia to wskaźniki opóźnione, więc firma „w przeszłości nie rozpoznała” istotnego przyspieszenia, dopóki ono już nie nastąpiło. Kierowca dowiaduje się, że przekroczył prędkość, dopiero gdy przyjdzie mandat.

Próg, którego nie widać gołym okiem

Próg, o którym mowa w prospekcie, opisuje Responsible Scaling Policy, czyli wewnętrzny regulamin, w którym Anthropic zobowiązuje się do coraz ostrzejszych zabezpieczeń w miarę wzrostu możliwości modeli. W wersji 3.4, obowiązującej od 8 lipca, firma uzna próg za przekroczony w jednym z dwóch przypadków. Pierwszy: jej modele mogłyby w pełni zastąpić cały zespół naukowców i inżynierów badawczych, przy kosztach najwyżej pięciokrotnie wyższych. Drugi: postęp całej dziedziny wyraźnie przyspieszy z powodu automatyzacji badań.

Czytaj teżSpadkobiercy Elvisa pozywają Anthropic. Chodzi o 274 piosenki i 41 mln dolarówClaude podsunął policji zmyśloną wskazówkę. A Replit w tym czasie flirtował z OpenAI

To drugie kryterium ma konkretną miarę. Chodzi o podwojenie tempa, czyli o postęp, na który normalnie trzeba by dwóch lat, zmieszczony w jednym roku. Regulamin zaznacza, że to coś innego niż podwojenie wydajności badaczy, bo dwa razy więcej rąk do pracy nie oznacza dwa razy szybszego postępu. W lipcu Anthropic dopisał też, że próg ma uchwycić „początek dramatycznego rekurencyjnego samodoskonalenia” i że okazał się trudny do przełożenia na pomiar. Innymi słowy, firma sama przyznaje, że granicy, przed którą ostrzega, nie da się odczytać z jednego licznika.

Przekroczenie progu ma konsekwencje. Model, który go przejdzie, trafia do kategorii „wysoce zdolnych”, a raporty o ryzyku dotyczące takich modeli muszą przejść zewnętrzną recenzję, jeśli publiczna wersja zostanie mocno ocenzurowana. Regulamin zapowiada też pełny wgląd w całą wewnętrzną pracę nad AI, z logami analizowanymi przez samą AI pod kątem zagrożeń, także ze strony pracowników i modeli. Jest tam też zastrzeżenie, które dobrze oddaje skalę problemu: na tym etapie AI może odpowiadać za dużą część analiz, na których opiera się ocena ryzyka, więc część dowodów trzeba z góry traktować jako podejrzaną.

Claude pisze Claude'a

Idea maszyny, która ulepsza maszyny, jest stara. Brytyjski matematyk I.J. Good, kryptolog z Bletchley Park, pisał w 1965 roku o „eksplozji inteligencji” i o tym, że pierwsza ultrainteligentna maszyna będzie ostatnim wynalazkiem, jakiego ludzkość potrzebuje. Przez dekady była to filozofia. W 2026 roku zrobiła się z tego tabela w arkuszu kalkulacyjnym.

W czerwcu Anthropic Institute, wewnętrzna jednostka badawcza firmy, opublikował raport „When AI builds itself”, podpisany przez Marinę Favaro i Jacka Clarka. Według niego w maju ponad 80 proc. kodu włączanego do bazy Anthropic napisał Claude. We wrześniu firma opisała własny wskaźnik automatyzacji badań: w lutym Claude prowadził mniej niż 1 proc. prac badawczo-rozwojowych, w sierpniu około 26 proc. „Prowadził” oznacza, że wykonywał zadanie od początku do końca na podstawie ogólnego polecenia, pod okiem człowieka. Anthropic zastrzegł, że Claude nie działa w pełni samodzielnie w żadnym zmierzonym obszarze tych prac.

Raport z czerwca kończył się propozycją, która w ustach firmy budującej najmocniejsze modele brzmiała zaskakująco. Byłoby dobrze dla świata, pisali autorzy, mieć możliwość spowolnienia albo czasowego wstrzymania rozwoju najbardziej zaawansowanej AI. Warunek był jednak twardy: pauza miałaby sens tylko wtedy, gdyby zgodziło się na nią kilka dużych laboratoriów z różnych krajów i gdyby dało się sprawdzić, czy dotrzymują słowa. Jednostronne wstrzymanie prac, jak argumentował Anthropic, zmieniłoby tylko lidera wyścigu.

Wyścig, w którym nikt nie chce stanąć pierwszy

Inni grają w tę samą grę, tylko głośniej. Elon Musk mówił w marcu, że przy kolejnych modelach Grok ludzie są „coraz mniej w pętli”, i zapowiadał pełną automatyzację najpóźniej w 2027 roku. OpenAI we wrześniu pokazało automatycznego „stażystę badawczego”, wyznaczyło sobie marzec 2028 roku jako termin zbudowania automatycznego badacza AI i przyznało, że nie wie jeszcze, jak bezpiecznie dojść do pełnego RSI. „To, czy i jak iść dalej, musi zależeć od naszej zdolności do zachowania ludzkiej kontroli” - napisała firma. Jack Clark 12 października przesunął w swoim newsletterze Import AI prognozę pełnego samodoskonalenia z końca 2028 na 2027 rok.

Nie wszyscy w branży wierzą, że to tylko kwestia terminów. We wrześniu z Anthropic odszedł Jacob Coxon, który przez trzy lata zajmował się pretreningiem modeli w OpenAI i Anthropic. Napisał, że laboratoria „pędzą prosto ku samodoskonalącej się superinteligencji i hazardują naszym życiem”. Anthony Aguirre z Future of Life Institute nazwał budowę samodoskonalącej się AI „prawdopodobnie najgorszym pomysłem w historii ludzkości”. John Thickstun, informatyk z Cornella, studził emocje: modele od lat pomagają tworzyć swoich następców, a dotąd dawało to drobne usprawnienia, nie twórcze skoki.

Jest też prostsze, cyniczne odczytanie. Prospekt służy jednocześnie do ujawniania ryzyk i do sprzedaży akcji, a firma, której przychody w trzecim kwartale wyniosły 17 mld dolarów, a łączne zobowiązania na moc obliczeniową i infrastrukturę sięgają około 895 mld dolarów, ma powód, by pokazać, że stoi tuż przed przełomem. Julie Bort z TechCrunch zwróciła uwagę, że deklaracja bliskości samobudującej się AI może być po części marketingiem. Tyle że prospekt to dokument, za którego treść spółka odpowiada przed regulatorem i inwestorami, a przyznanie, że Anthropic przegapiał już przyspieszenia we własnym laboratorium, trudno uznać za reklamę.

Na razie żaden model Anthropic nie został formalnie uznany za przekraczający próg. Firma pisze, że wciąż analizuje dane i opublikuje kolejne raporty zgodnie z regulaminem. Dodaje też coś, co w dokumencie dla inwestorów brzmi jak zobowiązanie: nie spodziewa się, by mogła bezpiecznie pozwolić Claude'owi w pełni samodzielnie projektować i budować kolejne generacje modeli bez rzeczywistego nadzoru i zrozumienia ze strony ludzi, a zmiany w swojej polityce rozważa po to, by ludzie zachowali kontrolę nad tym procesem. Puste pola w miejscu ceny akcji wypełni dopiero następna poprawka prospektu.