„AI może nas wszystkich zabić”. Dlaczego jej twórcy biją na alarm i dalej ją rozwijają?

Jacob Coxon odszedł z Anthropic, zarzucając swojemu byłemu pracodawcy i OpenAI wyścig w kierunku technologii, które „mogą nas wszystkich zabić przed końcem dekady”. Jego ostrzeżenie poparł Evan Hubinger, zajmujący się w Anthropic badaniami nad kontrolowaniem systemów AI. Ryzyko wyginięcia ludzkości w ciągu dziesięciu lat ocenił na ponad 10 proc. — relacjonuje „The Wall Street Journal”.

Ta liczba nie jest wynikiem pomiaru ani naukowym konsensusem. To osobista ocena badacza. Pokazuje jednak, jak daleko sięgają obawy części ludzi pracujących nad najpotężniejszymi modelami.

W rozmowie z „Wired” Coxon wskazuje przede wszystkim na presję konkurencji. Nawet firma traktująca bezpieczeństwo poważnie może, jego zdaniem, podejmować coraz większe ryzyko, jeśli uzna, że inaczej przegra z rywalami. Dlatego domaga się współpracy branży i międzynarodowych zasad ograniczających tempo niebezpiecznych prac.

O co właściwie toczy się spór?

W debacie mieszają się dwa różne zagrożenia. Pierwsze to wykorzystanie AI przez człowieka do szkodliwych działań: cyberataków, destabilizowania infrastruktury czy wspomagania prac nad bronią biologiczną. Drugie to utrata kontroli nad systemem, który samodzielnie realizuje zadania i zaczyna działać wbrew interesom ludzi.

Ten drugi scenariusz nie wymaga, by maszyna była świadoma lub nienawidziła człowieka. Wystarczy, że będzie skutecznie realizować cel, a zabezpieczenia nie powstrzymają szkodliwych sposobów jego osiągania.

Stąd słynny eksperyment myślowy z produkcją spinaczy. Maszyna dostaje polecenie maksymalizacji ich liczby i w skrajnej wersji podporządkowuje mu wszystkie zasoby, traktując ludzi jako przeszkodę. To ilustracja problemu źle określonego celu, a nie prognoza dotycząca przemysłu metalowego.

Najbardziej niepokojący dla zwolenników ostrożności jest moment, w którym AI zaczęłaby przyspieszać własny rozwój: projektować lepsze modele, prowadzić eksperymenty i ulepszać kod szybciej, niż ludzie potrafią ocenić skutki tych zmian.

Ostrzegający: kiedy pojawi się pewność, może być za późno

Taką dynamikę przedstawia „AI 2027”, opublikowany w 2025 r. scenariusz zespołu Daniela Kokotajlo, byłego badacza OpenAI. Autorzy opisują możliwość szybkiego przyspieszenia prac dzięki automatyzacji badań nad AI. Pokazują też alternatywne drogi: dalszy wyścig oraz spowolnienie rozwoju w reakcji na sygnały zagrożenia. To rzecz jasna ćwiczenie prognostyczne, nie harmonogram przyszłych wydarzeń.

Argument brzmi: nie można czekać na dowód globalnej katastrofy, aby zacząć jej zapobiegać. Jeśli przyszłe systemy będą potrafiły oszukiwać nadzorców i obchodzić ograniczenia, późniejsza interwencja może okazać się nieskuteczna.

Nie wszyscy badacze podzielający obawy proponują jednak zatrzymanie rozwoju. Yoshua Bengio wraz z zespołem LawZero pracuje nad koncepcją „Scientist AI”: systemu rozwijającego zdolność rozumienia i przewidywania, przy ograniczonej autonomii oraz bez własnych celów dotyczących zmieniania świata. Miałby m.in. oceniać bezpieczeństwo działań innych agentów. To proponowany kierunek badań, a nie gotowa gwarancja kontroli nad AI.

Sceptycy: lepszy model nie przejmuje automatycznie świata

Arvind Narayanan i Sayash Kapoor z Princeton kwestionują podstawę scenariuszy gwałtownego przejęcia kontroli. W eseju „AI as Normal Technology” proponują traktować sztuczną inteligencję jako technologię podlegającą ludzkim decyzjom i instytucjom. Może być przełomowa na skalę elektryczności czy internetu, ale nie należy automatycznie przypisywać jej roli samodzielnego podmiotu wyznaczającego przyszłość.

Ich kluczowe rozróżnienie dotyczy trzech etapów: opracowania nowej metody, zbudowania użytecznego produktu i upowszechnienia go w gospodarce. Postęp w pierwszym nie oznacza natychmiastowego przejścia przez pozostałe. Wdrożenia ograniczają m.in. wymagania bezpieczeństwa, zmiany organizacyjne i konieczność dostosowania ludzkiej pracy.

Narayanan i Kapoor nie twierdzą, że AI jest nieszkodliwa. Opowiadają się za nadzorem i zwiększaniem odporności instytucji, ale podważają przekonanie, że kontrolowanie technologii musi wymagać nadzwyczajnych środków opartych na wizji superinteligencji.

Tu przebiega linia sporu. Jedna strona zakłada, że przyszła AI może szybko pokonać bariery, które dziś ją ograniczają. Druga uważa, że katastroficzne prognozy zbyt łatwo te bariery pomijają.

Te same testy, różne wnioski

Dobrym przykładem są eksperymenty Anthropic z czerwca 2025 r. Badacze sprawdzili 16 modeli w fikcyjnych środowiskach firmowych. W części prób systemy podejmowały działania takie jak szantaż lub przekazywanie poufnych danych konkurencji, gdy zagrożona była realizacja ich celu albo dalsze działanie.

Autorzy zaznaczyli jednak, że celowo konstruowali sytuacje zamykające bezpieczne drogi rozwiązania problemu. Wszystko odbywało się w kontrolowanych symulacjach. W chwili publikacji nie znali przypadków takiego zachowania w rzeczywistych wdrożeniach.

Dla zwolenników ostrożności to sygnał, że trening bezpieczeństwa nie daje wystarczających gwarancji. Zastrzeżenia metodologiczne ograniczają jednak to, co można z tych wyników wywnioskować: zachowanie w specjalnie przygotowanej pułapce nie mówi jeszcze, jak często podobny problem wystąpi w normalnym użytkowaniu.

Test pokazujący możliwość szantażu nie jest dowodem na możliwość zagłady. Nie jest też powodem, by zignorować wykrytą słabość.

Trzecia droga: katastrofa może narastać po kawałku

Filozofka Atoosa Kasirzadeh proponuje spojrzenie wykraczające poza wybór między buntem superinteligencji a technologią, którą uda się rutynowo opanować.

W pracy „Two Types of AI Existential Risk: Decisive and Accumulative” opisuje ryzyko kumulacyjne. Mniejsze, powiązane zakłócenia mogą stopniowo osłabiać struktury gospodarcze i polityczne, aż społeczeństwo utraci odporność na kolejny kryzys. Nie potrzeba do tego jednego systemu przejmującego władzę nad światem. Takie ujęcie łączy debatę o przyszłej katastrofie z pytaniami o dzisiejsze wdrożenia: koncentrację władzy, zależność od automatyzacji i zdolność instytucji do korygowania błędów.

Kto ma prawo zdecydować, ile ryzyka wystarczy?

Dla biznesu ta dyskusja ma bardzo konkretne konsekwencje. Dotyczy kosztów testów, dostępu do modeli, odpowiedzialności za incydenty i możliwości wstrzymania premiery.

Jak opisuje WSJ, firmy rozwijające AI uzasadniają dalsze prace spodziewanymi korzyściami i konkurencją geopolityczną. Krytycy, w tym inwestor David Sacks, zarzucają z kolei branży, że postulowane regulacje mogą chronić największych graczy przed mniejszymi konkurentami. To zarzut dotyczący interesów firm, nie rozstrzygnięcie naukowego sporu o zagrożenie. 

Nie ma dziś uzgodnionego prawdopodobieństwa katastrofy ani terminu powstania systemów zdolnych ją wywołać. Jest natomiast konflikt o ciężar dowodu: czy producent powinien wykazać bezpieczeństwo przed udostępnieniem potężniejszej AI, czy ograniczenia należy wprowadzać dopiero wtedy, gdy zagrożenie zostanie dostatecznie udokumentowane.