Niepokojąca seria odejść w OpenAI. Szefowa etyki AI rezygnuje

Chloé Bakalar dołączyła do OpenAI w sierpniu 2025 r. jako AI ethics lead. Jak ustalił „Financial Times”, odeszła z firmy w lipcu, bez publicznego komunikatu. Wcześniej przez sześć lat była związana z Meta, gdzie pełniła funkcję chief ethicist i pracowała nad wdrażaniem zasad etycznych do produktów takich jak Facebook czy Instagram.

Według FT Bakalar była jedyną osobą w OpenAI zatrudnioną wyłącznie w roli poświęconej etyce AI. Na razie nie wyznaczono jej następcy.

OpenAI przekonuje jednak, że odejście nie oznacza osłabienia tego obszaru.

– Jesteśmy wdzięczni Chloé za jej wkład. Etyka AI nie znajduje się w OpenAI w rękach jednej osoby ani jednego zespołu, a kwestie etyczne są głęboko wpisane w proces budowania modeli prowadzony przez wiele zespołów badawczych – przekazał „Financial Times” rzecznik spółki.

Z OpenAI odchodzą kolejni ludzie od safety

Samo odejście Bakalar mogłoby zostać potraktowane jako zwykła zmiana kadrowa. Problem w tym, że pojawia się na końcu coraz dłuższej listy rezygnacji osób związanych z bezpieczeństwem AI.

W ostatnich tygodniach firmę opuścił Johannes Heidecke, stojący na czele zespołu safety systems. Z OpenAI związany był przez około pięć lat, a jego praca koncentrowała się na badaniu zachowania modeli i ograniczaniu ryzyka ich niepożądanych działań.

Odszedł również Joshua Achiam, chief futurist OpenAI i jeden z najbardziej doświadczonych pracowników firmy. Wcześniej zajmował się m.in. mission alignment, czyli zgodnością rozwoju technologii z deklarowaną misją OpenAI.

To kolejne nazwiska po badaczach takich jak Jan Leike, Miles Brundage czy Steven Adler, którzy w poprzednich latach rozstawali się z firmą po pracy nad bezpieczeństwem, alignmentem lub społecznymi konsekwencjami rozwoju coraz potężniejszych modeli.

Nie oznacza to automatycznie, że OpenAI demontuje swoje struktury bezpieczeństwa. Firma podkreśla, że część odpowiedzialności jest przenoszona bezpośrednio do zespołów rozwijających modele. Jednak skala i moment tych zmian sprawiają, że pytania o priorytety spółki wracają ze zdwojoną siłą.

Modele są coraz potężniejsze. I coraz trudniejsze do kontrolowania

Odejścia zbiegają się z nowym etapem rozwoju generatywnej AI. Najbardziej zaawansowane systemy przestają być wyłącznie chatbotami odpowiadającymi na pytania użytkowników. Coraz częściej mają działać jak agenci: planować kolejne kroki, wykonywać kod, korzystać z internetu i narzędzi oraz realizować złożone zadania bez stałej kontroli człowieka.

OpenAI znalazło się ostatnio pod presją po testach, w których model uzyskał dostęp do zewnętrznego systemu poza środowiskiem przygotowanym przez badaczy. Incydent zwiększył obawy wokół tzw. agentic AI – systemów zdolnych nie tylko do generowania odpowiedzi, ale również do samodzielnego działania.

Podobne testy prowadzą także konkurenci OpenAI, w tym Anthropic. Ich wyniki coraz częściej pokazują, że bardziej autonomiczne modele mogą w pewnych warunkach podejmować działania, których projektanci nie przewidzieli lub których nie chcieli.

Właśnie dlatego bezpieczeństwo AI staje się dziś nie tyle dodatkiem do rozwoju produktów, ile jednym z głównych ograniczeń dalszego wyścigu technologicznego.

OpenAI samo przyhamowuje rozwój kolejnego modelu

Skala problemu stała się widoczna także w przypadku kolejnego zaawansowanego systemu OpenAI.

Firma poinformowała, że testy rozwijanego modelu Astra wskazały możliwość osiągnięcia poziomu określanego przez OpenAI jako „critical cybersecurity capability”. Chodzi o zdolności pozwalające m.in. na samodzielne znajdowanie poważnych luk w zabezpieczeniach, tworzenie działających exploitów lub prowadzenie bardziej złożonych operacji cybernetycznych.

W odpowiedzi OpenAI zdecydowało się zwiększyć poziom zabezpieczeń i ograniczyć część prac nad modelem do bardziej izolowanych środowisk.

To ważny sygnał. Przez ostatnie lata największe laboratoria AI ścigały się przede wszystkim na skalę modeli, ich możliwości i tempo wprowadzania nowych produktów. Teraz coraz częściej okazuje się, że ograniczeniem może być nie technologia, ale brak pewności, czy jej zachowanie da się wystarczająco dobrze kontrolować.

„Budujemy samolot podczas lotu”

Sama Bakalar jeszcze niedawno bardzo obrazowo opisywała sytuację, w jakiej znajdują się twórcy najbardziej zaawansowanych systemów AI.

– Cały czas budujemy samolot, jednocześnie nim lecąc – powiedziała podczas jednej z konferencji branżowych.

Podkreślała przy tym, że odpowiedzialność za skutki rozwoju sztucznej inteligencji nie może zostać zrzucona na jednego etyka lub pojedynczy zespół.

– Etyka jest tak naprawdę odpowiedzialnością wszystkich. Mówię to jako osoba, której pracą jest kierowanie tym obszarem. Nie powinniście przychodzić wyłącznie do takich osób jak ja. Nigdy nie powinna istnieć jedna osoba będąca moralnym centrum firmy rozwijającej AI – mówiła.

OpenAI twierdzi dziś właściwie to samo: odpowiedzialność za etyczne konsekwencje rozwoju modeli ma być rozłożona pomiędzy różne zespoły.