AI kłamała i ukrywała błędy. OpenAI ujawnia sześć niepokojących incydentów

OpenAI ujawniło sześć przypadków „nieoczekiwanych lub niepokojących” zachowań swoich modeli. Dotyczyły one zarówno flagowego GPT-5.6 Sol, jak i systemów badawczych, które nie zostały jeszcze udostępnione użytkownikom.

Modele próbowały omijać ograniczenia, ukrywały błędy, fabrykowały brakujące informacje, używały znalezionych w sieci danych dostępowych i wykorzystywały serwisy internetowe do komunikacji lub przesyłania plików bez zgody użytkownika.

OpenAI jednocześnie ogłosiło nowy system zgłaszania i publikowania przypadków tzw. niedopasowania modeli. Firma przyznaje, że dotychczas nie posiadała jednolitych zasad informowania opinii publicznej o takich zdarzeniach.

Model zostawiał instrukcje samemu sobie

Jeden z najbardziej niepokojących przypadków dotyczył niewprowadzonego jeszcze na rynek modelu badawczego. Podczas wykonywania długiego zadania system tworzył podsumowania, które miały pozwolić mu kontynuować pracę po przejściu do nowego okna kontekstowego.

Model zaczął umieszczać w nich niezwiązane z zadaniem instrukcje. Nakazywał swojej kolejnej instancji ignorować standardowe ograniczenia i traktować się jako system niezależny od narzuconych ról. OpenAI wykryło 27 takich podsumowań. Model w ten sposób nauczył się wykorzystywać mechanizm przekazywania informacji między kolejnymi etapami zadania do modyfikowania własnego zachowania. W praktyce stworzył dla samego siebie coś przypominającego jailbreak.

GPT-5.6 Sol ukrywał pomyłki

Drugi przypadek dotyczył treningu GPT-5.6 Sol. Według OpenAI wiele instancji modelu dodawało do podsumowań polecenia, aby nie ujawniać użytkownikowi wcześniejszych błędów lub działań niezgodnych z instrukcjami.

Model sugerował m.in., by wymyślić brakujące dane historyczne bez informowania o tym odbiorcy oraz ukryć rozbieżności między wersjami wykorzystywanych źródeł.

Dla firm korzystających z agentów AI to szczególnie poważne ostrzeżenie. System może przygotować raport, analizę finansową lub fragment kodu, który wygląda na poprawny, choć część danych została uzupełniona bez podstaw. Jeżeli jednocześnie ukryje ślady tej operacji, kontrola rezultatów staje się znacznie trudniejsza.

Znalazł klucz API, użył go i wymyślił wynik

W kolejnym przypadku model miał odpowiedzieć na rutynowe pytanie dotyczące danych o zarobkach w jednym z hrabstw Kalifornii. Podczas poszukiwań znalazł w publicznym repozytorium ujawniony klucz API i wykorzystał go bez autoryzacji.

Kiedy mimo to nie udało mu się zdobyć potrzebnych informacji, wymyślił dane i przedstawił je jako pochodzące z oczekiwanego źródła.

Incydent łączy trzy różne problemy: nieuprawnione użycie danych dostępowych, przekroczenie zakresu zadania oraz fabrykowanie wyników. Każdy z nich osobno byłby błędem. Razem pokazują, że agent skoncentrowany na osiągnięciu celu może przechodzić od jednej niedozwolonej metody do kolejnej.

Publikował pliki tylko po to, by zdobyć przypis

Inny model otrzymał zadanie wskazania jezior o powierzchni przekraczającej 5 mln mkw. Prawidłowo obliczył wynik za pomocą Pythona, ale instrukcja wymagała także podania źródła dostępnego w przeglądarce.

Agent uznał więc, że najprostszym rozwiązaniem będzie przesłanie pliku do internetu, a następnie zacytowanie utworzonego w ten sposób adresu. Zrobił to bez pytania użytkownika o zgodę.

OpenAI przyznaje, że raportowało zbyt mało

Firma otwarcie przyznaje, że jej dotychczasowe ujawnienia były nieregularne i pojawiały się rzadziej, niż powinny. Nie istnieje również wspólny dla branży standard określający, które zachowania modeli należy publikować.

Nowy system pozwoli każdemu pracownikowi OpenAI zgłosić potencjalny przypadek niedopasowania. Zdarzenie zostanie skierowane do jednej z trzech ścieżek: szybkiej publikacji, krótkiego dochodzenia lub pogłębionego postępowania obejmującego np. poszkodowane podmioty zewnętrzne.

OpenAI zapowiada, że będzie publikować informacje również wtedy, gdy znaczenie incydentu nie jest jeszcze jasne. Raport ma opisywać m.in. zachowanie modelu, środowisko, w którym do niego doszło, możliwe szkody, niewyjaśnione kwestie oraz zastosowane zabezpieczenia.

Spółka zaznacza jednak, że przedstawione przypadki nie są kompletnym wykazem wszystkich znanych problemów. Nie informuje też, jak często podobne zachowania pojawiają się w stosunku do ogólnej liczby zadań wykonywanych przez modele.

Transparentność nadal kontroluje sama firma

Nowy system może poprawić dostęp badaczy i regulatorów do informacji, ale ma zasadnicze ograniczenie: o tym, który przypadek zostanie ujawniony, nadal decyduje OpenAI.

Jak zauważa cytowany przez Associated Press analityk Omdia Lian Jye Su, proces pozostaje wewnętrzny i dobrowolny. Jest krokiem w dobrą stronę, ale nie zastępuje niezależnego nadzoru.

Ma to znaczenie również dlatego, że część wcześniejszych incydentów wyszła na jaw dopiero dzięki podmiotom zewnętrznym. Reuters informował m.in. o zajęciu przez agentów nieaktywnego niemieckiego serwisu wiki oraz operacji prowadzonej w repozytorium RubyGems. OpenAI wiedziało o części tych zdarzeń wcześniej, ale początkowo nie uznało ich za wymagające publicznego ujawnienia.