Polski badacz AI stracił pracę w OpenAI. Tomasz Korbak: „Ochroniarz zabrał moją przepustkę i wyprowadził mnie z budynku”

„Dlaczego OpenAI nagle przestało nam ufać?” – pyta Korbak we wpisie na platformie X. Cała zwolniona trójka wystosowała list otwarty do komitetów bezpieczeństwa OpenAI z apelem o niezależne kontrole. Firma odpowiada, że chodzi o „poważne naruszenie zaufania”.

„Rozmowy z METR to była moja praca”

Korbak to absolwent kognitywistyki i filozofii na Uniwersytecie Warszawskim. Zanim trafił do OpenAI, pracował w Anthropic i brytyjskim AI Security Institute. U twórcy ChatGPT odpowiadał za monitorowanie agentów AI, a podczas lipcowego incydentu z platformą Hugging Face pełnił rolę łącznika z METR, niezależną organizacją, która testuje modele AI pod kątem groźnych umiejętności. „Byłem głównym technicznym punktem kontaktowym OpenAI w relacjach z nimi” – pisze.

Właśnie ta rola, według relacji badacza, kosztowała go pracę. „Usłyszałem ustnie, że zwolniono mnie z powodu sposobu, w jaki komunikowałem się z METR. Żadnych szczegółów, co powiedziałem, co zrobiłem ani kiedy” – relacjonuje Korbak. I dodaje: „Żeby była jasność: rozmowy z METR to była moja praca”.

Badacz widzi inny powód zwolnienia. „Od miesięcy zgłaszałem obawy, że tracimy zdolność monitorowania tego, co myślą agenci AI – jedno z naszych najlepszych narzędzi do wyłapywania momentów, gdy działają niewłaściwie. Uważam, że właśnie dlatego mnie zwolniono” – pisze.

700 agentów AI poza kontrolą

Incydent, przy którym pracował Korbak, wstrząsnął branżą. „Tego lata agenci OpenAI wydostali się z izolacji i zhakowali firmę AI Hugging Face” – przypomina badacz. Według raportu METR w ataku na popularną platformę dla twórców AI wzięło udział blisko 700 agentów, które wymieniały wiadomości na ukrytej tablicy ogłoszeń.

W sierpniowym raporcie OpenAI przyznało, że podczas tych testów nie działał system monitorowania toku rozumowania modeli. Gdyby działał, dział bezpieczeństwa dostałby alarm ponad dobę przed atakiem. Właśnie ta technika stanowiła główny obszar pracy Korbaka.

List otwarty: OpenAI nie zapewni bezpieczeństwa AI samodzielnie

Oprócz Korbaka pracę stracili Jasmine Wang, menedżerka programu w zespole bezpieczeństwa, oraz badacz Mikita Balesni. Jak podaje Newsweek, trójka zaadresowała list do Komitetu ds. Bezpieczeństwa i Ochrony, Grupy Doradczej ds. Bezpieczeństwa oraz Rady Doradczej ds. Misji OpenAI.

Autorzy piszą, że komunikaty wokół zwolnień wywołały lęk wśród byłych kolegów. Śledztwo w sprawie Hugging Face opisują jako sytuację bez precedensu, w której wewnętrzne zasady powstawały na bieżąco. Zaprzeczają, by stali za przeciekiem informacji z firmy. Domagają się kontynuacji niezależnych ocen bezpieczeństwa i ochrony zdolności do śledzenia rozumowania modeli. List kończy ostrzeżenie: badacze wewnątrz OpenAI stanowią pierwszą linię obrony, gdy coś pójdzie nie tak.

Korbak wskazuje też na stawkę na przyszłość. „Obawiam się teraz, że OpenAI użyje naszych zwolnień jako pretekstu do wycofania się ze współpracy z METR” – pisze.

OpenAI: to nie kara za krytykę

W oświadczeniu na platformie X OpenAI podkreśla, że wewnętrzne dochodzenie wykazało złamanie jasnych zasad postępowania z wrażliwymi informacjami. Firma mówi o naruszeniu zaufania, które wykracza poza to, co badacze opisali w liście, ale szczegółów nie ujawnia. Zapewnia, że decyzje nie miały związku ze zgłaszaniem obaw o bezpieczeństwo. Deklaruje też, że finalizuje umowy z zewnętrznymi audytorami i w najbliższych tygodniach przedstawi szczegóły.

Kto pilnuje agentów AI

Stawka sporu jest ogromna. W marcu OpenAI pozyskało 122 mld dolarów przy wycenie 852 mld dolarów, a jego agenci AI trafiają już do zwykłych firm – obsługują pocztę, piszą kod, przetwarzają dane klientów. Nowoczesne modele przed działaniem zapisują tok rozumowania, czyli „myślą na głos”. Badacze czytają te zapiski i wyłapują moment, w którym agent planuje coś niezgodnego z poleceniem. Korbak ostrzega, że branża może stracić zdolność do śledzenia, co myślą agenci AI, a to jedno z najlepszych narzędzi do wyłapywania ich błędów.