Polski profesor MIT opuszcza OpenAI. Zapowiada nowy projekt wokół AI i gospodarki

Profesor MIT Aleksander Mądry poinformował, że zdecydował się opuścić OpenAI. „Nie była to łatwa decyzja” - napisał w opublikowanym oświadczeniu, podkreślając, że czas spędzony w firmie był dla niego „doświadczeniem życia”. Dodał, że w OpenAI uczestniczył w „nadzwyczajnym wysiłku badawczym”, pracował nad bezpieczeństwem AI, wspierał wybrane projekty enterprise i obserwował z bliska co najmniej dwie technologiczne zmiany paradygmatu.

Mądry wskazał, że kolejnym etapem jego kariery będzie budowanie rozwiązań na styku sztucznej inteligencji i gospodarki. Według niego jednym z największych wpływów AI będzie transformacja tego, jak firmy „rozumieją, decydują i działają”. W oświadczeniu zaznaczył, że technologia OpenAI już zaczyna zmieniać ten obszar, ale teraz chce skoncentrować się na „wynajdywaniu i budowaniu tego, co powinno nadejść”.

Kim jest Aleksander Mądry

Aleksander Mądry jest profesorem informatyki w Massachusetts Institute of Technology, związanym z MIT EECS i CSAIL. Na swojej stronie akademickiej opisuje swoje zainteresowania badawcze jako obejmujące uczenie maszynowe, optymalizację oraz algorytmiczną teorię grafów, ze szczególnym naciskiem na tworzenie narzędzi decyzyjnych, które są niezawodne, dobrze rozumiane i możliwe do bezpiecznego wdrożenia w realnym świecie.

Do OpenAI dołączył w 2023 r., będąc na urlopie z MIT. W czerwcu 2023 r. informował, że jego praca w firmie koncentruje się na badaniach nad wdrażaniem systemów AI i analizą związanego z tym wpływu społecznego oraz gospodarczego.

W OpenAI Mądry kierował zespołem Preparedness, którego zadaniem była ocena zdolności najbardziej zaawansowanych modeli oraz identyfikacja ryzyk katastroficznych. OpenAI zapowiadało powołanie tej jednostki w 2023 r., wskazując, że pod kierownictwem Mądrego będzie ona łączyć ocenę możliwości modeli, ewaluacje oraz wewnętrzny red teaming dla systemów frontier AI.

Odejście po okresie zmian w zespole bezpieczeństwa

Decyzja Mądrego wpisuje się w szerszy kontekst zmian organizacyjnych w OpenAI. W lipcu 2024 r. Reuters informował, że Mądry został przesunięty do nowego projektu badawczego, a kierowanie zespołem Preparedness tymczasowo przejęli Joaquin Quiñonero Candela i Lilian Weng. Według OpenAI zmiana była częścią procesu ujednolicania prac nad bezpieczeństwem AI.

Preparedness pozostaje jednym z kluczowych elementów systemu zarządzania ryzykiem w OpenAI. W dokumentacji dotyczącej modeli o1 firma opisywała Preparedness Framework jako żywy dokument służący do śledzenia, oceniania, prognozowania i ograniczania katastroficznych ryzyk modeli frontier, m.in. w obszarach cyberbezpieczeństwa, CBRN, perswazji oraz autonomii modeli.