Współzałożyciel OpenAI zakłada nowy startup. Chce zadbać o bezpieczeństwo sztucznej inteligencji

Sutskever, opuścił OpenAI, czyli producenta Chata GPT w zeszłym miesiącu, zaraz po tym jak rozwiązany został dowodzony przez niego zespół odpowiedzialny za ograniczenie długoterminowego ryzyka wynikającego z rozwoju sztucznej inteligencji. 

Nowy projekt 

W środę w swoim poście w mediach społecznościowych napisał, że wraz z dwoma współzałożycielami – Danielem Grossem i Danielem Levy – stworzył Safe Superintelligence. Celem startupu jest bezpieczne rozwijanie "superinteligencji" - to odniesienie do systemów sztucznej inteligencji, które są mądrzejsze od ludzi.

Jednocześnie, oznajmił, że jego firma nie będzie się rozpraszać "kosztami ogólnymi zarządzania czy cyklami produktowymi", a zgodnie z jej modelem biznesowym praca nad bezpieczeństwem i ochroną będzie "izolowana od krótkoterminowych nacisków komercyjnych".

Firma będzie mieć swoje siedziby w Palo Alto oraz Tel Avivie. Ma zamiar pozyskać najbardziej utalentowanych badaczy i inżynierów.

I am starting a new company: https://t.co/BG3K3SI3A1

— Ilya Sutskever (@ilyasut) June 19, 2024

Polska zmiana

W OpenAI Sutskever wspólnie kierował zespołem skupionym na bezpiecznym rozwijaniu sztucznej, znanej jako sztuczna inteligencja ogólna (AGI). Kiedy opuścił OpenAI, powiedział, że ma plany dotyczące "bardzo osobistego" projektu, ale nie podał wtedy żadnych szczegółów.

Sutskever był częścią grupy, która w zeszłym roku podjęła nieudaną próbę usunięcia Altmana. Trzęsienie ziemi w zarządzie, którego Sutskever później żałował, doprowadziło również do okresu wewnętrznych problemów koncentrujących się na tym, czy liderzy OpenAI przedkładali możliwości biznesowe nad bezpieczeństwo AI. Kilka dni po jego odejściu, współprowadzący jego zespół Jan Leike również zrezygnował i skrytykował OpenAI za to, że bezpieczeństwo "zeszło na drugi plan na rzecz błyszczących produktów". OpenAI ogłosiło później utworzenie komitetu ds. bezpieczeństwa i ochrony, ale został on wypełniony głównie osobami z wewnątrz firmy.

Po odejściu Sutskevera jego miejsce zajął Polak, Jakub Pachocki. To jeden z najważniejszych badaczy w OpenAI. - Jakub będzie naszym nowym Głównym Naukowcem. Jakub jest również bez wątpienia jednym z najwybitniejszych umysłów naszego pokolenia; jestem zachwycony, że przejmuje tutaj pałeczkę. Prowadził wiele z naszych najważniejszych projektów i jestem pewny, że poprowadzi nas do szybkiego i bezpiecznego postępu w realizacji naszej misji stworzenia AGI, które przyniesie korzyści wszystkim - poinformował wówczas Sam Altman.