Sam Altman: „Nie wiem nawet, jak dramatycznego słowa użyć”. Szef OpenAI ostrzega przed nową falą cyberataków

– Cyberbezpieczeństwo... Nie wiem nawet, jak dramatycznego słowa użyć, ale problem, który się do nas zbliża, nadal nie jest traktowany wystarczająco poważnie przez liderów organizacji, państwa ani pojedyncze osoby – powiedział Sam Altman podczas spotkania ze studentami Stanford Graduate School of Business.

Szef OpenAI odpowiadał na pytanie o to, jak przedsiębiorcy powinni przygotować się na zagrożenia związane ze sztuczną inteligencją. Spośród wielu potencjalnych problemów wskazał właśnie cyberbezpieczeństwo. Jego zdaniem rozwój AI może całkowicie zmienić sposób przeprowadzania cyberataków, a firmy nie doceniają tempa, w jakim rosną możliwości tej technologii.

AI znajdzie błędy, których hakerzy dotąd nie potrafili wykryć

Altman przypomniał reakcję branży technologicznej na możliwości modeli AI w wykrywaniu luk bezpieczeństwa. Nawiązał do tegorocznego zamieszania wokół modelu Mythos firmy Anthropic. Gdy okazało się, że sztuczna inteligencja potrafi znajdować błędy w oprogramowaniu, organizacje zaczęły je usuwać. Według Altmana wiele osób potraktowało jednak ten problem tak, jakby lista możliwych do wykrycia luk była ograniczona.

Tymczasem modele AI nadal się rozwijają. – Mogą prawdopodobnie znajdować szalone błędy, wykraczające poza nasz dotychczasowy sposób myślenia o tym, co potrafi zrobić haker. Nawet na poziomie sprzętu – ostrzegał. Oznacza to, że coraz bardziej zaawansowane systemy mogą odkrywać podatności, których wcześniej nie brano pod uwagę podczas projektowania zabezpieczeń.

Dla przedsiębiorców problem nie ogranicza się do firm technologicznych. Luki mogą dotyczyć oprogramowania, systemów firmowych, urządzeń sieciowych czy infrastruktury, od której zależy codzienna działalność przedsiębiorstwa. AI może pomagać specjalistom w znajdowaniu i usuwaniu błędów, ale podobne możliwości mogą wykorzystać również cyberprzestępcy.

Samo naprawianie luk może nie wystarczyć

Najbardziej niepokojąca deklaracja Altmana dotyczy przyszłości ochrony systemów informatycznych. – Nie sądzę już, że będziemy w stanie po prostu naprawić wszystkie błędy. Myślę, że będziemy musieli całkowicie zmienić model obrony – powiedział.

Dziś firmy regularnie aktualizują oprogramowanie i usuwają wykryte podatności. Zdaniem szefa OpenAI w przyszłości może to nie wystarczyć, ponieważ AI będzie znajdować kolejne luki w coraz szybszym tempie.

Altman przewiduje, że konieczne okaże się wykorzystanie tej samej technologii do budowy nowego rodzaju ochrony. Mówił o systemach obronnych opartych na AI, które mogłyby przeciwdziałać zagrożeniom ze strony coraz inteligentniejszych modeli. Nie przedstawił jednak szczegółowego rozwiązania ani terminu jego wdrożenia. – To ogromny problem bezpieczeństwa i jestem nieco zdumiony, jak stosunkowo mało uwagi mu się poświęca – stwierdził.

Specjaliści alarmują, ale zarządy firm tracą zainteresowanie

Altman zwrócił uwagę na rozbieżność między reakcją ekspertów ds. cyberbezpieczeństwa a podejściem osób zarządzających organizacjami. Według niego specjaliści odpowiedzialni za ochronę systemów nadal dostrzegają powagę zagrożenia. Tymczasem wielu liderów firm przestało poświęcać mu tyle uwagi, co wcześniej.

– Specjaliści od bezpieczeństwa nadal są przerażeni, dyrektorzy odpowiedzialni za cyberbezpieczeństwo również. Ale ogólnie rzecz biorąc, większość liderów organizacji w pewnym stopniu przeszła już nad tym do porządku dziennego – mówił. To istotna uwaga z perspektywy przedsiębiorców. Za bezpieczeństwo informatyczne odpowiadają nie tylko zespoły IT. To zarządy decydują o budżetach na ochronę, modernizację systemów czy audyty.

Jeśli AI przyspieszy wykrywanie podatności, firmy mogą potrzebować nie tylko nowych narzędzi, ale także szybszego reagowania na informacje o zagrożeniach.

Nawet OpenAI obawia się udostępnienia swojego najlepszego modelu

Skala potencjalnych zagrożeń wpływa również na decyzje samego OpenAI. Podczas spotkania Altman przyznał, że jego firma nie mogłaby w najbliższym czasie odpowiedzialnie udostępnić wag swojego najlepszego wewnętrznego modelu AI. Ich publikacja pozwoliłaby innym podmiotom samodzielnie uruchamiać ten system. Szef OpenAI uważa, że wcześniej musiałby zmienić się między innymi sposób zabezpieczania internetu przed cyberatakami.

To pokazuje, że dyskusja o bezpieczeństwie AI dotyczy nie tylko użytkowników technologii, ale także jej producentów. Altman nie ogłosił, że nadchodzi konkretny, zaplanowany cyberatak. Ostrzegł jednak przed rozwojem możliwości, które mogą zmienić skalę zagrożeń dla firm.