Firmy projektują zabezpieczenia przed działaniami ludzi, ale pojawił się nowy użytkownik sieci - agent AI. Ekspertka Cloudera: firmy muszą zmienić zasady ochrony danych

Firmowe systemy bezpieczeństwa przez lata opierały kontrolę na tym, kto korzysta z danych, jakie ma uprawnienia i do których zasobów może uzyskać dostęp. Takie podejście uwzględniało przede wszystkim zachowania pracowników i administratorów.

Agenci AI zmieniają te reguły. W przeciwieństwie do człowieka nie muszą wykonywać kolejnych operacji ręcznie. Mogą analizować dane z różnych źródeł, komunikować się z wieloma aplikacjami i realizować zadania bez każdorazowej zgody pracownika.

Carolyn Duby, Field CTO i liderka ds. cyberbezpieczeństwa w Cloudera, zwraca uwagę na problem, który wykracza poza tradycyjne zagrożenia związane z wyciekiem informacji czy kradzieżą haseł. Ekspertka wskazuje, że większość mechanizmów bezpieczeństwa w przedsiębiorstwach powstała z myślą o zachowaniach ludzi. Agenci AI działają natomiast w zupełnie inny sposób. Mogą ujawnić słabości systemów, z którymi człowiek korzystający z tych samych zasobów nigdy by nie miał do czynienia.

Agent AI może przestrzegać zasad i nadal stanowić zagrożenie

Największy paradoks dotyczy uprawnień. Tradycyjne mechanizmy bezpieczeństwa mają przede wszystkim kontrolować dostęp do danych i systemów. Jeśli pracownik ma odpowiednie uprawnienia, może wykonać określone operacje.

W przypadku autonomicznego agenta AI sama zgoda na dostęp nie gwarantuje jednak bezpiecznego działania. - Agent AI może korzystać z prawidłowych danych uwierzytelniających i działać w granicach przyznanych uprawnień, a mimo to podejmować nieprzewidziane lub niepożądane działania - wskazuje Carolyn Duby w materiale Cloudera.

Wyobraźmy sobie firmę, która powierza agentowi AI obsługę zamówień. System ma dostęp do bazy klientów, stanów magazynowych i aplikacji finansowej. Każde z tych uprawnień ma biznesowe uzasadnienie. Problem może pojawić się wtedy, gdy agent połączy informacje z kilku systemów i samodzielnie wykona operację, której firma nie przewidziała. Nie musi przy tym kraść hasła ani przełamywać zabezpieczeń. Wystarczy, że wykorzysta dostęp, który przedsiębiorstwo samo mu przyznało. To hipotetyczny przykład, ale dobrze ilustruje problem, który opisuje ekspertka Cloudera.

61 proc. badanych przyznaje, że AI utrudnia zarządzanie danymi

Skalę problemu pokazują również wyniki badania “The Great AI Re-Architecture”, na które powołuje się Cloudera.

W regionie Azji i Pacyfiku 61 proc. respondentów przyznało, że integracja sztucznej inteligencji znacznie utrudniła skuteczne zarządzanie danymi. Z kolei 46 proc. wskazało wymogi dotyczące bezpieczeństwa danych, zarządzania nimi oraz zgodności z regulacjami jako główny czynnik, który skłania firmy do zmian w infrastrukturze AI.

Wyniki dotyczą regionu Azji i Pacyfiku, dlatego nie można automatycznie odnosić ich do polskich przedsiębiorstw. Pokazują jednak, że rozwój AI wymusza zmiany nie tylko w sposobie wykonywania pracy, ale również w zarządzaniu firmowymi zasobami.

Dotychczasowe zasady cyberbezpieczeństwa już nie wystarczą?

Carolyn Duby podkreśla, że przedsiębiorstwa nie powinny ograniczać działań do rozszerzania istniejących zabezpieczeń na kolejne narzędzia AI. Jej zdaniem firmy muszą ponownie przeanalizować całą architekturę bezpieczeństwa i uwzględnić autonomię agentów.

Nie oznacza to rezygnacji z dotychczasowych mechanizmów. Kontrola dostępu, ograniczanie uprawnień i weryfikacja użytkowników nadal mają znaczenie. Trzeba jednak uzupełnić je o rozwiązania, które pozwolą monitorować działania agentów i ograniczać skutki nieprzewidzianych operacji.

Ekspertka zwraca uwagę na zasadę Zero Trust, czyli „nigdy nie ufaj, zawsze weryfikuj”. Dotychczas firmy stosowały ją przede wszystkim wobec użytkowników, urządzeń i sieci. Teraz powinny objąć kontrolą również modele AI, dane, procesy oraz działania autonomicznych agentów.

Przedsiębiorstwa powinny między innymi przyznawać agentom uprawnienia tylko na czas realizacji konkretnego zadania, monitorować ich operacje oraz zapewnić możliwość awaryjnego zatrzymania systemu. Ważny jest też nadzór człowieka, który będzie mógł interweniować, gdy AI podejmie działania niezgodne z celem zadania.

Własna infrastruktura też nie rozwiązuje problemu

Część przedsiębiorstw próbuje ograniczyć ryzyko poprzez przenoszenie systemów AI z publicznej chmury do własnej infrastruktury. Według danych Cloudera w regionie Azji i Pacyfiku 63 proc. przedsiębiorstw przeniosło w ciągu roku przynajmniej część obciążeń AI do chmury prywatnej lub własnych centrów danych.

Taki model pozwala firmie zachować większą kontrolę nad informacjami. Nie eliminuje jednak zagrożeń związanych z błędami konfiguracji, przejęciem uprawnień czy nieprzewidzianymi operacjami agentów. - Private AI zmienia więc rodzaj zagrożeń, ale ich nie eliminuje - podkreśla Duby. Oznacza to, że przedsiębiorstwo musi zapewnić odpowiedni poziom ochrony niezależnie od tego, czy korzysta z publicznej chmury, prywatnego środowiska czy własnych serwerów.

Firmy muszą uwzględnić nowego użytkownika

Rozwój agentów AI wymaga od przedsiębiorstw zmiany dotychczasowego założenia: nie tylko człowiek podejmuje działania w firmowych systemach. Agent AI może wykonywać operacje na ogromną skalę, korzystać jednocześnie z wielu źródeł danych i działać bez bezpośredniego udziału pracownika. Dlatego kontrola jego tożsamości i uprawnień stanowi dopiero pierwszy etap ochrony. - Agent AI to nie po prostu pracownik, który działa szybciej - podkreśla Carolyn Duby.

Według ekspertki firmy powinny projektować zabezpieczenia tak, aby mogły na bieżąco kontrolować działania agentów, zatrzymywać niepożądane operacje i sprawdzać ich przebieg.

Nowe podejście nie polega więc na zastąpieniu zabezpieczeń przed ludzkimi działaniami. Przedsiębiorstwa muszą rozszerzyć zasady cyberbezpieczeństwa na nowy rodzaj użytkownika, którego zachowań nie da się oceniać wyłącznie według ludzkich wzorców.