Najdroższy pracownik w twojej firmie nie ma umowy i nikt nim nie zarządza

Microsoft wskazuje, że 78 proc. użytkowników AI przynosi do pracy własne narzędzia. ChatGPT, Claude, Copilot czy Gemini pojawiają się w firmach znacznie szybciej niż strategie i polityki bezpieczeństwa. Problem nie polega na samej technologii, ale na tym, że organizacje często nie wiedzą, jakie dane trafiają do modeli, kto odpowiada za wyniki i w których procesach AI już działa. Innymi słowy: największy projekt AI w wielu firmach już trwa. Rzecz w tym, że nikt nim nie zarządza. Twoje dane mogą być wszędzie.

Firmy kupują narzędzia. Wartość powstaje gdzie indziej

Problem nie polega na tym, że firmy mają złą technologię, ale na tym, że próbują rozwiązać problem organizacyjny narzędziem technologicznym. BCG szacuje, że jedynie 10 proc. wartości AI pochodzi z samego modelu, 20 proc. z technologii, a aż 70 proc. z ludzi, procesów i organizacji. To właśnie tłumaczy, dlaczego tak wiele projektów kończy się rozczarowaniem. 

Skala problemu jest jednak znacznie większa. 88 proc. organizacji deklaruje wykorzystanie AI, ale tylko 12 proc. prezesów raportuje jednocześnie wzrost przychodów i spadek kosztów. Innymi słowy: niemal wszyscy już wdrażają AI, ale niewielu potrafi zamienić ją na realny wynik biznesowy. Brak technologii nie jest więc problemem, ale brak modelu operacyjnego już tak. AI nie powinno funkcjonować jako „narzędzie do wszystkiego”. HR, finanse, sprzedaż czy development pracują na innych danych i ponoszą inne ryzyko. Jedna polityka dla całej organizacji zwykle nie działa.

Człowiek musi mieć prawo powiedzieć „stop”

Wiele firm deklaruje model human-in-the-loop, ale często sprowadza się on do kliknięcia przycisku „akceptuj”. Prawdziwy nadzór oznacza możliwość zakwestionowania odpowiedzi, zatrzymania procesu lub podjęcia innej decyzji. 

To wymaga jasnego podziału odpowiedzialności: kto zatwierdza wynik, kto odpowiada za błędy i kto monitoruje ryzyko. Bez właściciela AI szybko staje się ono problemem operacyjnym.

Najwyższy koszt AI nie znajduje się na fakturze

Większość firm patrzy na koszt licencji. Tymczasem realne wydatki obejmują również wykorzystanie modeli, integracje, czas pracowników, walidację odpowiedzi i poprawianie błędów. AI może działać jednocześnie drożej i gorzej. Jak to możliwe? 

Pracownik wrzucający do modelu kilkanaście dokumentów często otrzymuje mniej precyzyjne odpowiedzi przy wyższych kosztach. W wielu przypadkach lepsze rezultaty daje podział zadania na etapy i właściwe przygotowanie danych. Nie każde użycie AI ma dodatni bilans ekonomiczny. Czasami technologia jedynie przenosi pracę z wykonywania na sprawdzanie. Dodatkowym kosztem jest brak widoczności. W wielu firmach nie wiadomo, jakie dane trafiają do których narzędzi i w jakich procesach AI już uczestniczy. Tymczasem mail, research, CV, umowy, faktury czy dane finansowe niosą zupełnie różny poziom ryzyka i wymagają różnych zasad zarządzania - wykorzystanie AI również w procesach opartych na danych wrażliwych jest jak najbardziej możliwe i może być efektywne kosztowo. Wymaga jednak odpowiedniego doboru narzędzi, właściwej architektury oraz wdrożenia mechanizmów bezpieczeństwa dostosowanych do konkretnego przypadku użycia.

Kto właściwie kontroluje AI w firmie?

Polityka AI w PDF-ie nie zabezpiecza organizacji. Dojrzałe firmy nie pozwalają każdemu zespołowi łączyć się z AI w dowolny sposób. Zamiast tego budują warstwę pośrednią, przez którą przechodzi cały ruch AI w organizacji. Nie służy ona do monitorowania treści rozmów pracowników, lecz do egzekwowania zasad bezpieczeństwa i zgodności. Wiadomości pozostają szyfrowane i niedostępne dla organizacji, a jednocześnie działają tzw. guardrails – mechanizmy wykrywające niebezpieczne treści lub filtrujące dane osobowe i informacje wrażliwe, zanim opuszczą firmę. Taka warstwa pozwala również kontrolować koszty i prowadzić pełny rejestr zdarzeń wymagany przez regulacje. Bez niej każdy zespół integruje się osobno, firma traci widoczność i kontrolę, a bezpieczeństwo zależy wyłącznie od ostrożności każdego pracownika z osobna.

To szczególnie ważne w kontekście Shadow AI. IBM szacuje, że nieautoryzowane wykorzystanie AI może zwiększyć koszt naruszenia danych średnio o 670 tys. dolarów. Jednocześnie AI Act będzie wymagał wieloletniego przechowywania logów, a RODO nadal nakazuje minimalizację danych. Pogodzenie tych wymagań wymaga odpowiednio zaprojektowanej architektury.

To jak działać, żeby to działało?

Większość firm zaczyna od wyboru narzędzia. Tymczasem pierwszym krokiem nie powinien być zakup kolejnej licencji, ale zrozumienie, jak AI już dziś funkcjonuje w organizacji. Największym nieporozumieniem wokół AI jest przekonanie, że o sukcesie decyduje dostęp do najnowszej technologii. A to błąd. Dojrzałość AI zaczyna się wtedy, gdy organizacja potrafi odpowiedzieć na pięć pytań:

• Kiedy używamy AI?

• Po co jej używamy?

• Na jakich danych pracuje?

• Ile to kosztuje?

• Kto ponosi odpowiedzialność?

Firmy, które odpowiedzą na te pytania jako pierwsze, niekoniecznie będą miały najlepsze modele, ale bardzo możliwe, że jako jedyne będą dokładnie wiedziały, co ich AI robi, ile kosztuje i kto za nie odpowiada.

O Fabres

Fabres – Software Built with Nordic Precision to firma projektująca i wdrażająca rozwiązania oparte na generatywnej AI - agentów, automatyzacje i integracje - z naciskiem na bezpieczeństwo, kontrolę oraz zgodność z AI Act i RODO. Dotychczas działała głównie na rynkach skandynawskich, obecnie rozwija swoją ofertę również w Polsce. 

W ramach Fabres powstał projekt Norr AI, wspierający organizacje w budowie własnego zaplecza AI - od strategii i modelu operacyjnego po wdrożenia narzędzi, agentów i automatyzacji.

Jeśli potrzebujesz rzeczowej analizy swojego biznesu pod kątem działania AI, zgłoś się do nas – [email protected]

Autorem jest Dominik Twaróg, Senior Back-End Developer Fabres