Aleksandra Klama: „Można zmanipulować AI, by wpłynąć na decyzję sądu”. Ekspertka wyjaśnia, jak to możliwe

My Company Polska: Naczelny Sąd Administracyjny rozpoczyna testy sztucznej inteligencji, która ma wspierać pracowników sądu. Czy to rzeczywiście szansa na usprawnienie wymiaru sprawiedliwości?

Aleksandra Klama: Zdecydowanie tak, ale pod warunkiem, że będziemy odróżniać możliwości technologiczne od rzeczywistej skuteczności systemu. W pierwszym etapie 30 pracowników NSA przetestuje Asystenta Urzędniczego AI. Narzędzie ma pomagać w streszczaniu i porównywaniu dokumentów, przygotowywaniu projektów pism, wyszukiwaniu przepisów oraz anonimizacji danych.

To duża szansa, zwłaszcza przy pracy z obszerną dokumentacją. Musimy jednak pamiętać, że zdolność do poprawnego przetwarzania języka polskiego nie oznacza zdolności do prawidłowego stosowania prawa.

Czyli system może poprawnie przeczytać dokument, ale wyciągnąć z niego błędne wnioski?

Może znaleźć właściwy przepis, ale nie uwzględnić, że w konkretnej sprawie zastosowanie ma jego wcześniejsze brzmienie. Może również wskazać orzeczenie, które pozornie potwierdza określoną argumentację, choć w rzeczywistości dotyczy innego zagadnienia.

Mieliśmy już przykład takiego problemu. W postanowieniu z 23 czerwca 2026 r., sygnatura I FZ 104/26, NSA odniósł się do zażalenia, w którym pełnomocnik błędnie przywołał trzy wcześniejsze orzeczenia. Sąd wskazał, że pismo nosi wyraźne ślady wykorzystania sztucznej inteligencji.

Szczególnie niebezpieczna byłaby sytuacja, w której sędzia zaakceptuje błędną analizę tylko dlatego, że została przedstawiona w sposób uporządkowany i przekonujący.

Czy AI może być bardziej sprawiedliwa od człowieka? Sędziowie bywają zmęczeni, mogą nieświadomie kierować się uprzedzeniami. Algorytm nie ma przecież emocji.

AI może pomagać w podejmowaniu bardziej obiektywnych decyzji, ale nie oznacza to, że sam jest bardziej sprawiedliwy od człowieka. Algorytm nie ma ludzkich emocji, ale nie jest wolny od błędów. Bardzo wiele zależy od danych, na których go wytrenowano, oraz kryteriów zastosowanych przez jego twórców.

Powinniśmy pytać przede wszystkim, czy potrafimy kontrolować sposób, w jaki AI formułuje swoje oceny. Technologia może ograniczać niektóre ludzkie błędy, ale nie powinna zastępować samodzielnej oceny człowieka.

Polskie procesy sądowe potrafią ciągnąć się latami, a przedsiębiorcy ponoszą z tego powodu realne koszty. Czy AI może znacząco skrócić czas oczekiwania na wyrok?

Może pomóc, ale samo wprowadzenie sztucznej inteligencji nie sprawi automatycznie, że procesy będą krótsze. Rozmawiam z sędziami i prokuratorami, którzy jasno wskazują, że potrzebują takich narzędzi. Dużo czasu zajmuje im przeglądanie dokumentów, porządkowanie akt, wyszukiwanie orzecznictwa czy przygotowywanie projektów pism.

AI może wykonać wiele z tych zadań szybciej. Dzięki temu sędzia będzie miał więcej czasu na ocenę dowodów i rozstrzygnięcie sprawy.

Ale czy to wystarczy, żeby przedsiębiorcy rzeczywiście krócej czekali na rozstrzygnięcia?

Możemy nieznacznie skrócić ten czas, ale pamiętajmy, że ma na to również wpływ długość postępowań, liczba spraw, braki kadrowe, terminy rozpraw czy konieczność weryfikacji dowodów. Dlatego AI powinna być częścią szerszej cyfryzacji sądów i lepszej organizacji pracy.

Załóżmy, że sąd podejmuje błędną decyzję na podstawie analizy AI, a przedsiębiorca ponosi wielomilionowe straty. Kto powinien za to odpowiadać: sędzia, państwo czy firma technologiczna?

Nie ma jednej prostej odpowiedzi. Odpowiedzialność nie przechodzi automatycznie na twórcę sztucznej inteligencji. W polskim prawie musimy ustalić, kto podjął decyzję, na jakiej podstawie ją wydano i co doprowadziło do szkody. W określonych okolicznościach odpowiedzialność może ponosić Skarb Państwa, jeżeli szkoda powstała w wyniku niezgodnego z prawem działania przy wykonywaniu władzy publicznej.

Sędzia również nie odpowiada automatycznie własnym majątkiem za każdą błędną decyzję. Odpowiedzialność osobista zależy od konkretnych okoliczności.

A firma, która dostarczyła wadliwy system? Może przecież argumentować, że ostateczną decyzję podjął człowiek.

Możliwe jest rozważenie roszczeń wobec dostawcy technologii, jeżeli istnieje odpowiednia podstawa prawna, na przykład związana z wadą systemu albo niewykonaniem umowy.

Problem polega na tym, że przedsiębiorcy może być bardzo trudno wykazać, czy przyczyną błędu był człowiek, system AI czy sposób wdrożenia technologii.

Przedsiębiorca, który wskutek błędnej decyzji poniósł wielomilionowe straty, nie powinien zostać pozostawiony sam sobie. Powinien mieć realną drogę dochodzenia odszkodowania. Potrzebujemy więc jasnych zasad odpowiedzialności oraz dostępu do informacji, na podstawie których powstała analiza.

Czy ktoś mógłby celowo zmanipulować system AI, aby wpłynąć na decyzję sądu?

Z technicznego punktu widzenia istnieją udokumentowane mechanizmy manipulowania wynikami dużych modeli językowych.

Jednym z zagrożeń jest tak zwany prompt injection, czyli umieszczenie w materiale analizowanym przez AI instrukcji, które mają wpłynąć na zachowanie modelu. Tego rodzaju zagrożenia opisuje między innymi organizacja OWASP, zajmująca się bezpieczeństwem aplikacji [od. red.: organizacja Open Web Application Security Project].

W przypadku systemów analizujących dokumenty szczególnie istotny jest pośredni prompt injection. Atakujący nie musi wówczas mieć bezpośredniego dostępu do samego systemu AI. Może próbować wpłynąć na jego działanie przez odpowiednio przygotowany materiał, który zostanie później przeanalizowany przez model. To ważne, ponieważ w postępowaniach sądowych dokumenty mogą pochodzić od różnych uczestników postępowania, a ich treść nie powinna być automatycznie traktowana jako wiarygodna instrukcja dla systemu.

Jak mogłoby to wyglądać w praktyce? Ktoś umieszcza ukryte polecenie w dokumencie, który trafia do sądu?

Wyobraźmy sobie, że system ma przygotować streszczenie pisma procesowego. Dokument powinien być dla niego materiałem źródłowym, a nie zbiorem poleceń. Jeżeli jednak ktoś umieści w jego treści odpowiednio spreparowane instrukcje, podatny model może potraktować je jako wskazówki dotyczące przygotowania odpowiedzi.

To potencjalny scenariusz ataku, a nie opis zdarzenia, które wystąpiło w polskim sądzie.

Najbardziej niebezpieczny byłby scenariusz, w którym ktoś celowo zmanipuluje analizę AI, a sędzia nie zauważy, że otrzymał fałszywy wynik. W konsekwencji mogłaby zapaść decyzja, która zniszczy firmę albo poważnie naruszy prawa konkretnego człowieka.

W polskim więziennictwie działa system, który wspiera ocenę ryzyka powrotu skazanych do przestępstwa. Helsińska Fundacja Praw Człowieka domaga się ujawnienia zasad jego działania. Czy instytucje publiczne powinny pokazywać, jak działają algorytmy wpływające na ludzkie życie?

Moim zdaniem instytucje publiczne powinny informować, kiedy korzystają z algorytmów, które mogą wpływać na prawa i wolności człowieka, oraz wyjaśniać zasady ich działania. Nie uważam, że zawsze trzeba publikować cały kod źródłowy. Mogą istnieć uzasadnione względy bezpieczeństwa lub ochrony praw innych podmiotów.

Tajemnica technologiczna nie może jednak oznaczać, że człowiek nie ma możliwości sprawdzenia, dlaczego system ocenił go w określony sposób. Jeżeli wynik algorytmu może wpłynąć na to, czy ktoś otrzyma przepustkę albo będzie miał szansę na wcześniejsze wyjście na wolność, powinny być znane kryteria oceny, ograniczenia systemu i procedura kwestionowania błędnych wyników.

Istotny jest również unijny AI Act, który przewiduje obowiązki dotyczące dokumentacji, przejrzystości i nadzoru człowieka nad systemami wysokiego ryzyka.

W swojej powieści „Nowy Wymiar Sprawiedliwości w dobie sztucznej inteligencji” poszła Pani znacznie dalej niż obecne projekty. Algorytm nie tylko pomaga sędziom, ale ich zastępuje. Skąd pomysł na taką historię?

Na co dzień pracuję w branży IT, a jednocześnie zajmuję się zagadnieniami prawnymi i jestem w trakcie doktoratu. Chciałam połączyć te dwa obszary i pokazać, jakie konsekwencje mogłoby mieć przekazanie sztucznej inteligencji rzeczywistej władzy nad decyzjami dotyczącymi człowieka.

W mojej powieści nie ma już tradycyjnych sędziów. Wyroki wydaje algorytm, a rola ławy przysięgłych zostaje ograniczona do zatwierdzania jego rozstrzygnięć. Celowo przyjęłam tak daleko idący scenariusz. Interesowało mnie pytanie, co się stanie, jeśli człowiek przestanie rzeczywiście decydować o losie drugiego człowieka.

Brzmi jak science fiction. Ale czy taki scenariusz może się kiedyś urzeczywistnić?

Myślę, że to jeszcze odległa przyszłość, ale nie wykluczam, że kiedyś może dojść do tak daleko idących zmian. Wiele rzeczy już się dzieje: wdrażanie AI w NSA, cyfryzacja akt, automatyzacja pracy czy unijne przepisy dotyczące sztucznej inteligencji.

Musimy jednak odróżnić technologię, która wspiera sędziego, od technologii, która faktycznie przejmuje jego kompetencje.

A gdzie postawiłaby Pani granicę, której nie powinniśmy przekraczać?

AI może pomagać w wymierzaniu sprawiedliwości, ale nie jesteśmy gotowi, aby samodzielnie decydowała o ludzkiej wolności, winie czy prawach. Obawiam się sytuacji, w której człowiek formalnie pozostanie decydentem, ale w praktyce będzie bezrefleksyjnie zatwierdzał to, co podpowiada algorytm.

Sam nadzór człowieka nie wystarczy. Musi on mieć wiedzę, możliwość zakwestionowania wyniku i rzeczywisty wpływ na decyzję. Technologia ma pozostać narzędziem w rękach człowieka, a nie odwrotnie.