Próby samobójcze mają za sobą już nawet 6-latki. Polska AI spróbuje im pomóc [WYWIAD]
Samurai Labs to deep tech z siedzibą główną w San Francisco i laboratorium w Gdyni, którego misją jest przeciwdziałanie przemocy w sieci. Zespół stworzył cyberstrażnika, który chroni dzieci oraz wspólnoty online przed przemocą.
Cyberstrażnik zapewnia bezpieczeństwo w grach i innych społecznościach (Discord, fora internetowe, edukacja online, e-sport), gdzie wykrywa i blokuje ewidentnie agresywne oraz krzywdzące komunikaty, edukując przy tym użytkowników, wspierając pozytywny normy komunikacji i deeskalując konflikty.
Obecnie interdyscyplinarny zespół Samurai Labs we współpracy z platformą edukacyjno-pomocową Życie Warte Jest Rozmowy pracuje nad wykorzystaniem algorytmów neurosymbolicznych, analizujących setki milionów konwersacji online, aby skutecznie pomóc osobom w kryzysie suicydalnym.
O tym jak sztuczna inteligencja może chronić nie tylko najmłodszych, rozmawiamy z Michałem Wroczyńskim - CEO Samurai Labs - oraz Patrycją Tempską, impact co-founder w Samurai Labs.
Będziemy rozmawiać o samobójstwach wśród najmłodszych?
Michał Wroczyński: Temat samobójstw wciąż jest tematem tabu. Większość z nas potrafi sobie wyobrazić, że jego dziecko może być narażone na kontakt z pedofilem bądź być cybernękane, ale nie dopuszczamy do siebie myśli o potencjalnym samobójstwie. Świadomość problemu powoli rośnie, ale wciąż mamy wiele do zrobienia, by ją budować.
Patrycja Tempska: Samobójstw wśród dzieci i młodzieży jest coraz więcej – w 2021 roku liczba zachowań samobójczych nastolatków wzrosła o 77 proc. W 2022 już we wrześniu było ich tyle, co w całym 2021 roku. Problem – i jego skala – stają się niestety coraz poważniejsze, zwłaszcza, że już także dzieci podejmują próby samobójcze.
Dzieci?
P: Tak, były przypadki w których nawet sześcio- czy siedmiolatkowie mieli myśli samobójcze i podejmowali próby odebrania sobie życia.
Skąd sześciolatek wie, jak popełnić samobójstwo?
P: Cyberprzestrzeń to z jednej strony możliwość wyrażania się, tworzenia wartościowych relacji w rozmaitych społecznościach czy rozwijania swoich zainteresowań, a z drugiej – miejsce, w którym w szczególności dzieci narażone są na treści niebezpieczne.
Informacje na temat metod można bez problemu znaleźć w internecie, powszechnym zjawiskiem jest dzielenie się nimi przez użytkowników w ramach dyskusji w portalach społecznościowych. Często użytkownicy ci po prostu dzielą się swoimi historiami, w które wplatają opisy metod prób samobójczych. Niestety efektem ubocznym może być zainspirowanie do danej metody innych osób w kryzysie.
Dlaczego młodym ludziom tak łatwo przychodzi wyszukiwanie informacji o sposobach na popełnienie samobójstwa, a nie potrafią znaleźć w internecie specjalistycznej pomocy?
M: Niestety istnieją specjalne fora czy grupy na łamach popularnych portali w sieci, w ramach których użytkownicy inspirują się do rozmaitych metod np. samouszkodzeń – naprawdę nie trudno na nie trafić. Tam są dostępne informacje o tym, jak się okaleczyć, by rodzice się nie zorientowali. Samurai Labs współpracuje m.in. z dr Halszką Witkowską, ekspertką suicydologii, pomysłodawczynią platformy Życie Warte Jest Rozmowy, która zwraca uwagę na m.in. gigantyczną samotność, w dzisiejszych czasach wręcz wszechobecną. Rodzice – z różnych względów – niedostatecznie uczestniczą w życiu własnych dzieci, często nie rozumieją ich problemów. Brakuje dialogu, uważności i wspólnego czasu, którego nie spędzamy wspólnie, bo wpatrujemy się w ekrany. A samobójstwo to przecież konsekwencja samotności – popełniamy je, gdyż bardzo cierpimy, nie wiemy, do kogo zwrócić się z prośbą o pomoc, wydaje się nam, że nie mamy dla kogo żyć. Osłabiające się relacje, pandemia, izolacja od życia szkolnego – to wszystko wpływa na rosnącą liczbę prób samobójczych wśród najmłodszych. W Stanach Zjednoczonych aż 20 proc. nastolatków doświadcza myśli samobójczych, a 9 proc. ma za sobą przynajmniej jedną próbę samobójczą.
Takie fora pomagające w samouszkodzeniach są legalne?
M: Ta kwestia – na razie – nie jest w żaden sposób uregulowana prawnie. Wielka Brytania robi ogromny krok, bo parlament opublikował już ważny dokument, mówiący, że otrzymasz bardzo wysoką karę finansową, jeśli twój serwis internetowy – bądź gra – nie zabezpiecza internautów przed materiałami związanymi z samookaleczeniami ani nie jest w stanie pomóc użytkownikom zagrożonych samobójstwem.
O jak wysokiej karze mówimy?
M: Do 10 proc. globalnych przychodów. To zbliżające się trzęsienie ziemi, gdyż dotyczy wszystkich: mediów społecznościowych, gier mobilnych, for internetowych. Takie działania są niezwykle istotne, bo zawsze najbardziej alarmującym wskaźnikiem jest liczba prób samobójczych wśród dzieci – w społeczeństwie musi się przecież dziać naprawdę źle, skoro najmłodsi podejmują tak dramatyczny krok, aby skończyć ze swoim życiem. Na myśli i próby samobójcze bardziej narażeni są też młodzi ludzie, którzy doświadczają cybernękania - osoba cybernękana ma ponad dwa razy większą szansę na doświadczenie myśli i zachowań samobójczych, niż osoba nie nękana. Dlatego też powinniśmy spojrzeć na szerszy kontekst problemu i jego złożoność w kwestii przyczyn.
Dlaczego hejt wśród najmłodszych stał się aż tak powszechny? Historie opowiadane przez nauczycieli bywają wręcz przerażające.
P: Jako istoty społeczne jesteśmy podatni na to, jak zachowują się i co robią inni - często mamy do czynienia z naśladownictwem, a w kontekście zachowań samobójczych mówimy o tzw. „efekcie Wertera”. Na przykład, śmierci samobójcze celebrytów czy postaci publicznie znanych korelują ze wzrostem liczby prób samobójczych. Z drugiej, pozytywnej strony, im częściej mówi się w przestrzeni publicznej o tym, że pomoc jest dostępna, o historiach nadziei i wyjścia z kryzysu, o działaniach prewencyjnych oraz profilaktyce zdrowia psychicznego - tym wyższe wskaźniki zwracania się o pomoc do linii wsparcia.
Z mową nienawiści czy hejtem jest podobnie, zwłaszcza, że w wielu miejscach cyberprzestrzeń nie jest moderowana na taką skalę, na jaką powinna być. Kiedy dzieciaki funkcjonują na codzień wśród ataków, przekleństw, gróźb, szantaży – a takie rzeczy są na porządku dziennym chociażby w grach – to niejako przyswajają tego typu zachowania, bo wydają się one akceptowalne ze względu na ich nasilenie. Ponadto coraz powszechniejsze stają się radykalizacja czy ekstremizm, na które młodzież jest szczególnie narażona. Prof. Michał Bilewicz przeprowadził badania mówiące, że młodzi ludzie czerpiący informacje na temat świata wyłącznie z internetu, przestają postrzegać mowę nienawiści jako obraźliwą względem mniejszości.
M: Przemoc internetowa to zjawisko znane od dawna, ale właśnie dotarło do krytycznego punktu – obecne narzędzia do zwalczania jej po prostu przestały działać. Jak to współcześnie najczęściej wygląda? Jeśli chcesz zgłosić nieodpowiednie zachowanie – np. w grze – to musisz przejść odpowiednią procedurę. Wiesz, ilu internautów zgłasza szkodliwe treści? Z różnych raportów wynika, że zdecydowanie mniej niż połowa użytkowników.
Bo takie zgłaszanie po prostu nie działa. Wielokrotnie próbowałem interweniować na Facebooku, ale w 99 proc. przypadkach odbijałem się od ściany.
M: Ostatnio na pewnej dużej platformie społecznościowej próbowaliśmy zgłosić użytkownika fantazjującego o dokonaniu masowej strzelaniny w szkole. Otrzymałem odpowiedź od platformy, że nie zareagują, ponieważ komentarz nie naruszył standardów ich społeczności. Różne serwisy korzystają ze sztucznej inteligencji do wyłapywania tego typu zagrożeń, ale na końcu każdego procesu zawsze jest człowiek. Moderator nierzadko musi zająć się kilkuset sprawami w godzinę, więc jest po prostu przeciążony. Jako Samurai Labs chcemy złamać ten paradygmat – mocno wierzymy, że trzeba zapobiegać, a nie leczyć.
Jakie sygnały powinny mnie zaalarmować, że moje dziecko doświadcza internetowego hejtu?
P: Myślę, że trzeba aktywnie wkraczać do cyberprzestrzeni, w której syn czy córka się udzielają, bo to daje pewien ogląd treści, z którymi dziecko może mieć do czynienia. Powinniśmy być wyczuleni na każdą zmianę w zachowaniu – jeśli dotychczasowe pasje przestają sprawiać dziecku radość, dziecko staje się wycofane czy doświadcza objawów fizycznych - bólów brzucha, głowy, problemów ze snem - to powinna nam się zapalić czerwona lampka. Najmłodsi – za sprawą powszechności smartfonów – mogą potencjalnie doświadczać cybernękania przez 24 godziny na dobę, więc nawet dom przestał być bezpieczną przystanią, tak jak mogło to być w przypadku nękania na szkolnym boisku.
Wydaje mi się, że skontrolowanie ośmio-, dziewięciolatka jest jeszcze stosunkowo proste. Ale wyobraźmy sobie, że przeglądamy media społecznościowe buntującego się nastolatka. To przecież przyniesie odwrotny skutek.
P: Kluczowa w relacji z dzieckiem czy też nastolatkiem jest rozmowa i uważność na jego potrzeby i problemy. Objawy, które wspomniałam mogą być objawami szeregu innych problemów, niekoniecznie związanych z problemami w sieci.
Polecałabym regularne poruszanie tematyki związanej z problemem, proaktywne pytania czy doświadczyłeś/doświadczyłaś czegoś niepokojącego. Raczej nie poleganie na metodzie jednego ciężkiego wykładu. Często młodzi ludzie więdzą więcej na temat cybernękania niż starsze pokolenia. Dobrym pomysłem może być wykorzystanie popkulturalnych wątków poruszających daną tematykę, bo to zwykle świetnie trafia do nastolatków.
M: Moim zdaniem absolutnie nie chodzi o kontrolę, bo tej tak naprawdę nigdy nie będziemy mieć. Relację z dzieckiem trzeba budować w taki sposób, że jeśli coś je zaniepokoi, to ono samo przyjdzie do nas z prośbą o radę, pomoc. To oczywiście bardzo trudne, gdyż wymaga zrozumienia, że permanentna kontrola nie jest rozwiązaniem, wręcz przeciwnie. Jest jeden kraj, gdzie spada odsetek cybernękanych – to Finlandia.
Dlaczego akurat Finlandia?
M: Tam postawiono na edukację i programy prewencyjne w kwestii cybernękania, a szkoły są niezależne od państwa i pracują dla samorządów. Coraz więcej rządów na całym świecie bierze sprawy w swoje ręce i tak tworzy prawo, by jak najlepiej chronić najmłodszych.
Partnerstwo jest bardzo ważne, tylko jak dotrzeć do rodzica? Często jest tak, że o wszelkie zło tego świata obwiniamy technologię. „Moje dziecko ma problemy, bo zbyt często korzysta ze smartfona”. A wy – mówiąc o chroniącej sztucznej inteligencji – chcecie niejako przekonać rodzica, że paradoksalnie warto dziecko jeszcze bardziej pchnąć w ten świat nowych technologii.
M: Zawsze podkreślamy, że bardzo ważna jest relacja dziecko-rodzic. Natomiast problem jest na tyle szeroki i złożony, że rolę w jego rozwiązaniu powinni odgrywać zarówno rodzice, szkoły, instytucje rządowe z mądrymi programami prewencyjnymi oraz technologie, kiedy dzieje się coś poważnego i chcemy o tym wiedzieć w czasie rzeczywistym.
My wkraczamy, kiedy prostu dzieje się źle w sieci. Niektórzy twierdzą, że media społecznościowe wypełniają wszechobecną pustkę wywołaną niedostatecznymi relacjami w społeczeństwie. Musimy zaakceptować fakt, że znaczenie social mediów stało się tak ogromne. Wyzwaniem jest natomiast nasza reakcja na taki stan rzeczy.
Sztuczna inteligencja się nie myli? Nie każde użyte słowo „głupek” oznacza od razu hejt.
M: Obecne systemy, oparte o paradygmat tzw. "drugiej fali AI", same uczą się na podstawie oznaczonych dla systemu danych - setek tysięcy czy nawet milionów przykładów danego zachowania. Problem jest taki, że ilość danych dotyczących pedofilów czy osób z zachowaniami samobójczymi nie jest wystarczająco duża. Na ten moment statystycznej sztucznej inteligencji nie da się w pełni wytrenować - zgłasza ona liczne fałszywe alarmy. Dlatego w Samurai Labs łączymy uczenie się z danych z wnioskowaniem na podstawie wiedzy (metody statystyczne z symbolicznymi). Jak już powiedziałem, danych jest mało, więc korzystamy z doświadczenia suicydologów, psychologów, lekarzy, rodziców, którzy informują nas o pewnych mechanizmach. Dzięki tej wiedzy oraz kontekstowi dyskusji, jesteśmy w stanie wykrywać cybernękanie czy też intencje samobójcze w bardzo precyzyjny sposób.
No dobrze, wykrywacie potencjalne zagrożenie i co z tym robicie dalej?
P: W przypadku cybernękania i werbalnej agresji w pierwszej kolejności stawiamy na edukację. Przy pomocy interwencji odwołujących się do norm czy empatii staramy się pozytywnie wpływać na komunikację w danej przestrzeni online, przypominając o szacunku i komunikacji bez przemocy.
Jeżeli chodzi o wykrywanie intencji samobójczych, razem z suicydolożką dr. Halszką Witkowską oraz zespołem platformy edukacyjno-pomocowej, którą Halszka stworzyła - Życie Warte Jest Rozmowy - jesteśmy w trakcie opracowywania procedur interwencyjnych, mających na celu dostarczenie osobom w kryzysie jak najbardziej relewantnych i wspierających materiałów oraz bezpośredniego kontaktu do specjalistów, mających wyprowadzić daną osobę z ostrej fazy kryzysu.
To bardzo szczytne, co robicie, ale zastanawiam się, czy na razie wasze działania nie są taką „sztuką dla sztuki”. Dopóki nie wypracujecie odpowiednich procedur reagowania, niewiele z tego wyniknie.
P: Nasze modele codziennie wskazują nam ok. 80-120 osób, które na jednym z najbardziej znanych anglojęzycznych forów dyskusyjnych opisują swoje myśli i plany samobójcze. Stykając się codziennie z taką ilością ludzkich dramatów, wszyscy czujemy palącą potrzebę, aby realnie pomóc.
W przypadku werbalnej agresji przeprowadziliśmy już szereg badań, które wytyczyły nam szlaki dotyczące tego jak reagować skutecznie. Obszar pomocy osobom w kryzysie online jest wciąż terenem mało zbadanym, istnieje niewiele publikacji naukowych i programów badawczych dotyczących tego, jak wspierać skutecznie i dostarczać skalowalne wsparcie w przestrzeni online - z racji na wrażliwość zagadnienia powinniśmy poruszać się ostrożnie, przewidując konsekwencje rozmaitych interwencji oraz słów w niej użytych.
M: Sztuczna inteligencja w tym wypadku nie tylko pomaga nam docierać do najbardziej potrzebujących, ale też chronić udzielających pomocy i moderujących treści w sieci.
To znaczy?
M: Praca związana z moderacją treści online jest niezwykle wymagająca psychicznie. Bywa że moderatorzy mierzą się z syndromem stresu pourazowego, depresją, lękami. Bycie zanurzonym przez cały dzień w treści często drastyczne nie jest pracą dla ludzi - AI musi nas w tym obszarze wspomóc. Sami widzimy to w naszym zespole - którego część analizuje na co dzień mnóstwo szkodliwych komunikatów - jak ważna jest opieka, a także dobrowolność i wsparcie, jakie nalezy im zaoferować.
Co przeczytaliście najstraszniejszego?
M: Najgorsze są historie, jakimi dzielą się ludzie. Potworne cierpienie i przemoc, której doświadczyli.
P: Ostatnio natrafiłam na przejmującą historię chłopaka, który stracił bliską osobę w wyniku śmierci samobójczej. To stało się w trakcie braku kontaktu tej dwójki, który nastał na prośbę chłopaka ze względu na częste i zacięte konflikty w ich relacji. Trauma oraz myśli samobójcze, jakich doświadczył ten chłopak po śmierci przyjaciółki były dla niego nie do zniesienia.
Przejmujące i niepokojące są również wyznania na temat fantazji o zostaniu seryjnym czy też masowym mordercą - takich wyznań jest trochę w sieci, a portale społecznościowe, jak wspomniał Michał, często nie reagują.
Czy jesteśmy w stanie dojść do momentu, w którym w sieci będzie po prostu bezpiecznie? Czy już zawsze będziemy zajmować się wyłącznie gaszeniem pożarów?
M: Na pewno jesteśmy w stanie osiągnąć większą równowagę, pod warunkiem, że stale będziemy o nią walczyć, edukować. Musimy zwalczać ilość przemocy i radykalizacji, z naszymi działaniami będzie jednak jak z programami antywirusowymi – pojawią się nowe zagrożenia, w stosunku do których poprzednie rozwiązania przestaną być skuteczne. Internet z moderacją po fakcie, kiedy już wydarzyła się krzywda, zwłaszcza pod kątem zagrożeń dla najmłodszych czy osób publicznych – musi odejść do lamusa.
---
Potrzebujesz pomocy? Jesteś w kryzysie? Skorzystaj ze strony www.zwjr.pl lub zadzwoń pod bezpłatny numer 116 123 lub 22 484 88 01. To instytucje działające w całej Polsce, które oferują bezpłatną pomoc. Jeżeli istnieje niebezpieczeństwo, że bliska ci osoba wyszła z domu i może popełnić samobójstwo - zadzwoń na 112. Może się okazać, że dzięki temu uratujesz czyjeś życie.
English version HERE