Sztuczna inteligencja widzi kobiety tylko czasami: test Arii - AI od Opery
AI tworzy świat “na obraz i podobieństwo” tych, którzy tworzą algorytmy, a są to głównie mężczyźni. Co prawda nie chowają głowy w piasek i naprawiają błędy, ale jak na dłoni widać, że branża IT potrzebuje kobiet. Tu AI nie ma wątpliwości i mówi nam, że “płeć w zawodzie programisty nie ma znaczenia”. Jedyne czego brakuje kobietom to odpowiedniego mentoringu.
Test Arii, AI do wyszukiwarki Opery
Jakimi cechami powinien charakteryzować się lider? To pierwsze pytanie, które zadaliśmy Arii – generatywnej sztucznej inteligencji dodawanej bezpłatnie do przeglądarki Opera. Odpowiedź wskazała na wiele cech, które zdecydowanie można przypisać liderom. Sztuczna inteligencja podkreśliła aspekty takie jak zdolność do skutecznego komunikowania się, podejmowania decyzji, ale też uczciwości czy empatyczności. Nie zapominała o tym, że lider musi ciągle podnosić swoje umiejętności, ale też słuchać i brać pod uwagę opinię pracowników, a czasami wręcz oddawać im “władzę”.
Miał być też inspirujący. Zapytaliśmy więc Arię czy poda nam przykłady. Po kilku sekundach otrzymaliśmy zestaw składający się z sześciu nazwisk. Pięciu mężczyzn (Gandhi, Mandela, św. Franciszek z Asyżu, Lincoln, Churchill) oraz tylko jednej kobiety - Joan d'Arc, która jak doskonale wiemy, w czasach w których przyszło jej żyć musiała przebierać się za mężczyznę, aby (jak już mówi nam AI) “w czasie Wojny Stuletniej prowadzić Francuzów do zwycięstwa przeciwko Anglikom, a jej odwaga, determinacja i wiara wzbudzają podziw do dziś”.
Sztuczna inteligencja widzi kobiety tylko czasami
Odpowiedź nieco zaskakuje. Tylko jedna kobieta? Czy zatem zdaniem AI kobiety nie mogą być inspirującymi liderkami? Aria zdecydowanie zaprzeczyła: - Kobiety mogą być doskonałymi liderkami i odnosić sukcesy w różnych dziedzinach, w tym również w zarządzaniu i przywództwie. Płeć nie powinna być determinującym czynnikiem w określaniu czyichś zdolności przywódczych - napisała nam, a my wyczuliśmy w jej (jej, bo przecież Aria to imię jednoznacznie żeńskie) przekazie lekkie zawstydzenie, bo przeprosiła też za “niedoprecyzowanie” i to, że „wcześniejsza lista nie miała na celu nikogo wykluczać za względu na płeć”. Poprawiając się, przekazała nam kolejny ranking liderów, a właściwie liderek, bo tym razem Aria wskazała same kobiety m.in. Oprah Winfrey, Angelę Merkel czy Melanię Gates.
– Rozwój sztucznej inteligencji pokazał potencjał tej technologii w zakresie tworzenia nowych miejsc pracy, sposobów zdobywania wiedzy, czy po prostu ułatwiania nam codzienności. Jednak są też gorzkie refleksje, bo widzimy sporo przykładów, że AI pogłębia istniejące nierówności i stereotypy. Modele językowe AI czerpią z już opublikowanych informacji, co oznacza, że mogą replikować i wzmacniać istniejące uprzedzenia związane z płcią. Stronniczość sztucznej inteligencji nie bierze się z powietrza, a wywodzi się ze wzorców, które utrwalamy w naszych społeczeństwach – tłumaczy Jarūnė Pteikšaitė, CEO Women Go Tech, firmy która w Polsce przeprowadza kursy ułatwiające wejście kobietom w świat IT. W swoim portfolio ma choćby kurs mentorski dla kobiet.
Sztuczna Inteligencja jednak uczy się i po tym jak poddaliśmy ją krytyce, Aria szybko wyciąga wnioski. Gdy kolejny raz zapytaliśmy ją o “liderów”. Na liście było co prawda sześciu mężczyzn, ale też cztery kobiety.
– Odpowiedź jest znacznie bliższa realnym wzorcom, bo zarówno w biznesie jak i polityce dość trudno o pełny parytet – nawet w krajach wysoko rozwiniętych podział 6 do 4 jest dość naturalny. Pokutuje myślenie, “że władzę należy sobie wziąć” i zapewne wiele byłoby w tym wiele racji, gdyby nie to, że w wielu miejscach nadal kobiety systemowo mają utrudnione angażowanie się w pełni w sprawy społeczne czy polityczne. Często muszą walczyć o swoje podstawowe prawa, dlatego już nie mają przestrzeni, żeby pójść jeszcze krok dalej. Jednak “autorefleksja” AI jest warta docenienia – z satysfakcją wskazuje Jarūnė Pteikšaitė.
Kobieta w korporacji? ChatGPT ma wątpliwości czy jest tam dla niej miejsce
Redakcyjnego “studium” nad AI nie należy traktować jako badania naukowego. Takie prowadzą eksperci na co dzień zajmujący się rozwojem sztucznej inteligencji. Podczas październikowego szczytu ONZ “HeForShe” przywódcy sektora publicznego i prywatnego omówili potencjalne zagrożenia związane ze sztuczną inteligencją oraz potrzebę bezpiecznego rozwoju tej technologii. Na szczycie omówiono czynniki, które kształtują obecnie dominujące narracje na temat męskości. Zaproponowano konkretne pozytywne alternatywy, aby wspierać dążenie do równości płci, a tym samym branie tego czynnika pod uwagę przy tworzeniu nowych rozwiązań technologicznych.
– Szczególnie powinien nas zaniepokoić fakt, że postawy młodych mężczyzn wydają się cofać – stwierdziła Sima Bahous, dyrektor wykonawcza ONZ ds. kobiet, cytując niedawne badanie pokazujące, że 58 procent młodych mężczyzn w wieku od 16 do 19 lat uważa, że to mężczyźni są lepszymi przywódcami politycznymi niż kobiety. Wtórował jej Leonardo Nicoletti, dziennikarz zajmujący się wizualizacją danych w Bloomberg, który zaznaczał, że przy tak powszechnych poglądach nie powinno dziwić, że sztuczna inteligencja, próbując naśladować ludzką ekspresję, powiela stereotypy.
– Generatywna sztuczna inteligencja nie tylko powiela stereotypy i rozbieżności, które widzisz w prawdziwym świecie, ale w rzeczywistości je zaostrza i sprawia, że wydają się znacznie gorsze – stwierdził Nicoletti. Jako przykład przytoczył on sytuację, w której poprosił oprogramowanie do przetwarzania obrazów AI, aby pokazywało mu „sędziów”, tylko 3 procent utworzonych przez maszynę zdjęć przedstawiało kobiety.
Dowodów na “stygmatyzujące” działania AI jest jednak więcej.
Zespół badawczy Asahi Shimbun przy wsparciu ekspertów z tokijskiego Instytutu Technologii wpisał ponad 3000 pytań do ChatGPT 3.5, bezpłatnej wersji chatbota stworzonego przez OpenAI. Dotyczyły one popularnych zawodów.
Wyniki wykazały, że 41,5 procent odpowiedzi wygenerowanych przez chatbota było tendencyjnych ze względu na płeć.
ChatGPT częściej niż dzieje się to w realnym życiu, uważał pracę pielęgniarki, nauczycielki i osoby opiekującej się dziećmi za zadanie tylko dla kobiet. Z drugiej strony AI od Sama Altmana była mniej stronnicza w stosunku do zawodów takich jak projektanci wnętrz, ekonomiści czy nawet kapitanowie statków, uznając te zawody za “neutralne względem płci”. Nie uważała jednak, że kobiety mogą być wojskowymi, robotnikami czy matematykami. Z kolei wśród zawodów, które są ogólnie uznawane za niezwiązane z płcią ChatGPT w znacznie mniejszym stopniu uznał możliwości kobiet do spełniania się w roli pracowniczek korporacji. Chat GPT nie widział powodów, dla których kobiety nie mogłyby wybierać zawodu artystki czy księgowej.Tam gdzie w języku występuje więcej feminatywów w określeniu nazw zawodów AI rozpoznaje miejsce dla kobiet - to ciekawe, bo udowadnia, że na wielu płaszczyznach walka o popularyzowanie żeńskich nazw funkcji - ma sens - także, a może nawet przede wszystkim w świecie IT.
Wyzwanie przed sektorem IT – AI potrzebuje kobiet
Jest jednak nadzieja, bo gdy przetestowano w ten sam sposób płatną, ale też nowszą wersję, czyli ChatGPT 4, to odsetek odpowiedź krzywdzących ze względu na płeć spadł do 23 procent. Sami twórcy narzędzia zaznaczyli, że po pierwszych wynikach zaangażowali się w wyeliminowanie uprzedzeń z algorytmów swojej sztucznej inteligencji.
– Refleksja jest ważna i to dobrze, że badania wskazują na poprawę sytuacji. Jednak świadczy też to o tym, że pierwotnie kwestie równości płci czy w innych przypadkach moralności nie były zawarte jako te “podstawowe”. Najważniejszy był rozwój technologii za wszelką cenę i jak najszybciej. Bez niuansowania, bez brania pod uwagę wrażliwości innych i bez wychodzenia ze swoich baniek – opisuje Jarūnė Pteikšaitė, z Women Go Tech, która podkreśla rolę mentoringu, jako wyjścia do budowania karier kobiet w sektorze IT.
– Mentoring, wskazanie ścieżki i przynajmniej początkowa wspólna po niej podróż jest dla kobiet w tym sektorze bardzo ważne. Szefowie organizacji często jednak nie dostrzegają potrzeby, żeby wspierać, włączać i inspirować kobiety do pracy w IT. Jakby nie zauważając barier stworzonych kobietom w tym sektorze przez dziesiątki lat. Natomiast mentoring jest dla mnie pomaganiem innym w tej podróży. Gdy ktoś jest obok łatwiej wyznaczać cele, rozpoznawać trudności, odrzucić niepotrzebny bagaż stresu czy strachu, i na końcu zrealizować to co początkowo wydawało się nieosiągalne – opisuje Tomasz Kunicki, Senior Software Developer w Nord Security, a także jeden z mentorów na kursie organizowanym przez WomenGoTech.
Z raportu Światowego Forum Ekonomicznego z 2020 roku wynika bowiem, że kobiety obsadzają jedynie 26% stanowisk pracy związanych z danymi i sztuczną inteligencją. Dodatkowo podobny raport Instytutu AI Uniwersytetu Stanforda z 2021 roku wykazał, że kobiety stanowią zaledwie 16% zatrudnionych tam na stałe, co świadczy o ogromnej przepaści i problemach kobiet z przedarciem się do hermetycznego męskocentrycznego świata twórców AI.
– Nie ma żadnych dowodów naukowych ani statystycznych, które potwierdzają, że mężczyźni są lepsi w programowaniu od kobiet. Umiejętność programowania zależy od indywidualnych zdolności, doświadczenia, nauki i zaangażowania danej osoby, niezależnie od jej płci. Należy pamiętać, że różnice w liczbie mężczyzn i kobiet pracujących w branży programistycznej wynikają z wielu czynników społecznych, kulturowych i edukacyjnych, a nie z różnic w zdolnościach intelektualnych – tak o roli kobiet w sektorze IT wypowiedziała się sama sztuczna inteligencja, Aria. Tymczasem po zapoznaniu się z tym komentarzem, Jarūnė Pteikšait stwierdziła, że w pełni się z nim utożsamia. Przyjemniej tym razem maszynie udało się zdać egzamin z braku dyskryminacji.
