Apokalipsa AI? Bzdura! Na nasz rachunek z prof. Piotrem Durką

Piotr Durka od pierwszych maili jest bardzo konkretny, dzieli się publikacjami, z którymi powinienem się zapoznać przed spotkaniem. Choć początkowo jest raczej sceptyczny wobec tego formatu – porównując go do popularnych ostatnio w mediach wywiadów nagrywanych podczas jazdy samochodem – ostatecznie zgadza się na spotkanie. „To może wpadnie pan do mnie? Zamówimy coś z pobliskiej restauracji i będziemy mogli w spokoju porozmawiać”, proponuje, a ja z radością na to przystaję, w końcu czegoś takiego w naszym cyklu jeszcze nie było. Ponadto zapowiada, że pokaże mi swoją kolekcję broni, ponieważ – jak tłumaczy – wnętrze i zainteresowania mówią wiele o gościu.

Umawiamy się w porze obiadowej, czyli o 13. Do jego domu na warszawskiej Sadybie docieram idealnie o czasie. Segment, w którym mieszka Piotr Durka, zlokalizowany jest na uboczu, co daje spokój niewielkiej miejscowości, pozostając blisko w miarę ścisłego centrum.

Piotr od wejścia jest bardzo serdeczny – momentalnie skraca dystans, przechodząc na ty, a ja trochę nie wiem, jak zareagować, w końcu dzieli nas spora różnica wieku. Przeprasza za prośbę o zdjęcie butów, ale na moim rodzinnym Śląsku to standardowa praktyka, więc nawet nie oponuję, wręcz przeciwnie.

Mamy dla siebie cały parter. Urządzony z klasą, bez przepychu, nie robi zbędnego wrażenia. Uwagę przykuwa pianino stojące w przedpokoju oraz całkiem spora przestrzeń. Zanim zaczniemy, witam się jeszcze z żoną mojego rozmówcy – ma na sobie T-shirt z logo popularnej firmy produkującej tzw. superfoods, które przyjmowałem kiedyś w celu zrzucenia wagi, więc dobrych kilka minut rozmawiamy o wartościach odżywczych i smaku jedzenia w proszku. W międzyczasie Piotr wykłada na stolik kilka owoców (maliny, truskawki), migdały, a także proponuje kawę. Jeszcze raz wraca do tematu wywiadów w samochodzie, tłumacząc, że nie wyobraża sobie wzięcia udziału w takim przedsięwzięciu, bo to bezsensowne zanieczyszczanie środowiska, poza tym prowadząc auto, dziennikarz nie jest w stanie w pełni skupić się na dyskusji.

– To może zaczniemy od tej broni? – proponuję, kiedy wreszcie siadamy za stołem.

– Naprawdę? Proszę bardzo! Tylko nie zwracaj uwagi na bałagan – odpowiada wyraźnie podekscytowany i prowadzi mnie na piętro do niewielkiego pomieszczenia ulokowanego za gabinetem.

W prezentowanym sejfie znajduje się – na oko szacując – ponad 20 sztuk broni. Prezentację kolekcji rozpoczynamy od najcenniejszego fragmentu, czyli legendarnego polskiego pistoletu VIS wz. 35. – „Na tygrysy mają visy”, pewnie coś ci to mówi? – Piotr nuci fragment słynnego „Pałacyku Michla”, kładąc broń na stole. I dodaje: – Jest piękny, prawda? Duma narodowa Polaków.

– Skąd pomysł na zbieranie broni? – pytam, podziwiając kolejne eksponaty.

– Zawsze żelastwo lubiłem. Jest to piękne samo w sobie, poza tym ćwiczę obecnie strzelectwo dynamiczne, które nie polega tylko na spokojnym robieniu dziurek w papierze, jak w strzelectwie tarczowym, co nie ma wiele wspólnego z tzw. realnymi przypadkami użycia, lecz wynik jest ilorazem trafień i czasu. To ostatnia rzecz, przy której jeszcze w miarę chce mi się ruszać – śmieje się mój rozmówca. – Poza tym, nie oszukujmy się, ma to aspekt praktyczny, ponieważ w razie czego to ja będę decydował, co się tutaj stanie, jeśli będzie głupio. Pytasz mnie, skąd takie zainteresowanie, a mnie dziwią ludzie zbierający znaczki pocztowe. Piękne są też polskie szable, ale w przypadku broni palnej znacznie łatwiej rozpoznać falsyfikat niż w przypadku broni białej.

– Sztuczną inteligencję często porównuje się do broni – zauważam.

– Tyle że z takich porównań nie wyciąga się wniosków, bo wciąż w przestrzeni publicznej dominują stwierdzenia, że to sztuczna inteligencja coś nam zrobi, np. odbierze pracę. Słyszałeś kiedyś, żeby dynamit albo karabin coś komuś zrobił? Nie. AI to narzędzie, które oczywiście może być niebezpieczne, zresztą obecnie wyrządza mnóstwo zła. Niesamowicie irytuje mnie mówienie o sztucznej inteligencji jak o osobnym bycie, który coś zrobił – tłumaczy Piotr Durka.

Po kilkunastominutowej prezentacji wracamy na parter.

Pionier

Kariera naukowa mojego rozmówcy umownie rozpoczyna się na początku wieku, kiedy powstawały pierwsze poważne projekty związane z interfejsem mózg–komputer. Wówczas klimat wokół podobnych działań był taki, że wszystko wskazywało, że wkrótce zaczną zmieniać świat na szeroką skalę, mimo że przez długi czas pozostawały wyłącznie, powiedzmy, zabawą akademicką. – Ja się wówczas zajmowałem podobnymi zagadnieniami, więc stwierdziłem, że moim obowiązkiem wobec społeczeństwa jest rozwinięcie tej technologii w Polsce, żebyśmy w przyszłości nie musieli jej odkupywać za gigantyczne pieniądze – wspomina Piotr. Swój plan najpierw wdrażał w życie w ramach grup laboratoryjnych na uniwersytecie, czego efektem w 2008 r. był pierwszy w historii naszego kraju publiczny pokaz interfejsu mózg-komputer. – A jednocześnie pchałem do przodu pierwsze na świecie studia neuroinformatyczne, które otworzyliśmy na Uniwersytecie Warszawskim, choć wówczas jeszcze mało kto rozumiał słowo „neuroinformatyka”. Dostałem zawrotne 500 zł na promocję kierunku i opowiadałem o nim, gdzie tylko się dało, np. w różnego rodzaju gazetach czy telewizjach – dodaje.

Odbiór technologii był pozytywny, coraz więcej osób zaczęło pytać, gdzie tego typu urządzenie można kupić. Wtedy mój rozmówca zrozumiał, że nie wystarczy pisać artykułów naukowych na ten temat, trzeba wyjść poza świat nauki. W 2012 r., dzięki pokaźnemu wsparciu z Funduszy Europejskich, założył firmę BrainTech, czyli jeden z pierwszych w historii opensource’owych systemów odpowiadających za połączenie mózgu z komputerem. – Stworzony system obejmuje software i hardware, w tym nowoczesne wzmacniacze EEG i unikalne urządzenie do generacji bodźców w interfejsach mózg-komputer, pozwalające na detekcję uwagi, a nie tylko kierunku spojrzenia jak eyetrackery. Chętnie opowiedziałbym o tym więcej, ale spotkanie przeobraziłoby się w wykład akademicki… – mówi Piotr.

– Jak się potoczyły losy BrainTech?

– Technologicznie osiągnęliśmy niemałe sukcesy, za to komercyjnie zaliczyliśmy porażkę. Prawdopodobnie rynek jeszcze wówczas nie był gotowy na tego typu rozwiązania. Ponadto w pewnym momencie drogi moje i wspólników zaczęły się z różnych względów rozchodzić, więc stopniowo wycofywałem się ze spółki. Obecnie firma czeka na inwestora, który lepiej ode mnie wykorzysta osiągnięcia technologiczne; w międzyczasie wydajemy stworzone oprogramowanie na otwartej licencji (GPL), ponieważ open source jest dla mnie czymś w rodzaju religii.

– Founderzy, którym nie wyszło, często jako wymówkę podają hasło: „rynek nie był gotowy” – zauważam.

– Nie, nie, to nie wymówka – mówię o tym jako o jednej z prawdopodobnych przyczyn, gdyż czynników zapewne było więcej, m.in. moje znikome zainteresowanie marketingiem czy sprzedażą. Tego typu procesy to już zdecydowanie mniej ciekawa część działalności. Zresztą spójrz na tego nieszczęsnego Neuralinka – to nie jest firma zarabiająca pieniądze. To po prostu firma wysoko wyceniona. Gdybym był sprzedawcą, a nie naukowcem, być może do dzisiaj BrainTech uzyskałby niemałą wartość rynkową, ale to niekoniecznie oznaczałoby, że coś będziemy sprzedawać na szeroką skalę.

– To zapytam inaczej: czy teraz rynek jest gotowy na takie projekty?

– Szczerze mówiąc, nie mam pojęcia. Tym, jak funkcjonuje rynek, przestałem się interesować wiele lat temu i bardzo przysłużyło się to mojemu zdrowiu.

Szalony Elon

„Ten nieszczęsny Neuralink” – jak określił go Piotr Durka – siłą rzeczy musiał być jednym z głównych tematów dyskusji. Kilka tygodni temu gruchnęła informacja, że Sam Altman (założyciel OpenAI) może rzucić wyzwanie Elonowi Muskowi poprzez rozwój kolejnego startupu, tym razem zajmującego się właśnie interfejsem mózg-komputer. Jak czytamy w przekazach medialnych, projekt będzie się nazywał Merge Labs i jest obecnie na etapie gromadzenia środków niezbędnych do rozwoju – spekuluje się, że jego początkowa wartość miałaby opiewać na blisko miliard dolarów. Jak pisze „Financial Times”, spółka miałaby zostać zasilona głównie środkami zespołu ds. przedsięwzięć OpenAI.

– Myślę, że zanim rozpoczniemy temat Muska czy Altmana, powinienem wyjaśnić, czym w ogóle są interfejsy mózg-komputer – proponuje mój rozmówca.

To – jak słyszę – z założenia projekty umożliwiające komunikację bez użycia mięśni. W dużym skrócie chodzi o to, żeby za pomocą aktywności mózgowej spowodować jakiś konkretny skutek. Początkowo o tego typu projektach pisało się przede wszystkim w kontekście chorób neurodegeneracyjnych takich jak stwardnienie zanikowe boczne, które – zdaniem Piotra Durki – jest definicją totalnego piekła na ziemi. – Każda choroba, kiedy na nią umierasz, jest okrutna, ale ta w szczególności, gdyż pozostawia mózg w stanie w zasadzie nienaruszonym, za to niszczy wszystkie motoneurony, czyli – obrazowo mówiąc – kable wychodzące z mózgu do poszczególnych części ciała. Chorzy znajdują się w sytuacji, kiedy nie mogą nawet powiedzieć: „odłączcie mnie, nie chcę już żyć”. Zostajesz sam na sam ze swoimi myślami, nie możesz w żaden sposób zareagować. Zresztą moment, w którym w mojej działalności zetknąłem się prawdziwymi dramatami ludzkimi, a nie wyłącznie suchą teorią, był dla mnie jednym z najtrudniejszych. Wtedy też zorientowałem się, że dla większości osób z niepełnosprawnościami tego typu technologie nie są rozwiązaniami z wyboru – tłumaczy Piotr Durka. I dodaje, że interfejsy mózg-komputer to nie czytanie myśli, lecz świadomych intencji z różnych jej śladów.

Nie jest też tak, że interfejsy mózg-komputer działają w każdym przypadku, dlatego obecnie bardziej powinniśmy skupiać się na technologiach asystujących. Z takich korzystał m.in. Stephen Hawking.

– Na czym one polegają? – pytam.

– Ogólna zasada w technologiach asystujących jest taka, że jeśli masz kontrolę jakiegokolwiek mięśnia – np. możesz świadomie dmuchać bądź ruszać policzkiem jak w przypadku Hawkinga – to trzeba skupiać się właśnie na tym konkretnym sygnale, bo w taki sposób można stworzyć szybszy, tańszy, stabilniejszy i wygodniejszy sposób komunikacji, niż próbując budować coś odczytującego sygnały bezpośrednio z mózgu. Bo w mózgu, żeby użyć jednego słowa, jest mnóstwo szumu – wyjaśnia naukowiec.

Ale wracając do „nieszczęsnego Neuralinka”. Piotr Durka tłumaczy, że słabością Elona Muska – jak większości technokratów – jest, cytując dosłownie, pieprzenie głupot, nie mając zielonego pojęcia o nauce. – Musk przekonuje, że jego interfejs uleczy wszystkie choroby, począwszy od choroby Parkinsona. To kompletna bzdura! Trzymając się przykładu Parkinsona – Neuralink jest implementowany na korze mózgowej, ale nie za pomocą elektrod głębinowych, tymczasem do leczenia tej choroby używa się właśnie elektrod głębinowych. Zresztą niemające uzasadnienia twierdzenia o tym, że sztuczna inteligencja to remedium na wszystkie przypadłości, są niestety powszechne – mówi Piotr.

Co warte jest szczególnego podkreślenia, Neuralink nie jest projektem przesadnie odkrywczym. Co najmniej od 2004 r. są prowadzone badania akademickie – również we współpracy z firmami komercyjnymi – polegające na wszczepianiu chorym elektrod. Jeśli ktoś cierpi na epilepsję lekooporną, to klinicznie uzasadnione jest, kolokwialnie mówiąc, „wychlastanie” połączeń w jakimś konkretnym kawałku mózgu. – Takie działania są prowadzone w naprawdę wielu ośrodkach badawczych i uzyskiwane są znacznie lepsze wyniki niż w przypadku Neuralinka. Istnieje nawet organizacja zrzeszająca pionierów interfejsów mózg-komputer, czyli ludzi, którzy tego typu urządzenia mieli wszczepione. Jest ich co najmniej kilkadziesiąt – wskazuje Piotr Durka. I dodaje: – Jeszcze jedna kwestia. Neuralink nie jest czymś nowym, choć właściwiej trzeba byłoby powiedzieć, że tak naprawdę do końca nie wiemy, co robi Elon Musk, ponieważ obecnie jego projekty, z naukowego punktu widzenia, są wyłącznie czarnymi skrzynkami opracowywanymi w tajnych laboratoriach. Zauważ, że Neuralink nie publikuje artykułów naukowych, możesz jedynie oglądać promocyjne klipy na YouTubie. A wszyscy wiemy, jak z tego typu filmikami bywa, pokazać możesz absolutnie wszystko. Jeśli sympatyczny pan Elon przekonuje, że „będzie dobrze, proszę się nie niepokoić”, ale nie podpiera twierdzeń żadnymi naukowymi dokumentami, to jak najbardziej powinniśmy się niepokoić. Dopiero kiedy coś jest zweryfikowane naukowo przez niezależnych ekspertów, mówimy o pchaniu nauki do przodu. Musk jest geniuszem marketingu, co do tego nie mam żadnych wątpliwości.

– Przewidujesz, że prób wzbogacenia człowieka technologią będzie coraz więcej? – pytam.

- Próby wzbogacenia człowieka technologią dostrzegamy w zasadzie od początku cywilizacji. A jest ich – i będzie – coraz więcej, ponieważ ogólny postęp jest wykładniczy. Pamiętajmy jednak, że każda technologia ma nam przede wszystkim służyć, nie traktujmy jej religijnie jako osobnego bytu.

Nie ma mowy o końcu świata

– Kiedy umawialiśmy się na spotkanie, napisałeś w mailu, że masz dalekie od mainstreamu opinie o AI. Z jaką „prawdą” o sztucznej inteligencji, funkcjonującą w przestrzeni publicznej, fundamentalnie się nie zgadzasz? – pytam, przegryzając maliny.

– Większość głupot jest efektem mieszania pojęć. Jeśli weźmiemy definicję AI zawartą w najnowszym akcie Unii Europejskiej, to za sztuczną inteligencję można uznać w zasadzie każdy program komputerowy. Podkreśla się znaczenie danych, a ludzie powszechnie utożsamiają AI z sieciami neuronowymi. Wszystkim wydaje się, że ta sieć jest pewnego rodzaju mózgiem, który popatrzy na dane zagadnienie i wyciągnie własne – niezależne i słuszne – wnioski, a tak przecież nie jest. Sztuczna inteligencja podejmująca decyzje na podstawie danych przybliża nas do świata rodem z Kafki czy Orwella, w którym nigdy nie dowiesz się, za co zostałeś skazany. Osobną, żenującą historią są różnego rodzaju opinie o tym, że AI wkrótce przejmie kontrolę nad światem i nas zniszczy. Argumenty „ekspertów” straszących nas apokalipsą kończą się na poziomie bajki Disneya o nierozważnej Myszce Miki w roli ucznia czarnoksiężnika.

– Dlaczego często to właśnie tak wyglądają publiczne dyskusje na temat technologii?

– A to już pytanie do pana, panie redaktorze! – śmieje się Piotr Durka. – A poważnie mówiąc, sądzę, że tego typu dyskurs rozkręcają przede wszystkim osoby czerpiące zyski chociażby z największych modeli językowych. Uważam, że w tym momencie nie ma nawet cienia szansy, żeby sztuczna inteligencja sama z siebie wygenerowała takie pojęcia, które my rozumiemy jako ludzie, czyli np. pojęcie prawdy czy prawdziwą empatię. Ona je może co najwyżej naśladować.

– A więc nie boisz się apokalipsy AI?

– Zdecydowanie nie. Obawiam się za to tego, że systemy uczenia maszynowego powielają uprzedzenia oraz inne złe rzeczy obecne w danych uczących. Szczerze mówiąc, podnoszony przez wielu argument, że sztuczną inteligencję musimy rozwijać dla przyszłych pokoleń, jest jak żywcem zaczerpnięty z ideologii komunistyczno-faszystowskiej. Ogromne centra danych pochłaniają wodę, technologia niszczy planetę, ludzie za marne grosze pracują nad zasilaniem modeli językowych danymi. Naprawdę mamy się aż tak poświęcać? – kwituje Piotr Durka.

Na nasz rachunek bez rachunku…

– Nie zdążyliśmy zamówić jedzenia – zauważam, kiedy rozmowa zmierza ku końcowi. Wkrótce zaczynam kolejne spotkanie, w biurze, muszę więc dojechać na Mokotów.

– Jakoś tak wyszło, przynajmniej nie musisz znowu dokarmiać polskich naukowców – śmieje się Piotr. – Mam nadzieję, że tak wyobrażałeś sobie to spotkanie?

Mam takie przekonanie, że najciekawsze wywiady są wtedy, kiedy pada jak najmniej zaplanowanych pytań. I tak właśnie było w tym przypadku.