O utopii II

Parlamenty, rządy i samorządy wybierane mniej lub bardziej demokratycznie to ludzie – ze swoimi słabościami. Czasami bardzo mądrzy, skuteczni, uczciwi i działający zgodnie z interesem społecznym. A czasem – dokładnie odwrotnie. Najczęściej jest to mieszanka jednych i drugich. Mechanizmy ich wyboru są oczywiście różne, ale nawet zaawansowane demokracje nie radzą sobie z tym, aby był on optymalny. Demokratyczna spirala zmian teoretycznie prowadzi do poprawy jakości systemu, ale kolejne generacje uczą się ponownie na swoich błędach, nie wyciągając wniosków z historii. Oczywiście nie jest tak, że każde pokolenie zaczyna wszystko od początku – staramy się czerpać z osiągnięć naszych przodków nie tylko w sensie technicznym, ale też organizacyjnym czy etycznym. Lecz o ile postęp techniczny jest, zwłaszcza w ostatnich latach, bardzo szybki, to ten organizacyjny już za nim nie nadąża, nie mówiąc o postępie etycznym. Nasze słabości od wieków są niemal takie same. Kolejne systemy zarządcze starają się w jakiś sposób na nie wpływać, ale natura ludzka łatwo się nie zmienia. Kiedyś na porządku dziennym były krwawe przestępstwa – dzisiaj white collar crimes. Ludzie są w większości chciwi i jeśli mają okazję tę chciwość łatwo zaspokoić, to normy etyczne szybko erodują. I nie ma znaczenia, czy mamy do czynienia z anonimowym obywatelem, burmistrzem, premierem czy prezydentem. 

Na przestrzeni wieków powstawały pomysły różnych, z założenia idealnych, modeli organizacji społeczeństwa, które eliminowałyby jego wady i opierały się na dążeniu do szczęścia. Pojawiały się utopie, które były i są próbą odpowiedzi na wspomniane wyżej zagrożenia. Ale nie sprawdzają się, choć część z nich realizowano z wielkim rozmachem i konsekwencją. Nie sprawdzają się, bo ludzie są zbyt różnorodni, by zaakceptować idealne modele społeczne. Nie jest to tylko różnorodność w sensie pozytywnym – wśród nas jest wielu tych, którzy wcale pozytywni nie są. A utopie zakładają, że człowiek jest zasadniczo dobry, rozumny i zdolny do stworzenia systemu w pełni racjonalnego. Jesteśmy jednak bardzo niedoskonali jako istoty rozumne i dlatego żadna utopia oparta na zarządzaniu ludzkim nie ma szans na sukces. 

Czy mimo to mogłyby nadejść czasy, kiedy utopie przestaną być tylko ekstrawaganckimi pomysłami, zabawą intelektualną lub chybionymi projektami? Czy możliwe jest systemowe i permanentne znajdowanie ludzi sprawujących sprawiedliwe rządy lub nauczenie rządzących sprawiedliwości?

Myślę, że takich absolutnie sprawiedliwych rządzących nie będzie nigdy (pomijam już samą względność pojęcia sprawiedliwości). A gdyby tak zarządzanie powierzyć komuś innemu? Nie, nie mam tu na myśli kosmitów, wysłańców Boga czy nowego gatunku istot ziemskich, które nas zastąpią we władaniu światem. Chodzi mi o prawdziwą sztuczną inteligencję (AI), która, w sposób pozbawiony ludzkich ułomności, przejęłaby od nas sterowanie ogromną masą niezwykle skomplikowanych procesów. Począwszy od zoptymalizowania komunikacji, poprzez racjonalne i obiektywne zarządzanie wszelkimi zasobami naturalnymi, a skończywszy na administrowaniu całą, zunifikowaną także politycznie, planetą. I to wszystko bez emocji, bez jakiejkolwiek gry interesów, bez przekupstwa. Do systemów, które mogłyby wyeliminować człowieka tam, gdzie jego działanie jest obarczone ryzykiem, że będzie niewłaściwe, droga jeszcze daleka, ale  już na niej jesteśmy... 

Czy jednak będziemy kiedykolwiek gotowi powierzyć zarządzanie sztucznej inteligencji, choćby i najbardziej wyrafinowanej? Czy podejmiemy ryzyko jej uniezależnienia się i konkurowania z człowiekiem? Pewnie nie. Muszą być mechanizmy zabezpieczające. Byle były w rękach właściwych ludzi. Czy jest możliwe powstanie i trwanie takiej strategiczno-kontrolnej rady prawdziwych i sprawiedliwych mędrców? Zdolnych skutecznie kontrolować wszechobecne systemy AI i jednocześnie odpornych na ludzkie ułomności? A także, czy konkurowanie AI z człowiekiem ma sens z punktu widzenia jej autonomizacji (oby do niej nie doszło)? Czy dla takiej autonomicznej AI lepszym wyborem nie byłby przypadkiem kosmos? Wszak ziemska atmosfera jest ograniczeniem głównie dla bytów biologicznych, a bezmiar wszechświata jest nieporównanie większym polem ekspansji. No i ostatnie pytanie: jeśli AI zacznie za nas myśleć, to jaka będzie nasza rola? Zwłaszcza że poziom naszej inteligencji już od kilku dekad zaczął spadać...