Opowieść o zespole Omega

Duszą firmy był zespół Omega. Podczas gdy reszta przedsiębiorstwa dzięki różnym komercyjnym zastosowaniom słabej sztucznej inteligencji przynosiła dochód, utrzymując jego działalność, zespół Omega zajmował się intensywnie badaniem tego, co zawsze było marzeniem dyrektora generalnego: stworzeniem silnej sztucznej inteligencji. Większość pozostałych pracowników postrzegała Omegi, jak ich pieszczotliwie nazywali, jako grupę marzycieli pozostających nieustannie dziesiątki lat od osiągnięcia celu. (…)

Nie zdawali sobie jednak sprawy z tego, że członkowie Omegi, by ukryć tajemnicę, starannie wykreowali swój wizerunek. Byli bowiem bardzo bliscy przeprowadzenia najbardziej śmiałego planu w historii ludzkości. (…)

Zbudowana przez nich sztuczna inteligencja, nazwana Prometeuszem, zdobywała coraz większe możliwości. Chociaż jej zdolności poznawcze w wielu dziedzinach, na przykład umiejętności społeczne, nadal pozostawały daleko w tyle za ludzkimi zdolnościami, Omegi uparcie dążyły do wyspecjalizowania jej w jednym konkretnym aspekcie: programowaniu systemów sztucznej inteligencji. Badacze celowo wybrali taką strategię, ponieważ uwierzyli w argument o eksplozji inteligencji, przedstawiony przez brytyjskiego matematyka Irvinga Gooda w 1965 r.: „Niech ultrainteligentna maszyna będzie z definicji taką, która może daleko przewyższyć wszelką intelektualną aktywność dowolnego człowieka bez względu na jego zdolności. A ponieważ projektowanie maszyn jest jednym z tych intelektualnych działań, ultrainteligentna maszyna mogłaby zaprojektować jeszcze lepsze maszyny; bez wątpienia nastąpiłaby wówczas »eksplozja inteligencji«, a inteligencja człowieka pozostałaby daleko w tyle. A więc pierwszą ultrainteligentną maszyną będzie ostatni wynalazek, jaki człowiek kiedykolwiek stworzył, pod warunkiem że maszyna taka okaże się na tyle uległa, by powiedzieć nam, jak utrzymać nad nią kontrolę”.

Członkowie zespołu zdawali sobie jednak sprawę, że gdyby udało im się uruchomić to rekurencyjne samodoskonalenie, maszyna szybko stałaby się na tyle zdolna, że mogłaby sama nauczyć się wszystkich ludzkich umiejętności, które byłyby jej przydatne.

Pierwsze miliony

Była godzina dziewiąta w piątek rano, kiedy postanowiono rozpocząć. Prometeusz został uruchomiony w specjalnie skonstruowanym klastrze komputerowym, umieszczonym w długich rzędach regałów w rozległej, klimatyzowanej sali, do której wstęp był ściśle kontrolowany. Ze względów bezpieczeństwa został on całkowicie odłączony od internetu, ale zawierał lokalną kopię dużej części stron internetowych (Wikipedia, Biblioteka Kongresu, Twitter, wybór materiałów spośród następujących źródeł: YouTube, większość Facebooka itd.) wykorzystywanych jako dane służące mu do nauki1. (…)

Kiedy uruchomili Prometeusza, okazał się on nieco gorszy od nich w programowaniu systemów sztucznej inteligencji, ale nadrabiał ten brak tym, że był znacznie szybszy, wyrabiał tysiące roboczogodzin, podczas gdy ludzie w tym czasie pociągali red bulla. Do godziny 10.00 rano wykonał pierwszą przeróbkę samego siebie, wersję 2.0, która była nieco lepsza, ale wciąż nie dorównywała człowiekowi. Kiedy o godz. 14.00 członkowie...