23/2021 Nick Bostrom - Superinteligencja

Ekscytacja i niepokój, to uczucia, które towarzyszyły mi naprzemiennie podczas tej zacnej lektury. A zajęła mi ona nie mniej i nie więcej - trzy tygodnie. Myślę, że i tak pozwoliło mi to przyswoić niewiele ponad jedną trzecią przekazu.

Superinteligencja to filozoficzno-teoretyczna rozprawa, eksplorująca nie tyle wynalezienie samej sztucznej inteligencji, ile to co nastąpi później. Moment przejścia od takowej do sztucznej inteligencji wielokrotnie przewyższającej tę ludzką, nieważne czy nazwiemy ją superinteligencją, general artificial inteligence, singletonem itd. Czy w momencie, kiedy przestaniemy być najinteligentniejszym gatunkiem na tej planecie będzie przed nami jeszcze jakaś przyszłość? Czy to jak my dysponujemy aktualnie tym tytułem może stanowić podpowiedź w rozwiązaniu tej kwestii?

Autor szczegółowo, i mam tu na myśli naprawdę szczegółowość akademicką, analizuje zarówno różne rodzaje sztucznej inteligencji (wyrocznie, dżiny, suwereni, narzędziowe AI) czas przejścia od AI do general-AI (lata, miesiące, czy minuty), teoretyczne sposoby kontroli takiego tworu, zaszczepienia weń jakiegoś rodzaju etyki czy moralności, zainstalowania właściwego sposobu podejmowania decyzji, kończąc na najbardziej fundamentalnym pytaniu - czy czeka nas zagłada?

Wnioski. Dajcie wnioski.

Po pierwsze, zaskakuje mnie dla jak wielu osób pytanie o sztuczną inteligencję jest nadal pytaniem „czy”, a nie „kiedy”. W tej kwestii mam do powiedzenia tylko jedno - It’s coming.

Po wtóre, jeśli istniałby spis lektur obowiązkowych dla światowych liderów i decydentów, to powyższa książka powinna piastować w nim królewską pozycję. Ta rewolucja dzieje się dziś, a ryzyko podjęcia pochopnej czy krótkowzrocznej decyzji jest po prostu zbyt duże.

Wreszcie, często postrzegamy filozofię, jako dziedzinę zajmującą się wydumanymi i wymuszonymi problemami. Jasne, dotyczą nas one na codzień, bo któż nie przeżywa bólu egzystencji, ale chyba rzadko patrzymy na nie, jak na drogowskaz w kwestiach fundamentalnych, jak przetrwanie naszego gatunku. No cóż, to chyba się zmienia. Czy po okresie, kiedy z piwnicy wyszli zarośnięci gracze w WoWa i jako programiści i właściciele techno-startupów stali się supergwiazdami popkultury, przyszedł czas na filozofów, politologów i teoretyków społecznych? Arystoteles na okładce Time? Ciekawe.