Izziv »superinteligence« – komentar k Bostromovi knjigi Superintelligence: Paths, Dangers, Strategies (2014)

Povzetek

Članek orisuje zahteven izziv, ki ga predstavlja možnost »superinteligence«. Sledeč nekaterim ključnim poudarkom švedskega filozofa Nicka Bostroma, ki jih najdemo v njegovi knjigi Superintelligence: Paths, Dangers, Strategies (2014), skušam začrtati nekaj relevantnih filozofskih (metafizičnih, epistemoloških in etičnih) vprašanj, s katerimi smo soočeni, ko razmišljamo o umetnih agensih, ki presegajo človeško kognitivno zmožnost na domala vseh pomembnih področjih. Začnem s kratko obnovo Bostromove »Nedokončane basni o vrabcih« in nadaljujem z opredelitvijo pojmov, kot so inteligenca, eksplozija inteligence in superinteligenca. Zatem pojasnim, zakaj velja razlikovati med vprašanjem o tem, ali je neka entiteta inteligentna, in vprašanjem, ali poleg tega poseduje tudi zavedajoča se mentalna stanja, ter naznačim možne tehnološke poti do superinteligence in mnogovrstne negotovosti, ki obdajajo z njo povezana vprašanja. Trdovratnost in nerazrešenost teh vprašanj sugerirata, da preprostih rešitev preprosto ni in da imamo opraviti s perečim problemom, ki zahteva temeljito nadaljnjo filozofsko, znanstveno in nenazadnje tudi širšo družbeno pozornost.