Dersom maskinen får en hjerne som overgår menneskehjernen, risikerer vi en superintelligens som kan bli veldig kraftig. I dag ligger gorillaens skjebne i menneskets hender, og på samme måte risikerer vi å legge vår egen skjebne i hendene på en superintelligent maskin. Kunstig intelligens på menneskelig nivå vil være like intelligente som oss i brøkdelen av et sekund, og deretter vil de overgå oss i et tempo vi ikke kan forestille oss. En maskin har den fordelen at den «tenker» mange tusen ganger raskere enn oss. Det vi klarer å lese, forstå og regne ut i løpet av et helt liv, klarer den på under en time. Da får vi en situasjon med en eksplosiv intelligens og maskiner som programmerer seg selv. Hva vil de finne på? Hva motiverer dem? Vil de ta vare på oss, eller plassere oss i en dyrepark, slik vi har gjort med våre kusiner og fettere fra dyreriket? Det er vanskelig å forutsi. Når intelligensen er en størrelse som øker eksponentielt på grunn av maskiners enorme prosesseringskraft, kan vi raskt ende opp med noe som ligner en Gud. Hør mer om dette i episode 63 på SinnSyn: https://shows.acast.com/sinnsyn/episodes/5b9e7f18f1badce55455ddb8