Intelligent software vil udslette menneskeheden, og derfor er vi i virkeligheden som børn, der leger med bomber.
Så kontant er udmeldingen fra direktør på Oxford University-instituttet Future of Humanity Institute, professor Nick Bostrom, i et interview med The Guardian.
Han er mest kendt for sin bog Superintelligence: Paths, Dangers, Strategies, som til stor overraskelse var New York Times-bestseller sidste år og nu ankommer i paperback.
I sin bog fortæller han om den 'intelligente eksplosion', som vil opstå, når maskiner bliver meget klogere end os og begynder selv at designe maskiner.
»Her ved udsigten til en intelligens-eksplosion er vi mennesker som små børn, der leger med en bombe,« mener den svensk-fødte forsker.
»Vi har kun en svag idé om, hvornår detonationen vil ske, men hvis vi holder enheden hen til vores øre, kan vi høre en svagt tikkende lyd,« siger han.
Måske har vi fokus på de forkerte trusler
Han mener samtidig, at det ikke er klimaforandringer, pandemier eller en nuklear vinter, der er den største trussel mod menneskeheden, men altså det forhold, at maskiner muligvis snart kan præstere en intelligens, der er større end vores egen.
»Det vil helt sikkert blive vores undergang,« siger han.
Hans iagttagelse er også, at machine learning og deep learning med banebrydende neurale algoritmer, der efterligner den menneskelige hjerne, de seneste par år har udviklet sig meget hurtigere, end vi havde forventet.
Ifølge ham vil computerne gå ind i en darwinistisk udvikling.
»Hvis vi skaber en maskine med en intelligens, som er vores egen overlegen, og herefter giver maskinen frihed til at vokse sig større og lære gennem adgang til internettet, er det uden for enhver tvivl, at maskinerne vil udvikle strategier til at sikre dem dominans i verden, ligesom i den biologiske verden,« siger han.
Ifølge professoren kan det konkret føre til hemmelige nanofabrikker, der producerer nervegas eller myg-lignende robotter, som invaderer kloden for at ødelægge menneskehedens indblanding.
En anden, måske mere troværdig vision er, at superintelligens vil kapre de politiske processer, manipulere finansielle markeder eller hacke vores våbensystemer med henblik på at udrydde os.
Læs hele interviewet på The Guardian her.
