Nick Bostroms nya artikel: >Att utveckla superintelligens är inte som att spela rysk roulette; Det är mer som att genomgå en riskfylld operation för ett tillstånd som annars skulle visa sig dödligt. > Man skulle lika gärna kunna hävda att om ingen bygger det, dör alla. Faktum är att de flesta redan är döda. Vi andra är på väg att följa efter inom några få decennier. För många individer – såsom äldre och svårt sjuka – är slutet mycket närmare. En del av löftet om superintelligens är att det kan förändra detta tillstånd fundamentalt." >Längs en väg (utan att överge superintelligens) dör 170 000 människor varje dag av sjukdom, åldrande och andra tragedier. >Valet framför oss står därför inte mellan en riskfri baslinje och ett riskfyllt AI-projekt. Det är mellan olika riskfyllda banor, där varje risk utsätter oss för olika faror. >Föreställ dig att bota Alzheimers sjukdom genom att återskapa de förlorade neuronerna i patientens hjärna. Föreställ dig att behandla cancer med riktade behandlingar som eliminerar varje tumörcell men inte orsakar några av de hemska biverkningarna som dagens kemoterapi har. Föreställ dig att återställa sjuka leder och igentäppta artärer till ett perfekt ungdomligt skick. Dessa scenarier blir realistiska och omedelbara med superintelligens som vägledning för vår vetenskap. >Vi antar att föryngringsmedicin kan minska dödligheten till en konstant nivå liknande den som friska 20-åringar i utvecklade länder för närvarande har, vilket motsvarar en förväntad livslängd på cirka 1 400 år. >Att utveckla superintelligens ökar vår återstående livslängd, förutsatt att sannolikheten för AI-inducerad utplåning är under 97%.