Nový článek Nicka Bostroma: >Rozvoj superinteligence není jako hrát ruskou ruletu; Je to spíš jako podstoupit riskantní operaci kvůli stavu, který by jinak skončil smrtelným. > Stejně tak by se dalo tvrdit, že pokud ho nikdo nepostaví, všichni zemřou. Ve skutečnosti je většina lidí už mrtvá. My ostatní jsme na cestě, aby následovali během několika krátkých desetiletí. Pro mnoho lidí – například pro starší a těžce nemocné – je konec mnohem blíže. Součástí příslibu superinteligence je, že by mohla zásadně změnit tento stav." >Jednou cestou (vzdáváme se superinteligence) každý den zemře 170 000 lidí na nemoci, stárnutí a další tragédie. >Volba před námi tedy není mezi bezrizikovým základem a rizikovým AI projektem. Je to mezi různými rizikovými trajektoriemi, z nichž každá nás vystavuje jinému souboru nebezpečí. >Představte si, že vyléčíte Alzheimerovu chorobu tím, že znovu vyrostou ztracené neurony v mozku pacienta. Představte si, že léčba rakoviny je cílená terapie, která odstraní všechny nádorové buňky, ale nezpůsobí žádné z těch hrozných vedlejších účinků dnešní chemoterapie. Představte si, že obnovujete bolavé klouby a ucpané tepny do dokonalého mladistvého stavu. Tyto scénáře se stávají realistickými a bezprostředními s superinteligencí vedenou naší vědou. >Předpokládáme, že omlazovací medicína by mohla snížit úmrtnost na konstantní úroveň podobnou té, kterou v rozvinutých zemích v rozvinutých zemích mají zdraví dvacetiletí lidé, což odpovídá očekávané délce života přibližně 1 400 let. >Rozvoj superinteligence zvyšuje naši zbývající délku života, pokud pravděpodobnost zničení způsobeného AI je pod 97 %.