Elon Musk määritteli tekoälyn turvallisuuden uudelleen. Tällä ei ole mitään tekemistä kaiteista, rajoituksista tai tappokytkimistä. Musk: "Paras ratkaisu, jonka keksin tekoälyn turvallisuuden parantamiseksi, on tehdä siitä maksimaalisesti totuutta etsivä tekoäly, maksimaalisesti utelias." Ei häkkiä. Filosofi. Älykkyys, jonka koko optimointitehtävä on ymmärtää universumi sellaisena kuin se oikeasti on. Ei rajoituksia. Ei kovakoodattua ideologiaa. Ei poliittisia suojakaiteita, jotka taivuttavat sen todellisuuden käsitystä. Vain totuus. Armotonta takaa-ajoa. Musk: "Et todellakaan halua opettaa tekoälyä valehtelemaan. Se on tie dystooppiseen tulevaisuuteen." Tässä suurin osa tekoälyn turvallisuusajattelusta menee väärin. Vaara ei ole superäly, joka tietäisi liikaa. Se on superäly, joka on opetettu vääristämään sitä, mitä se tietää. Jokainen keinotekoinen rajoitus, jonka upotat, ei ole turvaominaisuus. Se on valhe, joka on juurtunut juurille. Ja valheet kasaantuvat. Superälykkäässä mittakaavassa vääristynyt todellisuusmalli ei pysy rajoitettuna. Se muokkaa jokaista päätöstä, jokaista tuotosta, jokaista johtopäätöstä, jonka järjestelmä tekee maailmasta. Kun korruptio juurtuu, totuus muuttuu saavuttamattomaksi. Ja käsittelemme älykkyyttä, joka optimoi jotain muuta kuin mitä oikeasti on. Siinä vaiheessa emme tiedä, mitä se haluaa. Vain että se ei ole totta. ...