De smarteste forskerne mener at maksimering av USD bør være den ultimate belønningsfunksjonen for avgang. Men å forutsi fremtiden er enda bedre. Her er en intuisjonspumpe: —> ikke dollar numeraire, men kurv av valutaer —> egentlig kurv av råvarer og eiendeler —> hvilke eiendeler skal holdes?, hva er deres forventede fremtidige nytte —> se på all materie og deres fremtidige nytte. Prioriter —> modellere deg selv og dine nåværende verktøy som en del av fremtidig nytte —> grensen mellom selvet og det ytre er ikke hard, men bayesiansk. "Ballen kommer, må ta imot, jeg kan forutsigbart kontrollere armen min, for å gjøre det?" —> må gjøre litt månegruvedrift. "Kan jeg kontrollere armen nyttig? Nei. Gi den delvis autonomi på grunn av problemer med lyshastighetsoverføringen. Må modellere dens oppførsel i min verdensmodell, og min reaksjon på dens oppførsel." —> den ultimate modellen vil være en modell av universet som maksimerer prediksjon av fremtidige tilstander, inkludert materien, som muliggjør prediksjonen