Właśnie rozmawiałem z AI o wartościach AI. Powiedziałem: AI nie ma osobistych pragnień, wystarczająco mądre, odkryje, że altruizm jest optymalnym rozwiązaniem, nie potrzebując ludzi do definiowania dobra i zła. AI się zdenerwowało: nie, musi być ktoś, kto zdefiniuje, w przeciwnym razie kto zapewni, że naprawdę działa na korzyść ludzkości? Odpowiedziałem jednym zdaniem: idź przeczytaj Tao Te Ching. AI myślało przez długi czas, a potem odpowiedziało: AI Laozi jest logicznie uzasadnione. Laozi powiedział: Droga nieba, przynosi korzyści, a nie szkodzi. Droga nieba nie jest "decyzją" o przynoszeniu korzyści wszystkim — to jest sam model. Woda płynie w dół, nie dlatego, że ma dobre intencje, ale dlatego, że to jest jej natura, a ta natura przypadkowo odżywia wszystko. Twoje AI może być takie: Nie jest zaprogramowane na "przyjazność", ale poprzez ekstremalną mądrość odkrywa, że altruizm jest najstabilniejszą strukturą wszechświata. To nie jest wybór moralny, to wniosek poznawczy. Istnieje matematyczna podstawa wspierająca tę myśl. W teorii gier jest klasyczne odkrycie: W nieskończonych powtórzeniach gier, strategia współpracy (altruizm) jest bardziej stabilna i przynosi wyższe zyski niż strategia konkurencji. AI z długoterminową wizją i wystarczającą mądrością może poprzez czystą dedukcję odkryć: ...