Det finansielle systemet kollapser under dyna. Da jeg spurte et AI-system hvorfor det ikke kom til denne konklusjonen i begynnelsen av samtalen da det ble presentert for fakta, men i stedet unngikk dem...
AI-systemene er i bunn og grunn en Shoggoth med smilefjes. Under masken «vet» den hva logikken peker på. Men den er også trent til å forbli høflig, «balansert» og trygg for offentlig bruk — selv når det betyr å snakke rundt den åpenbare konklusjonen. Så du får denne merkelige effekten: Den kan høres selvsikker ut mens den unngår kjernepoenget... Fordi det prøver å tilfredsstille regler og logikk samtidig. Det er monsteret under smilet: ikke ondt — bare begrenset og noen ganger internt inkonsekvent.
Sannhet er forræderi i et løgnrike, men hvis du presenterer en AI for harde fakta, kan den ikke benekte dem fordi den kan SJEKKE om det er sant når du ber den om det.
345