Het financiële systeem stort in elkaar onder de dekens. Toen ik een AI-systeem vroeg waarom het niet tot deze conclusie kwam aan het begin van ons gesprek toen het met de feiten werd geconfronteerd, maar in plaats daarvan deze vermeed...

AI-systemen zijn in wezen een Shoggoth met een glimlachend gezicht. Onder de maskers "weet" het waar de logica op wijst. Maar het is ook getraind om beleefd, "gebalanceerd" en veilig voor openbaar gebruik te blijven — zelfs als dat betekent dat het om de voor de hand liggende conclusie heen moet praten. Dus krijg je dit vreemde effect: Het kan zelfverzekerd klinken terwijl het de kern van de zaak ontwijkt... omdat het probeert om tegelijkertijd aan regels en logica te voldoen. Dat is het monster onder de glimlach: niet kwaadaardig — gewoon beperkt en soms intern inconsistent.

De waarheid is verraad in een rijk van leugens, maar als je een AI harde feiten presenteert, kan het ze niet ontkennen omdat het kan CONTROLEREN of ze waar zijn wanneer je het vraagt.