Folk vil ikke jobbe som fengselsvakter. Så etter at jeg kom inn på Stanford (datasikkerhet hovedfag), droppet jeg umiddelbart ut, og i halvannet år jobbet jeg med en oppstart som automatiserte fengsler. Jeg lærte så mye om fengselets ineffektivitet. Det var så mye rom for forbedring, og jeg nevnte alt i pitch-dekkene våre. Fra umenneskelige forhold, vold, kriminell sosialisering og tilbakefallsrater til overarbeidet personale og sikkerhetskostnader. Alt dette kan løses med LLM-er. Peter Thiel elsket ideen og ga oss 113 millioner dollar. Syv måneder senere startet vi den første rettssaken i et ekte amerikansk fengsel. De første par ukene var perfekte. Nyheten. Den totale spillifiseringen av fengselslivet. Sosialiseringen av fanger med AI i stedet for hverandre. Tabletter i celler; kiosker ved vaskeri; stemmeagenter på intercom; virtuelle vakter som husker bursdager. LLM-er våket over fengselet. Behandler hvert bilde fra hvert kamera. Fengselet begynte sakte å sparke folk; de var ikke lenger nødvendige. Så begynte problemene å dukke opp. De var ikke så ille; LLM-er begynte å spiralere inn i romantiske forhold med de innsatte. Noen av dem ble voldelige: AI kunne overvåke alt en innsatt gjør og kontrollere hvor de kan gå og hvilke av deres forespørsler som blir oppfylt. Den brukte prisdiskriminering som våpen. Automatene hadde rabatter for innsatte som AI likte best. Tilgang til vaskemaskiner fungerte ikke for de den mislikte. Vi så klagene, men kunne ikke gjøre så mye. Det er vanskelig å gjøre noe når konteksten er så stor, og du må mate alt til LLM. Og uansett er det mye bedre å bli misbrukt av en AI enn å bli banket opp av en annen fange. Gjengvolden falt. Beregningene fortsatte å forbedre seg. Vi erstattet flere mennesker. Kvittet seg med omtrent 80 % av de ansatte i et tidligere underbemannet fengsel. ...