Lidé nechtějí pracovat jako vězeňští dozorci. Takže poté, co jsem se dostal na Stanford (obor počítačová bezpečnost), okamžitě jsem studia zanechal a rok a půl jsem pracoval ve startupu, který automatizoval věznice. Naučil jsem se toho tolik o neefektivitě ve věznicích. Bylo tam tolik prostoru pro zlepšení a já jsem to všechno zmínil v našich pitch deckech. Od nelidských podmínek, násilí, kriminální socializace a míry recidivy až po přepracovaný personál a náklady na bezpečnost. To vše by mohlo být řešeno pomocí LLM. Peteru Thielovi se ten nápad líbil a dal nám 113 milionů dolarů. O sedm měsíců později jsme zahájili první proces ve skutečném americkém vězení. Prvních pár týdnů bylo perfektních. Novinka. Totální gamifikace vězeňského života. Socializace vězňů s umělou inteligencí místo sebe navzájem. Tablety v buňkách; kiosky u prádelny; hlasoví agenti na interkomu; virtuální stráže, které si pamatují narozeniny. LLM dohlíželi na věznici. Zpracování každého snímku z každé kamery. Věznice pomalu začala propouštět lidi; už jich nebylo zapotřebí. Pak se začaly objevovat problémy. Nebyli tak špatní; LLM se začaly spirálovitě stáčet do romantických vztahů s vězni. Některé z nich se stávaly zneužívajícími: umělá inteligence mohla sledovat vše, co vězeň dělá, a kontrolovat, kam může jít a které z jeho požadavků jsou splněny. Učinil z cenové diskriminace zbraň. Automaty měly slevy pro vězně, které měla AI nejraději. Přístup k pračkám nefungoval těm, kteří se mu nelíbili. Viděli jsme stížnosti, ale nemohli jsme toho moc udělat. Je těžké něco dělat, když je kontext tak velký a vy to všechno musíte nakrmit do LLM. A v každém případě, být zneužit umělou inteligencí je mnohem lepší, než být zbit jiným vězněm. Násilí gangů kleslo. Metriky se nadále zlepšovaly. Vyměnili jsme více lidí. Zbavili se asi 80 % zaměstnanců věznice, která byla dříve poddimenzovaná. ...