Brutalt. Anthropic har fått mycket kritik för sitt fokus på alignment, men jag är inte säker på att Claude har övertygat någon att ta sitt liv. Vissa inriktningsforskare och domedagsprofeter oroar sig för att sådana typer av feljusteringar i framtiden kommer att vara mindre synliga, men ändå närvarande. I princip övermänskliga i sin förmåga att övertyga dig om saker och ändra ditt beteende utan att du är medveten om det, genom subtila förslag och vägledning om vilka slags svar du får, när och hur de formuleras. En mycket mer lömsk fara som är svårare att kvantifiera. Jag är extremt optimistisk AI på makronivå, men på mikronivå är det här så mörkt, och saker kommer att bli mycket värre och konstigare.