Karan och Rahuls envishet i att faktiskt få detta att hända är verkligen inspirerande. Om det inte hade varit för dem kunde det lätt ha tagit ytterligare ett år innan vi hade en studie av den här kvaliteten, som försenade bildandet av en ny vårdstandard och kostade tusentals liv. Det är så här praxis för att få AGI att gynna mänskligheten ser ut.

Detta är ett mycket viktigt arbete. IMO är den mest underutforskade AI-politiska idén säkerhet och spårbarhet i försörjningskedjan, vilket verkar som om det kan bli avgörande för att göra uttalanden om modellers säkerhetsegenskaper.

Vi ser mycket snabbare AI-framsteg än vad **Paul Christiano** och **Yudkowsky** förutspådde, som hade guld 2025 på 8 % respektive 16 %, med metoder som är mer generella än väntat

Försäkring är ett underskattat sätt att låsa upp säkra AI-framsteg. Försäkringsbolag uppmuntras att sanningsenligt kvantifiera och spåra risker: om de överdriver riskerna blir de utkonkurrerade; Om de underskattar riskerna kommer de att gå i konkurs genom sina utbetalningar. 1/9

omöjligt att hålla jämna steg med alla dessa nya EA-orsaksområden

något något METR bra bc publicering mot sina priors bla bla allt jag bryr mig om är att detta rättfärdigar min inkompetens när det gäller att använda modeller för mitt faktiska arbete

Jag vill bara att alla ska ta ett djupt andetag och inte glömma bort det faktum att San Francisco suger NYC:s regler och alltid kommer att göra det

Jag vill bara att alla ska ta ett djupt andetag och inte tappa ur sikte det faktum att San Francisco suger NYC regler alltid kommer och hävdar något annat är klara

Jag vill bara att alla ska ta ett djupt andetag och inte glömma bort det faktum att San Francisco suger NYC:s regler och alltid kommer att göra det

verkar bra