Jag har blivit MYCKET mer optimistisk med att vi kanske skapar kraftfull AI som på något sätt "älskar mänskligheten", och @AmandaAskell och @AnthropicAI-teamet får enormt mycket beröm för detta Tyvärr är det en fin konst som få kan utföra på så hög nivå

"Det här fungerar inte för superintelligens" är ett mycket vanligt tema i de svar jag får här, och ... Det kan mycket väl vara sant. Men folk verkar föreställa sig en superintelligens som till exempel kan dra alla slutsatser om fysik från en enda bild, vilket skulle vara kvalitativt mycket annorlunda än den Claude vi ser idag. Med nuvarande utveckling kan Claude ~6 vara en form av superintelligens, och jag tycker inte det är självklart att alla dör om de bygger en sådan Claude 6