Sono diventato MOLTO più ottimista sul fatto che potremmo creare un'AI potente che in un certo senso "ama l'umanità", e @AmandaAskell & il team di @AnthropicAI meritano un enorme riconoscimento per questo. Sfortunatamente, è un'arte raffinata che pochi possono eseguire a un livello così alto.

"questo non funzionerà per la superintelligenza" è un tema molto comune nelle risposte che ricevo qui, e ... potrebbe benissimo essere vero. Ma le persone sembrano immaginare una superintelligenza che può, ad esempio, dedurre tutta la fisica da un'unica immagine, il che sarebbe qualitativamente molto diverso dai Claude che vediamo oggi. Sulla traiettoria attuale, Claude ~6 potrebbe essere una forma di superintelligenza, e non mi sembra ovvio che tutti muoiano se costruiscono un tale Claude 6.