Je suis devenu BEAUCOUP plus optimiste quant à la possibilité de créer une IA puissante qui, d'une certaine manière, "aime l'humanité", et @AmandaAskell & l'équipe de @AnthropicAI méritent une énorme reconnaissance pour cela Malheureusement, c'est un art délicat que peu peuvent réaliser à un tel niveau

"cela ne fonctionnera pas pour la superintelligence" est un thème très courant dans les réponses que je reçois ici, et ... cela pourrait bien être vrai. Mais les gens semblent imaginer une superintelligence qui peut, par exemple, déduire toute une physique à partir d'une seule image, ce qui serait qualitativement très différent des Claudes que nous voyons aujourd'hui. Sur la trajectoire actuelle, Claude ~6 pourrait être une forme de superintelligence, et je ne pense pas qu'il soit évident que tout le monde meurt s'ils construisent un tel Claude 6.