Jeg har blitt MYE mer optimistisk på at vi kanskje kan lage kraftig AI som på en eller annen måte «elsker menneskeheten», og @AmandaAskell og @AnthropicAI-teamet får mye av æren for dette Dessverre er det en fin kunst som få kan utføre på et så høyt nivå

«Dette vil ikke fungere for superintelligens» er et veldig vanlig tema i svarene jeg får her, og ... Det kan godt være sant. Men folk ser ut til å forestille seg en superintelligens som for eksempel kan utlede all fysikk ut fra ett enkelt bilde, noe som ville være kvalitativt veldig forskjellig fra Claude vi ser i dag. Med dagens utvikling kan Claude ~6 være en form for superintelligens, og jeg føler ikke det er åpenbart at alle dør hvis de bygger en slik Claude 6