Mamy teraz potężne modele agentowe, takie jak Opus, ale nie wykazują one dążeń do zdobywania władzy, skłonności do kłamstwa i tym podobnych. Czy to nie jest śmiertelny cios dla argumentów doomerów AI, że te cechy (a) koniecznie pojawią się przy wyższych zdolnościach i (b) będą trudne do kontrolowania?

Pamiętam, kiedy „pozwolenie modelom na nieautoryzowany dostęp do internetu” było krytyczną czerwoną linią, której ludzkość po prostu nie mogła przekroczyć. Wygląda na to, że wszyscy ci ludzie się mylili, albo przynajmniej muszą przesunąć bramki bardzo daleko.