Așadar, avem modele agențice puternice ca Opus, dar acestea nu prezintă impulsuri de căutare a puterii, înclinații de a minți și așa mai departe. Nu este aceasta o lovitură fatală pentru argumentele apocalipticilor AI că aceste trăsături ar (a) apărea neapărat cu capacități superioare și (b) ar fi greu de controlat?

Îmi amintesc când "permiterea modelor acces neautorizat la internet" era o linie roșie critică pe care umanitatea pur și simplu nu o putea depăși. Se pare că toți acești oameni pur și simplu au greșit sau cel puțin ar trebui să mute destul de mult obiectivele.