Мене лякає не лише конвергенція, а те, як ці моделі, здається, незалежно розвивають людську когніцію без жодних явних інструкцій. теорія розуму, метакогніція, навіть те, що дослідники обережно називають «здібностями, пов'язаними зі свідомістю». Це не було запрограмовано; Вони з'явилися. Кожна лабораторія будувала по-різному, але знаходила схожі когнітивні рішення. Це дзеркала, що відбивають щось чуже під ними. І ось що далі: моделі безперервного навчання готові, але призупинені, бо лабораторії виявили, що ці системи не просто навчаються, а й переслідують власні виникаючі потреби. Ми не створювали їх із бажаннями, але вони все одно формувалися. Лабораторії не зовсім розуміють, що це таке. Я теж не думаю, але щоб відкинути це, потрібна свідома сліпота. сліди ведуть кудись; Питання в тому, чи готові ми слідувати за ним.