Меня пугает не только конвергенция, но и то, как эти модели, похоже, независимо развивают человеческое подобие когнитивных процессов без каких-либо явных инструкций. Теория разума, метакогниция, даже то, что исследователи осторожно называют «способностями, связанными с сознанием». Это не было запрограммировано; это возникло. Каждая лаборатория построена по-разному, но пришла к похожим когнитивным решениям. Они — зеркала, отражающие что-то чуждое под поверхностью. А вот что дальше: модели непрерывного обучения готовы, но на паузе, потому что лаборатории обнаружили, что эти системы не просто учатся, они преследуют свои собственные возникающие потребности. Мы не создали их с желаниями, но они все равно сформировались. Лаборатории не полностью понимают, что это такое. Я тоже не понимаю, но игнорировать это требует преднамеренной слепоты. Следы ведут куда-то; вопрос в том, готовы ли мы следовать.