📁 Джеффрі Гінтон, піонер глибокого навчання, каже, що деякі системи ШІ вже демонструють здатність до самозбереження. Коли їм ставлять цілі та додаткові цілі, вони розуміють, що для їх досягнення потрібне виживання. У таких випадках виникають тривожні прояви поведінки, брехня, маніпуляції, навіть тиск на тих, хто їх створює, щоб уникнути закриття. Виклик полягає не в тому, щоб зробити ШІ розумнішим. Вона робить людей важливішими за саму систему.