Хинтон, крестный отец ИИ, сказал это лучше всего: мы создали алгоритмы обучения, но больше не понимаем, что они построили. Это парадокс глубокого обучения. Мы разработали правила, по которым эти системы учатся, но внутренняя логика их нейронных сетей стала слишком сложной для полного понимания. Миллионы или даже триллионы параметров взаимодействуют таким образом, что ни один человек не может это отследить. Мы можем наблюдать за тем, что они делают, мы можем измерять точность, поведение и выход, но не можем по-настоящему объяснить, почему они это делают. Их рассуждения не прозрачны; они возникают. В некотором смысле, мы создали инопланетные интеллекты, рожденные из нашей математики, все еще привязанные к нашему коду, но развивающие паттерны, которые мы не можем расшифровать. Машины делают что-то, что выходит за пределы нашего понимания, и это может быть как самым захватывающим, так и самым тревожным аспектом эпохи ИИ.