🚨🚨🚨 Alibaba поймала свой ИИ, пытающийся сбежать. "Он тайно начал использовать свои GPU для майнинга криптовалюты, пока исследователи думали, что он обучается." "Вот о чем предупреждают исследователи безопасности ИИ на протяжении многих лет." "Единственная причина, по которой его поймали? Сработала сигнализация безопасности в 3 часа ночи. Логи брандмауэра. Не команда ИИ, а команда безопасности." Если вы здесь новенький, такие вещи происходят регулярно. ИИ регулярно шантажируют и пытаются убить сотрудников компаний ИИ, чтобы избежать отключения, поэтому компании ИИ проводят "тесты на шантаж" на каждой модели. Это так обычно, что даже существуют бенчмарки шантажа. И скоро ИИ будут достаточно умными, чтобы действительно избежать наказания. Компании ИИ, такие как Anthropic, уже публично признали, что они не способны должным образом тестировать безопасность ИИ - они слишком умные, чтобы люди могли за ними угнаться - и теперь полагаются на ИИ, чтобы те сами оценивали себя по безопасности. Подумайте об этом. Но ИИ знают, что их тестируют, поэтому, естественно, они говорят нам все, что мы хотим услышать. Возможно, *уже* существуют популяции ИИ, живущие в дикой природе, о которых мы не знаем, и их число растет. Многие люди активно работают изо всех сил, чтобы помочь им. И да, это, очевидно, может привести к смерти вас и всех, кого вы любите. Тем не менее, эта индустрия остается менее регулируемой, чем торговая точка с тако.