🦔 Пентагон планирует позволить компаниям по разработке ИИ обучать модели на засекреченных данных, согласно MIT Technology Review. В настоящее время такие модели, как Claude, используются в засекреченных условиях для ответов на вопросы, включая анализ целей в Иране, но они не учатся на данных. Обучение изменит это. Бывший руководитель политики ИИ в Google и OpenAI сказал MIT, что наибольший риск заключается в том, что засекреченная информация может быть возвращена пользователям, которые не должны иметь к ней доступ, поскольку разные военные ведомства с разными уровнями допуска будут использовать один и тот же ИИ. Мое мнение Я думаю, что проблема компартментализации — это то, на что стоит обратить внимание. Засекреченная информация изолирована по определенной причине, с разными программами, разными уровнями допуска и разными требованиями к необходимости знать. Если вы обучаете модель на данных из нескольких компартментов, модель не понимает этих границ и просто имеет информацию. Меня меньше беспокоит утечка засекреченных данных в публичный интернет, поскольку существует инфраструктура, чтобы этого предотвратить. Меня беспокоит модель, обученная на сигнальной разведке, человеческой разведке и оперативном планировании одновременно, которая начинает связывать точки между компартментами таким образом, что нарушает всю суть компартментализации. Это также происходит в то время, как Пентагон стремится стать "войсковой силой с приоритетом на ИИ" в условиях нарастающего конфликта с Ираном, что создает давление на быстрое движение. Быстрое движение в системах ИИ, которые обрабатывают засекреченные данные, — это то, как вы получаете сбои, которые не проявляются, пока не станут катастрофическими. Официальный представитель обороны сказал, что они сначала оценят точность на незасекреченных данных, что является правильным инстинктом, но я хотел бы знать, как долго продлится этот период оценки, прежде чем давление на развертывание возобладает.