🦔 Le Pentagone prévoit de permettre aux entreprises d'IA de former des modèles sur des données classifiées, selon MIT Technology Review. Actuellement, des modèles comme Claude sont utilisés dans des environnements classifiés pour répondre à des questions, y compris l'analyse des cibles en Iran, mais ils n'apprennent pas des données. La formation changerait cela. Un ancien responsable des politiques d'IA chez Google et OpenAI a déclaré à MIT que le plus grand risque est que des informations classifiées soient rediffusées à des utilisateurs qui ne devraient pas y avoir accès, puisque différents départements militaires avec différents niveaux de sécurité partageraient la même IA. Mon avis Je pense que le problème de la compartimentation est celui à surveiller ici. Les informations classifiées sont isolées pour une raison, avec différents programmes, différentes autorisations et différentes exigences de besoin de savoir. Si vous formez un modèle sur des données provenant de plusieurs compartiments, le modèle ne comprend pas ces limites et a simplement l'information. Je suis moins inquiet pour les données classifiées qui fuiraient sur Internet public puisque l'infrastructure existe pour empêcher cela. Ce qui m'inquiète, c'est un modèle formé sur le renseignement d'origine signal, le renseignement humain et la planification opérationnelle en même temps, commençant à établir des connexions entre les compartiments de manière à violer tout le principe de la compartimentation. Cela se produit également alors que le Pentagone s'efforce de devenir une "force de combat priorisant l'IA" pendant un conflit croissant avec l'Iran, ce qui crée une pression pour agir rapidement. Agir rapidement sur des systèmes d'IA qui traitent des données classifiées est la façon dont vous obtenez des échecs qui ne se manifestent qu'une fois qu'ils sont catastrophiques. Le responsable de la défense a déclaré qu'ils évalueraient d'abord l'exactitude sur des données non classifiées, ce qui est le bon instinct, mais je voudrais savoir combien de temps cette période d'évaluation dure avant que la pression pour déployer ne l'emporte.