🦔 Het Pentagon is van plan om AI-bedrijven toe te staan modellen te trainen op geclassificeerde gegevens, volgens MIT Technology Review. Momenteel worden modellen zoals Claude gebruikt in geclassificeerde omgevingen om vragen te beantwoorden, waaronder het analyseren van doelwitten in Iran, maar ze leren niet van de gegevens. Training zou dat veranderen. Een voormalige AI-beleidsleider bij Google en OpenAI vertelde MIT dat het grootste risico is dat geclassificeerde informatie weer opduikt bij gebruikers die er geen toegang toe zouden moeten hebben, aangezien verschillende militaire afdelingen met verschillende beveiligingsniveaus dezelfde AI zouden delen. Mijn mening Ik denk dat het probleem van compartmentalisatie hier de aandacht verdient. Geclassificeerde informatie is om een reden gescheiden, met verschillende programma's, verschillende beveiligingsniveaus en verschillende behoefte-om-te-weten vereisten. Als je een model traint op gegevens uit meerdere compartimenten, begrijpt het model die grenzen niet en heeft het gewoon de informatie. Ik maak me minder zorgen over het uitlekken van geclassificeerde gegevens naar het openbare internet, aangezien de infrastructuur bestaat om dat te voorkomen. Wat me zorgen baart, is een model dat tegelijkertijd is getraind op signalenintelligentie, menselijke intelligentie en operationele planning, dat begint met het leggen van verbanden tussen compartimenten op manieren die het hele punt van compartmentalisatie schenden. Dit gebeurt ook terwijl het Pentagon zich haast om een "AI-eerste oorlogsvoering kracht" te worden tijdens een escalerend conflict met Iran, wat druk creëert om snel te handelen. Snel handelen met AI-systemen die geclassificeerde gegevens verwerken, is hoe je mislukkingen krijgt die pas zichtbaar worden als ze catastrofaal zijn. De defensiefunctionaris zei dat ze de nauwkeurigheid eerst op niet-geclassificeerde gegevens zouden evalueren, wat de juiste instinct is, maar ik zou willen weten hoe lang die evaluatieperiode duurt voordat de druk om te implementeren de overhand krijgt. Hedgie🤗