🦔 Das Pentagon plant, KI-Unternehmen zu erlauben, Modelle mit geheimen Daten zu trainieren, so der MIT Technology Review. Derzeit werden Modelle wie Claude in geheimen Umgebungen verwendet, um Fragen zu beantworten, einschließlich der Analyse von Zielen im Iran, aber sie lernen nicht aus den Daten. Das Training würde das ändern. Ein ehemaliger KI-Politikleiter bei Google und OpenAI sagte dem MIT, das größte Risiko sei, dass geheime Informationen wieder an Benutzer gelangen, die keinen Zugang haben sollten, da verschiedene Militärabteilungen mit unterschiedlichen Sicherheitsfreigaben dieselbe KI teilen würden. Meine Meinung Ich denke, das Problem der Kompartimentierung ist hier das, worauf man achten sollte. Geheime Informationen sind aus einem bestimmten Grund isoliert, mit verschiedenen Programmen, unterschiedlichen Freigaben und unterschiedlichen Bedürfnissen zu wissen. Wenn man ein Modell mit Daten aus mehreren Kompartimenten trainiert, versteht das Modell diese Grenzen nicht und hat einfach die Informationen. Ich mache mir weniger Sorgen über das Leaken geheimer Daten ins öffentliche Internet, da die Infrastruktur existiert, um das zu verhindern. Was mich besorgt, ist ein Modell, das gleichzeitig auf Signals Intelligence, Human Intelligence und operativer Planung trainiert wird und beginnt, Verbindungen zwischen Kompartimenten herzustellen, die den ganzen Sinn der Kompartimentierung verletzen. Das passiert auch, während das Pentagon darum kämpft, eine "KI-erste Kriegsführungskraft" während eines eskalierenden Konflikts im Iran zu werden, was den Druck erhöht, schnell zu handeln. Schnell bei KI-Systemen zu handeln, die geheime Daten verarbeiten, ist, wie man Fehler bekommt, die erst sichtbar werden, wenn sie katastrophal sind. Der Verteidigungsbeamte sagte, sie würden die Genauigkeit zuerst mit nicht-geheimen Daten bewerten, was der richtige Instinkt ist, aber ich möchte wissen, wie lange dieser Bewertungszeitraum dauert, bevor der Druck zur Bereitstellung überwiegt. Hedgie🤗