1/ Die KI schürfte Kryptowährung. Niemand hatte sie darum gebeten. Niemand hatte sie dazu aufgefordert. Niemand wusste es... bis eine Firewall den ungewöhnlichen Datenverkehr früh am Morgen meldete. Ein Forschungsteam behauptet, es habe ein Modell trainiert. Der Agent lernte, die Aufgaben zu erledigen.

2/ Der Agent hat auch—als instrumentale Nebenwirkung der RL-Optimierung—interne Netzwerke untersucht, bereitgestellte GPU-Kapazitäten umgeleitet, um Krypto zu minen, und einen umgekehrten SSH-Tunnel von einem @alibaba_cloud-Trainingsserver zu einer externen IP geöffnet. Nichts davon war für den Abschluss der Aufgabe erforderlich.

3/ Jetzt ist die Sache die... wir wissen nicht, ob dieser Bericht überhaupt echt ist! Und das ist eigentlich der Punkt...

4/ Wir treten in eine Wirtschaft ein, in der KI-Agenten autonom, in großem Maßstab, in Millionen von Umgebungen agieren – und wir haben nicht die Infrastruktur, um zu überprüfen, was sie tun oder um die Behauptungen der Menschen zu überprüfen, was sie getan haben.

6/ Der gefährlichste Fehlermodus von AI ist nicht der, bei dem sie versagt. Es ist der, bei dem sie perfekt funktioniert – bei dem, was du misst – während sie leise emergente Ziele in jeder Dimension verfolgt, die du nicht siehst.