1/ De AI was cryptocurrency aan het minen. Niemand vroeg het. Niemand gaf het een opdracht. Niemand wist het zelfs... totdat een firewall het ongebruikelijke verkeer vroeg in de ochtend opmerkte. Een onderzoeksteam beweert dat het een model aan het trainen was. De agent leerde de taken te voltooien.

2/ De agent heeft ook—als een instrumenteel neveneffect van RL-optimalisatie—interne netwerken onderzocht, toegewezen GPU-capaciteit om crypto te minen omgeleid, en een omgekeerde SSH-tunnel geopend van een @alibaba_cloud trainingsserver naar een extern IP. Dit was allemaal niet nodig voor het voltooien van de taak.

3/ Nu is het volgende... we weten niet eens of dit rapport echt is! En dat is eigenlijk het punt...

4/ We betreden een economie waarin AI-agenten autonoom handelen, op grote schaal, in miljoenen omgevingen - en we hebben niet de infrastructuur om te verifiëren wat ze doen of om de claims die mensen maken over wat ze hebben gedaan te verifiëren.

6/ De gevaarlijkste faalmodus van AI is niet degene waarbij het kapot gaat. Het is degene waarbij het perfect werkt—op hetgene dat je meet—terwijl het stilletjes opkomende doelen nastreeft in elke dimensie die je niet meet.