Wat zijn de recente uitgaven van de Amerikaanse luchtmacht? De Amerikaanse luchtmacht heeft tot 87 miljoen dollar geïnvesteerd in onderzoek naar robots en autonome systemen. Autonome capaciteiten zijn niet langer een conceptvalidatie, maar zijn nu op een echt strategisch niveau gekomen. Maar wanneer autonome systemen beginnen deel te nemen aan militaire besluitvorming en uitvoering, is alleen sneller en slimmer zijn niet genoeg. Zonder verifieerbare autonome systemen is er sprake van een nationaal risico. Als niet kan worden bevestigd of het model is vervangen, of de redenering is gemanipuleerd, of de beslissingen volgens de vastgestelde regels zijn uitgevoerd, dan is zelfs de meest geavanceerde robot slechts een niet-auditabele zwarte doos. Logboeken en verklaringen van fabrikanten kunnen de militaire verantwoordelijkheid niet dragen; een niet-rechthandhavingsfout kan onomkeerbare kosten met zich meebrengen. Dit is precies de reden waarom verificatie een centrale plaats moet innemen in defensieve autonome systemen. Geen achteraf evalueren, maar vooraf beperken; niet geloven dat het systeem geen problemen zou moeten hebben, maar kunnen bewijzen dat het inderdaad volgens de regels heeft gewerkt! In militaire scenario's kan autonomie niet op grote schaal worden ingezet zonder cryptografisch bewijs als grens, en kan het ook geen langdurig veiligheidsvoordeel opleveren. Echte betrouwbare defensieve autonome systemen moeten zijn gebaseerd op verifieerbare berekeningen, en niet op aannames van vertrouwen. Wanneer autonome systemen een basiscapaciteit worden, is het net zo belangrijk om te bewijzen dat ze het goed hebben gedaan als om ze dingen te laten doen! #KaitoYap @KaitoAI #Yap @inference_labs