Een 16-jarige student kan al functionele protheses maken met LEGO, dat is best schokkend! Naar mijn mening groeit de ontwikkeling van robotica en engineeringtalent veel sneller dan de evolutie van systemen en infrastructuur. Wanneer de drempels blijven dalen en de capaciteiten toenemen, is het echte risico niet langer dat een kleine groep de controle heeft, maar of een ondoorzichtig systeem de controle overneemt. Als deze toekomstige ingenieurs terechtkomen in een wereld waar black boxes heersen, en vertrouwen alleen kan worden behouden door middel van verklaringen van fabrikanten en achteraf uitleg, dan zal zelfs het slimste ontwerp moeilijk door de samenleving worden geaccepteerd. Wat we moeten doen, is niet alleen talent ontwikkelen, maar ook de basis leggen. Een wereld van autonome systemen die standaard verifieerbaar, controleerbaar en beheersbaar zijn. Daar is het gedrag van het systeem niet gebaseerd op vertrouwen dat het goed is, maar kan het worden bewezen dat het daadwerkelijk volgens de regels functioneert. De volgende generatie ingenieurs zou niet de ondoorzichtige AI moeten erven. Ze zouden een verifieerbare autonomie als algemeen besef moeten erven. #KaitoYap @KaitoAI #Yap @inference_labs