L'assurance est un moyen sous-estimé de débloquer des progrès sécurisés en IA. Les assureurs sont incités à quantifier et à suivre les risques de manière honnête : s'ils exagèrent les risques, ils se font devancer ; s'ils sous-estiment les risques, leurs paiements les mettent en faillite. 1/9

Idéalement, nous devrions réguler l'IA de manière à ce que : - Accélérer le développement et le déploiement de l'IA - Quantifier et prévenir les risques qui comptent vraiment Les assureurs veulent une adoption rapide de l'IA (ils peuvent vendre plus d'assurances IA) -- et éviter des incidents graves (ils paient la facture)

En fait, l'assurance a joué ce rôle pour les nouvelles vagues technologiques depuis au moins 270 ans : Incendie : Dans les années 1700, la population de Philadelphie a été multipliée par dix. À mesure que la ville grandissait, les maisons en bois étaient de plus en plus rapprochées. Le feu a ravagé la ville. En 1752, Benjamin Franklin a apprivoisé les incendies en créant le premier assureur incendie d'Amérique. L'assureur avait un intérêt à prévenir les incendies - il payait pour les dommages. Franklin a créé des codes de construction précoces pour concevoir des maisons plus sûres et les a appliqués par le biais d'inspections incendie. Apprivoiser les incendies a permis à Philadelphie de continuer à croître. Voitures : Dans l'Amérique d'après-guerre, le nombre de décès dus aux accidents de voiture a fortement augmenté. Les assureurs automobiles ont payé la facture financière. En 1959, ils ont créé l'Institut d'assurance de la sécurité routière. Les assureurs ont développé des normes pour les tests de collision qui ont incité les fabricants de voitures à concevoir des voitures plus sûres. Ils ont créé des incitations financières pour l'adoption de ceintures de sécurité et d'airbags avant que la réglementation n'intervienne. De meilleures voitures ont rendu la circulation automobile courante plus sûre - et ont aidé à sauver des centaines de milliers de vies. Énergie nucléaire : En 1957, la loi Price-Anderson a créé l'industrie privée de l'énergie nucléaire en Amérique. Au cœur de celle-ci se trouve un système d'assurance. Il a été conçu pour permettre aux opérateurs nucléaires de faire fonctionner des centrales à risque avec une surveillance du marché, tout en protégeant financièrement les victimes en cas d'accident. L'assurance privée couvre les accidents jusqu'à 16 milliards de dollars avant qu'un soutien gouvernemental n'intervienne pour couvrir les risques catastrophiques. Cela donne au gouvernement l'avantage d'acteurs privés bien incités qui supervisent la gestion quotidienne des risques. Revenons à l'IA : Comment, exactement, l'assurance pourrait-elle équilibrer les progrès de l'IA et la sécurité ?

Voici l'essentiel : Les assureurs ont des incitations et le pouvoir d'exiger que les entreprises qu'ils assurent prennent des mesures pour prévenir les risques qui comptent. Ils imposent la sécurité grâce à un mécanisme d'incitation : Les assureurs créent des normes. Les normes définissent quels risques sont importants et ce que les entreprises doivent faire pour les prévenir. Les entreprises d'IA souhaitent se certifier selon ces normes car cela les aide à gagner la confiance de leurs clients et les rend éligibles à l'assurance - tout comme nous le voyons aujourd'hui dans la cybersécurité avec le SOC 2. Les normes établissent ensuite le niveau pour les audits. Les assureurs audite les risques avant de les assurer. Ils ont accès à des informations privées pour voir si les normes sont réellement respectées. Les audits donnent du poids aux normes pour leur application. Les audits permettent à leur tour aux assureurs de tarifer le risque de manière plus précise. Lorsqu'ils se trompent, ils mettent à jour les normes pour refléter les risques réels. Ce mécanisme émerge le plus clairement dans les agents d'IA pour les risques commerciaux - mais il s'étend aux laboratoires et aux centres de données pour les risques catastrophiques.

Le flywheel d'incitation à l'IA émerge : -GitHub assure aux clients de gagner leur confiance -Les laboratoires se regroupent sur des engagements de sécurité, c'est-à-dire des normes précoces -METR pousse les évaluations techniques pour permettre de meilleures audits -RAND établit une base pour les normes des centres de données