Ubezpieczenia to niedoceniany sposób na odblokowanie bezpiecznego postępu w AI. Ubezpieczyciele są zmotywowani do rzetelnego kwantyfikowania i śledzenia ryzyk: jeśli przeszacują ryzyka, zostaną wyprzedzeni; jeśli niedoszacują ryzyk, ich wypłaty doprowadzą ich do bankructwa. 1/9

Idealnie, chcielibyśmy zarządzać AI w sposób, który: - Przyspiesza rozwój i wdrażanie AI - Kwantyfikuje i zapobiega ryzykom, które naprawdę mają znaczenie Ubezpieczyciele chcą szybkiej adopcji AI (mogą sprzedawać więcej ubezpieczeń AI) -- i unikać poważnych incydentów (oni płacą rachunek)

W rzeczywistości ubezpieczenia odgrywały tę rolę dla nowych fal technologicznych przez co najmniej 270 lat: Ogień: W XVIII wieku populacja Filadelfii wzrosła dziesięciokrotnie. W miarę jak miasto rosło, drewniane domy były coraz bliżej siebie. Ogień spalił miasto. W 1752 roku Benjamin Franklin okiełznał ognie, tworząc pierwszego amerykańskiego ubezpieczyciela od pożarów. Ubezpieczyciel miał interes w zapobieganiu pożarom - płacił za szkody. Franklin stworzył wczesne przepisy budowlane, aby projektować bezpieczniejsze domy i egzekwował je poprzez inspekcje pożarowe. Okiełznanie ognia umożliwiło Filadelfii dalszy rozwój. Samochody: W powojennej Ameryce liczba ofiar śmiertelnych w wypadkach samochodowych gwałtownie wzrosła. Ubezpieczyciele samochodowi pokryli koszty finansowe. W 1959 roku stworzyli Instytut Ubezpieczeń Bezpieczeństwa Drogowego. Ubezpieczyciele opracowali standardy testów zderzeniowych, które zachęcały producentów samochodów do tworzenia bezpieczniejszych pojazdów. Stworzyli zachęty finansowe do przyjęcia pasów bezpieczeństwa i poduszek powietrznych, zanim wprowadzono regulacje. Lepsze samochody sprawiły, że stały się one powszechne - i pomogły uratować setki tysięcy żyć. Energia jądrowa: W 1957 roku ustawa Price-Anderson stworzyła prywatny przemysł energii jądrowej w Ameryce. W jej sercu znajduje się system ubezpieczeń. Został zaprojektowany, aby umożliwić operatorom jądrowym prowadzenie ryzykownych elektrowni z nadzorem rynkowym, jednocześnie finansowo chroniąc ofiary w przypadku wypadku. Prywatne ubezpieczenie pokrywa wypadki do 16 miliardów dolarów, zanim rządowa pomoc zacznie pokrywać ryzyka katastrofalne. Daje to rządowi korzyść z dobrze zmotywowanych prywatnych aktorów rynkowych, którzy nadzorują codzienne zarządzanie ryzykiem. Wracając do AI: Jak dokładnie ubezpieczenia mogłyby zrównoważyć postęp AI i bezpieczeństwo?

Oto sedno sprawy: Ubezpieczyciele mają zachęty i władzę, aby egzekwować od firm, które ubezpieczają, podejmowanie działań w celu zapobiegania istotnym ryzykom. Egzekwują bezpieczeństwo poprzez mechanizm zachęt: Ubezpieczyciele tworzą standardy. Standardy określają, które ryzyka są istotne i co firmy powinny zrobić, aby je zminimalizować. Firmy zajmujące się AI chcą uzyskać certyfikaty zgodności ze standardami, ponieważ pomaga im to zdobyć zaufanie klientów i czyni je uprawnionymi do ubezpieczenia - tak jak widzimy to dzisiaj w zakresie cyberbezpieczeństwa z SOC 2. Standardy następnie wyznaczają poprzeczkę dla audytów. Ubezpieczyciele audytują ryzyka przed ich ubezpieczeniem. Uzyskują dostęp do prywatnych informacji, aby sprawdzić, czy standardy są rzeczywiście spełnione. Audyty nadają standardom moc egzekwowania. Audyty z kolei pozwalają ubezpieczycielom dokładniej wyceniać ryzyko. Kiedy się mylą, aktualizują standardy, aby odzwierciedlały rzeczywiste ryzyka. Ten mechanizm najwyraźniej pojawia się w agentach AI dla ryzyk komercyjnych - ale rozciąga się również na laboratoria i centra danych dla ryzyk katastroficznych.

Koło zamachowe zachęt AI się rozwija: -GitHub ubezpiecza klientów, aby zdobyć zaufanie -Laboratoria łączą się w kwestii zobowiązań dotyczących bezpieczeństwa, tj. wczesne standardy -METR wprowadza oceny techniczne, aby umożliwić lepsze audyty -RAND ustanawia fundamenty dla standardów centrów danych