Si quelqu'un construit quelque chose d'ambitieux (organisation à but non lucratif ou entreprise) qui peut réduire ce type de risque catastrophique pour la sécurité alimentaire, faites-le moi savoir ! C'est quelque chose que @HalcyonFutures et @HalcyonVC soutiendraient.

Il y a exactement deux ans, j'ai lancé @HalcyonFutures. Jusqu'à présent, nous avons financé et lancé 16 nouvelles organisations et entreprises, et les avons aidées à lever près d'un quart de milliard de dollars en financement. Retour en 2022 : Après huit ans dans le capital-risque, je me suis retiré pour explorer des questions sur la technologie exponentielle et l'avenir de l'humanité. Puis ChatGPT a été lancé – nous étions entrés dans l'ère de l'IA exponentielle. Le potentiel de l'IA est énorme – mais les risques le sont tout autant : désalignement, perte de contrôle, menaces cybernétiques et biologiques, fraude, utilisation malveillante, et plus encore. Pour que l'humanité prospère dans cette ère, nous devrons construire un monde résilient et sécurisé. Et nous aurons besoin d'un écosystème de solutions à la fois à but non lucratif et à but lucratif dirigé par des leaders ambitieux et réfléchis issus des affaires, de la politique, du milieu universitaire et des médias. Je me suis retrouvé à me poser les questions suivantes : 1. Comment faire en sorte que les personnes les plus talentueuses au monde travaillent sur ces défis à l'échelle de la civilisation ? 2. Quel modèle de financement nous permettrait de soutenir de nombreux types de projets ? Avec ces questions en tête, j'ai lancé Halcyon. Nous construisons quelque chose d'un peu inhabituel : - @HalcyonFutures, une organisation à but non lucratif et un fonds de subventions qui aide les leaders et les entrepreneurs à se réorienter vers un travail ambitieux et à fort impact. - @HalcyonVC, une société de capital-risque soutenant des fondateurs à but lucratif s'attaquant aux problèmes les plus difficiles en matière de sécurité de l'IA et de résilience mondiale. Jusqu'à présent, nous avons levé 25 millions de dollars pour le fonds à but non lucratif et de capital-risque de Halcyon. Nous avons incubé ou fourni un capital de zéro à un à 16 organisations à but non lucratif et entreprises, et les avons aidées à lever plus de 200 millions de dollars — du travail d'interprétabilité de @GoodfireAI aux normes et assurances de risque IA de @aiunderwriting, à la recherche sur le comportement des modèles de @TransluceAI, et à la recherche d'opinion publique et aux médias de @SeismicOrg. Nous sommes une petite équipe de trois (moi, Shelby Summerfield et @rossmatican) entourée d'une communauté de conseillers et d'alliés qui comprend des leaders de laboratoires de pointe, des gouvernements, de la cybersécurité, de la philanthropie, des startups et du capital-risque. Au cours des prochaines semaines, nous partagerons plus d'informations sur Halcyon et ce que nous construisons ensuite. Si vous travaillez sur quelque chose qui pourrait nous intéresser, faites-le nous savoir. Visitez notre site web ci-dessous dans les commentaires ⬇️