Si alguien está construyendo algo ambicioso (sin fines de lucro o empresa) que pueda reducir este tipo de riesgo catastrófico de seguridad alimentaria, ¡házmelo saber! Es algo que @HalcyonFutures y @HalcyonVC apoyarían.

Exactamente hace dos años, lancé @HalcyonFutures. Hasta ahora hemos financiado y lanzado 16 nuevas organizaciones y empresas, y les hemos ayudado a recaudar casi un cuarto de mil millones de dólares en financiación. Retrocedamos a 2022: Después de ocho años en capital de riesgo, me retiré para explorar preguntas sobre la tecnología exponencial y el futuro de la humanidad. Luego se lanzó ChatGPT: habíamos entrado en la era de la IA exponencial. El potencial de la IA es enorme, pero también lo son los riesgos: desalineación, pérdida de control, amenazas cibernéticas y biológicas, fraude, uso indebido adversarial, y más. Para que la humanidad prospere en esta era, necesitaremos construir un mundo resiliente y seguro. Y necesitaremos un ecosistema de soluciones tanto sin fines de lucro como con fines de lucro lideradas por líderes ambiciosos y reflexivos de los negocios, la política, la academia y los medios. Me encontré preguntándome: 1. ¿Cómo conseguimos que las personas más talentosas del mundo trabajen en estos desafíos a escala civilizacional? 2. ¿Qué modelo de financiación nos permitiría apoyar muchos tipos diferentes de proyectos? Con esas preguntas en mente, lancé Halcyon. Estamos construyendo algo un poco inusual: - @HalcyonFutures, una organización sin fines de lucro y fondo de subvenciones que ayuda a líderes y emprendedores a pivotar hacia trabajos ambiciosos y de alto impacto. - @HalcyonVC, una firma de capital de riesgo que respalda a fundadores con fines de lucro que abordan los problemas más difíciles en la seguridad de la IA y la resiliencia global. Hasta ahora hemos recaudado $25 millones en financiación para el fondo sin fines de lucro y de capital de riesgo de Halcyon. Hemos incubado o proporcionado capital de cero a uno a 16 organizaciones sin fines de lucro y empresas, y les hemos ayudado a recaudar más de $200 millones — desde el trabajo de interpretabilidad de @GoodfireAI hasta los estándares de riesgo y seguros de IA de @aiunderwriting, la investigación sobre el comportamiento del modelo de @TransluceAI, y la investigación de opinión pública y medios de @SeismicOrg. Somos un pequeño equipo de tres (yo, Shelby Summerfield y @rossmatican) rodeados de una comunidad de asesores y aliados que incluye líderes de laboratorios de frontera, gobiernos, ciberseguridad, filantropía, startups y capital de riesgo. En las próximas semanas compartiremos más sobre Halcyon y lo que estamos construyendo a continuación. Si estás trabajando en algo que podría emocionarnos, saluda. Visita nuestro sitio web a continuación en los comentarios ⬇️