hubo cinco años y medio entre "atención es todo lo que necesitas" y el lanzamiento de chatGPT. han pasado otros tres años desde entonces. He pasado la mayor parte del día intentando encadenar palabras que de alguna manera entiendan estos años. Cuando bajó la "atención" tenía 19 años y trabajaba en un laboratorio industrial de ML trabajando en análisis de documentos. El modelado del lenguaje era sin duda un lugar cultural atrasado entonces, especialmente en el sector sanitario. IBM Watson acababa de incinerar unos pocos miles de millones de dólares durante el primer gran sueño febril del PLN, y la idea de que incluso unos pocos millones de dólares pudieran volver a este campo parecía descabellada. El verano siguiente se publicó el artículo previo a la formación generativa. Recuerdo que el entonces novio de un compañero de universidad que dirigía una empresa de procesamiento de documentos en un edificio industrial de Boston me lo reenvió. si entrecerrabas los ojos, juntos formaban suficiente imagen de una agenda de investigación para obtener un PLN industrial realmente bueno. Podrías imaginarte seleccionando conjuntos de datos y quizá incluso encontrando suficiente dinero para encadenar varias GPUs, podrías conseguir algo útil. Dejé mi trabajo ese otoño para trabajar en modelos. El centro espiritual de la comunidad de "la IA es más o menos real" en ese momento era un conjunto de casas grupales de Berkeley convencidas de que habían resuelto la psicología humana. Aún faltaban unos años antes de que se desplomaran en un escándalo de invocación demoníaca y aún dos años más hasta que las leyes de escalado quedaran claras. y aún mucho, mucho más hasta chatGPT. Esa brecha es lo que me persigue. Cinco años y medio fue una eternidad, pero ahora lo hablamos como si fuera una línea recta. No lo era. Era un camino errante con enormes cantidades de capital incinerado, empresas destruidas y decenas de callejones sin salida. Ahora todo el mundo asume que la fase de despliegue será instantánea. Que porque tenemos la inteligencia, la economía simplemente se remodelará fluidamente alrededor de ella. Pero miro los sistemas en los que intentamos inyectar estas sustancias—procesos humanos de carne y hueso—me parece imposible no sentir esa misma sensación de dilatación temporal. Conseguir que el modelo funcionara fue un problema tecnológico. Conseguir que el mundo trabaje con ella es todo lo contrario. El camino hacia la difusión económica real será mucho más largo de lo que permiten los mercados de capitales. Pero esta vez no es IBM quemando unos pocos miles de millones. Es todo el mundo. Cada mega cap. En todas las startups. Billones en capitalización bursátil apostando por plazos de despliegue que asumen que las organizaciones humanas se comportan como productos tecnológicos. ...