Esta demostración de chatgpt es realmente interesante y va más allá de lo que pensaba que se podría resolver con una sola consulta a gpt pro. Sin embargo, me pregunto cuántos problemas de Erdos seguirán a un teorema de Erdos.

Nuevos estudios estudian cuando los métodos de gradiente espectral (por ejemplo, Muon) ayudan en el aprendizaje profundo: 1. Identificamos una forma generalizada de mal condicionamiento en DL: las matrices post-activaciones tienen rango bajo y estable. 2. Luego explicamos por qué los métodos espectrales pueden funcionar bien a pesar de esto. Hilo largo

Durante el programa de LLM de Simons el otoño pasado, @mahdisoltanol preguntó si este ineq es cierto para la distribución. p y q: Dkl(p,q) · ∑i pi(pi−qi) ≤ ∑i pi · (pi−qi) ln(pi/qi) Algunos de nosotros nos obsesionamos con el límite. Recuerdo @jasondeanlee me quedé despierto hasta tarde buscando contraejemplos.