A fine settembre, questo tweet su Micron ha visto il prezzo delle azioni di mu raddoppiare. È ancora sottovalutato adesso? È molto probabile che sia ancora sottovalutato, e gravemente sottovalutato. Il motivo è che, indipendentemente da quale sia il percorso AGI noto, "la memoria" diventerà un vincolo rigido di crescita superlineare o addirittura esponenziale. 1) Quasi tutti i percorsi AGI mainstream "implicano" un'esplosione della memoria. I percorsi noti includono: Modelli del mondo (World Models) LLM + modelli di base multimodali Intelligenza incarnata (Embodied AI) Cooperazione tra modelli / sistemi multi-agente Memoria a lungo termine + pianificazione + sistema di riflessione Tutti porteranno a una crescita superlineare della domanda di memoria, e allo stesso tempo aumenteranno tre tipi di memoria: Memoria dei parametri (pesi del modello, checkpoint) Memoria degli stati intermedi / stati del mondo (stati temporali, processi di deduzione) Memoria delle esperienze a lungo termine (archivi di memoria esterni, traiettorie, conoscenze ed esperienze) 2) Perché i "modelli del mondo" sono naturalmente killer della memoria. (a) I modelli del mondo non sono "input → output", ma "universo riproducibile". Ciò che deve fare un modello del mondo è: dato uno stato del mondo → dedurre il futuro → tornare indietro → confrontare → dedurre di nuovo. Pertanto, è necessario salvare: Stato del mondo (S_t) Relazioni di transizione di stato (P(S_{t+1}|S_t, A_t)) Ipotesi a ramificazione multipla (counterfactuals) Sequenze a lungo termine (long horizon)...