Multe lucruri diferite s-au desfășurat în timp, astfel încât algoritmii au ajuns să fie cauzali, nu consecințe Oamenii optimizează acum pentru algoritm, care, la rândul său, se transformă în bucle de feedback asupra a ceea ce primește în acesta, ceea ce s-a acumulat iremediabil într-un cerc de feedback negativ

Lucrurile care stăteau la baza [motivului pentru care algoritmii aveau] valoare în inferențele lor s-au diminuat complet Un exemplu microcosmos (necuprinzător): obișnuiai să urmărești 100 de oameni pe care îi cunoști cu adevărat. Toți au urmat cei 100 de oameni pe care îi cunosc cu adevărat. Reciprocitatea de gradul doi era neapărat relevantă pentru tine. ceea ce însemna că cei de urmat algoritmi recurgeau la intrări cu valori mari de inferență pentru un ciclu virtuos al grafului rezultat Acest lucru nu mai este valabil pentru nicio acumulare, sau acolo unde este, în moduri mici, este de asemenea în scădere ireversibilă (și deja depășește punctul de cotitură al unei ponderări greșite) Ceea ce este aproximativ similar cu conversația lui Jeff Bezos despre optimizarea metricilor (inițial există un *motiv*, un set de principii de bază pentru care optimizezi, iar metricile sunt un proxy pentru aceasta. În cele din urmă, metricile devin deconectate, dar sunt totuși optimizate pentru)

Algoritmii, pentru o clipă foarte scurtă, au fost bucle de feedback pe ceea ce acum par a fi intrări cu valori mari de inferență (care par accidentale), care duceau un ciclu virtuos al propriilor rezultate de acțiune (și al indicelui acestora, care apoi devine un circuit de feedback interconectat) datele sunt bune doar la fel de bune pe cât poate fi dedus efectiv, iar supra-modelarea și supraindexarea pe atenție, nu pe vectorii de conexiune, i-au redus în cicluri vicioase, departe de propria lor valoare de intrare

Acest lucru se va întâmpla (deja a început) să se întâmple pentru AI, care este tot un cerc vicios asupra intrărilor. Doar că asta se va întâmpla mult mai repede