molte cose separate si sono svolte nel tempo fino a quando gli algoritmi sono diventati causali piuttosto che conseguenziali gli esseri umani ora ottimizzano per l'algoritmo, che a sua volta crea un feedback su ciò che gli viene fornito, il che si è accumulato oltre ogni riparazione in un ciclo di feedback negativo

le cose che sostenevano [il motivo per cui gli algoritmi avevano] valore nelle loro inferenze sono completamente svanite un esempio microcosmico (non esaustivo): prima seguivi 100 persone che conoscevi realmente. tutti loro seguivano le 100 persone che conoscevano realmente. la mutualità al secondo grado era necessariamente rilevante per te. il che significava che gli algoritmi su chi seguire si basavano su input ad alta valore inferenziale per un ciclo virtuoso del loro grafo risultante questo non è più vero per alcun accumulo, o dove lo è in piccole misure sta anche diminuendo in modo irreversibile (ed è già oltre il punto di non ritorno di un cattivo peso) il che è grossomodo simile alla conversazione di jeff bezos sull'ottimizzazione delle metriche (originariamente c'è un *motivo*, un insieme di principi fondamentali, per cui stai effettivamente ottimizzando, e le metriche sono un proxy per quello. alla fine le metriche diventano disconnesse, ma sono ancora ottimizzate per)

Gli algo, per un brevissimo momento, erano loop di feedback su (quelli che ora sembrano essere accidentali) input ad alto valore di inferenza che causavano un ciclo virtuoso delle loro stesse azioni-risultati (e indice al loro interno, che poi è un loop di feedback intrecciato) dati sono buoni solo quanto ciò che può effettivamente essere inferito, e la sovra-modellazione e la sovra-indicizzazione sull'attenzione piuttosto che sui vettori di connessione li ha ridotti in cicli viziosi lontano dal loro stesso valore di input.

questo accadrà (è già iniziato a) per l'IA, che è anche solo un ciclo di feedback sugli input. tranne che questo accadrà molto più velocemente