Una nota interessante nelle guerre dell'IA sarà come La Lezione Amara si applica al capitale umano che lavora sull'IA. Da un lato c'è questa corsa all'assunzione (Google, Microsoft, Meta) e i tipi di assunzioni (PhD, esperti umani) che vengono fatte in questo momento, dall'altro lato l'approccio xAI (approcci computerizzati e sintetici). Pagare una persona $1B O comprare $1B di potenza di calcolo in più.

.@JonathanRoss321 (l'inventore e padre del TPU) e io abbiamo fatto questa scommessa nel 2017. @GroqInc è ora la soluzione di inferenza più veloce sul mercato oggi. Ecco alcune lezioni apprese finora: - se assumiamo di arrivare a una Super Intelligenza e poi a una Intelligenza Generale, l'intero gioco convergerà all'Inferenza. L'architettura di design per l'Inferenza non potrebbe essere più diversa rispetto a quella per l'Addestramento. Considerazioni completamente diverse in termini di memoria e potenza. La velocità è fondamentale. - Inizia su un nodo di processo provato, economico e altamente disponibile e rimani su quella curva. Aggiungere complessità (cioè 2nm) e problemi di resa in un chip di Inferenza porterà a un costo per token di output che non avrà senso commercialmente. - Si tratta tutto di disponibilità e diversità del modello. Se il tuo chip è essenzialmente un ASIC per un modello, dovrai usarlo a mega scala internamente (cioè Google e TPU) oppure dovrai incentivare le aziende di app a costruirlo (cioè Amazon con Anthropic e Inferentia). Comunque, sono un grande fan della direzione, ma Meta dovrà evitare alcune buche nella strategia di esecuzione. Auguro loro il meglio - più soluzioni sono meglio secondo me.

O chiunque faccia Dojo... oh aspetta!

Un importante corollario per coloro che desiderano importanza online: L'influenza e la popolarità sono esercizi di valore assoluto. L'attenzione negativa o positiva non importa. Ciò che conta è che la popolazione parli di te e non di qualcun altro. Quando misuri la crescita dei tuoi abbonati/followers in questo modo, vedrai questo nascondersi in bella vista.

Coinbase mi ha inviato una delle loro rare carte commemorative Satoshi Nakamoto Coinbase One (1 di 21). Sono entusiasta di ricevere la mia in autunno, che offre il 4% di cashback in Bitcoin. Lunga vita a BTC! Grazie @coinbase @brian_armstrong @immuneeb

“Ci sono voluti molti anni per espellere tutta la sporcizia che mi era stata insegnata su di me, e che avevo in parte creduto, prima di poter camminare sulla terra come se avessi il diritto di essere qui.” ― James Baldwin

Con tutti i progressi che si stanno facendo nella qualità dei modelli su "silicon generico" da parte dei produttori di modelli fondamentali, è tempo di indirizzare i modelli stessi verso il compito di progettare il proprio silicio specializzato per ogni caso d'uso. Questo avviene in piccola misura al momento, ma le restrizioni di fornitura dovrebbero costringere più produttori di modelli a rendersi conto della necessità di progettare silicio personalizzato. Alcune restrizioni sono importanti, però, per questa sfida progettuale. La più importante è mantenere un design utile su un nodo di processo non all'avanguardia, in modo da non creare vincoli di fornitura o problemi di resa e non combattere contro la fisica a livello elettronico. La seconda sarebbe come progettare l'uso della memoria - cache vs HBM per ogni caso d'uso è un paradosso ovvio. Il raffreddamento è un altro aspetto. Ho lavorato con un ottimo ingegnere per progettare una pompa di calore refrigerata a CO2. Se funziona, rack, sistemi e chip dovrebbero contemplarlo e lavorare per sfruttare queste diverse dinamiche di raffreddamento perché comporta meno vincoli. Eccetera eccetera eccetera. Comunque, è chiaro per me che tra cinque anni, guarderemo indietro e la diversità del silicio sarà esplosa. Mi aspetto di vedere un sacco di annunci su nuovi chip che iniziano con il pre-addestramento e poi si estendono all'inferenza.

🤔 Al minimo, ci sono sicuramente alcuni "AI haves" e "AI have nots" tra i primi 10.

Hanno detto che dovresti giocare a basket per superare il tetto salariale. Più che altro, prendere un dottorato...

Cosa ho letto questa settimana… Questa settimana, il presidente Trump ha firmato un ordine esecutivo che crea il Programma G, una nuova classificazione all'interno del governo federale per alcune nomine politiche. Affronta una lacuna di lunga data su come il governo gestisce le posizioni di policymaking che ci si aspetta cambino con ogni amministrazione. In passato, questi ruoli spesso rientravano in un'area grigia. Alcuni erano occupati da funzionari pubblici di carriera che rimanevano in carica attraverso diverse presidenze, mentre altri erano classificati in modo vago sotto categorie destinate a personale riservato piuttosto che a decisori politici. Questo rendeva difficile per le amministrazioni in arrivo apportare cambiamenti al personale, anche in posizioni centrali per plasmare ed eseguire le politiche. In aggiunta, le protezioni del servizio civile per i funzionari pubblici di carriera e altri personale legato alle politiche rendevano le rimozioni eccessivamente lente e complicate, spesso lasciando i manager incapaci di ritenere responsabili i membri del personale che non performavano. Il Programma G è progettato per fornire un componente della struttura necessaria per superare l'inerzia burocratica nelle agenzie federali, dando al contempo ai futuri presidenti maggiore libertà di portare team politici allineati con la loro agenda, garantendo infine che le agenzie rispondano alla leadership eletta.