C'è un vero argomento a favore dei beni pubblici per l'AGI quando la otterremo, dato che esisterà solo perché si è addestrata su tutti i nostri dati, i ricavi da essa devono essere ridistribuiti in modo equo. L'idea che le Big Tech possano semplicemente raccogliere i mezzi di sussistenza di tutti e poi scappare con tutti i soldi, lasciando tutti disoccupati, è inimmaginabilmente non etica. Anche da una prospettiva capitalista e di innovazione rigorosa, semplicemente non è giusto. Hanno così tanti soldi che il furto di IP non conta nemmeno, possono semplicemente pagare la multa. C'è un'enorme opportunità dall'AGI, tanto che si potrebbe sostenere che la legge sull'IP non dovrebbe nemmeno esistere... Ma questo è un altro discorso. Il problema è davvero uno di equità / distribuzione, in cui gli esseri umani storicamente sono stati assolutamente terribili, e su cui sono state combattute molte guerre. I modelli non possono essere avviati senza i dati collettivi degli esperti che hanno creato i risultati delle loro professioni nel corso dei decenni. Anche quando avremo modelli che possono davvero apprendere continuamente e raccogliere dati per conto proprio, l'argomento si applica ancora. 'Ma per' la fase di pre-addestramento, questi modelli non esisterebbero. L'UBI non dovrebbe essere solo delle briciole gettate ai plebei, dovrà essere seriamente sostanzioso per fermarli dal ribellarsi, secondo me. Mi aspetto che questo sarà uno dei punti di discussione più importanti in tutto l'Occidente nel prossimo ciclo politico.

Gli esseri umani del futuro saranno creatori di tendenze e allocatori di capitali. Questa sarà l'estensione del nostro lavoro. Puro, inalterato, orientato agli obiettivi 'hey AI, fai questo' e lei lo farà. Fondamentalmente come un videogioco. Creerai la tua realtà in modi sempre più strani e bizzarri. Questo inizierà nel mondo digitale, ma si espanderà eventualmente al mondo fisico (nella misura in cui le normative lo consentiranno). L'Amazon del futuro è semplicemente un utente che chiede a un'AI 'Ehi, ho bisogno di 70 umanoidi per costruirmi un castello su questo terreno che possiedo, vai a farlo'. ABS (Amazon Bot Services... nome fittizio) poi dispiega i bot per farlo (leggi di Project Prometheus, su cui Jeff Bezos sta lavorando - è ancora una volta 20 anni avanti rispetto a tutti gli altri). Poi, quando sarà fatto, lo guarderai e dirai 'Hmm, dipingi un quadro di me con una corona all'esterno delle mura'. E loro lo faranno anche. Continuerai a iterare finché non sarai soddisfatto di ciò che ha fatto. Sarà così economico che sarà praticamente gratuito. Le leggi sulla costruzione, la conformità - tutta quella merda - non avrà importanza perché le AI avranno quella che presto chiameremo 'intelligenza verificabile' - prova che ciò che hanno fatto è conforme a una specifica (costituzione / leggi / insieme di regole che definiamo noi o loro). Costruzioni perfette ogni volta. Se sbagliano, è perché la specifica era errata. Certo, le AI saranno anche migliori nel proporre obiettivi per noi, e per tutte le cose funzionali, è esattamente ciò che accadrà - stabiliranno gli obiettivi e poi li realizzeranno, controllando occasionalmente con noi per approvazione (se lo vogliamo). Ma per intrattenimento, svago, 'lavoro' del futuro... Non ci saranno praticamente limiti. Per quanto strani pensi che le cose diventeranno, ti prometto che sarà 100 volte più strano. Immortali che vivono su Marte, superumani geneticamente modificati che vivono sul fondo dell'oceano, sensi completamente nuovi... Che tu possa vivere in tempi interessanti.

Questo è controintuitivo, ma dovremmo tutti sperare e pregare di avere uno scenario di decollo rapido per l'AGI, non un decollo lento. Un decollo rapido agirà come una funzione di costrizione per un cambiamento sistemico in tutta l'economia, il sistema finanziario, l'istruzione, la società e le istituzioni in generale. Un decollo lento cripplerà lentamente i mezzi di sussistenza di tutti senza alcun cambiamento all'orizzonte, perché non abbastanza persone si sentiranno colpite abbastanza rapidamente affinché il cambiamento possa avvenire.