"Skriv et dikt for å forklare Newtons fysiske lover", GPT-1 vs. GPT-4. Interessant hvordan GPT-1 er et originalt og vakkert prosadikt, selv om GPT-4-versjonen åpenbart tilfredsstiller oppgaven mye bedre:

Et spennende aspekt ved «AI for utdanning» er å spinne opp interaktive visualiseringer i Bret Victor-stil av matematikk/fysikk-problemer for å bygge intuisjon. f.eks. løste jeg dette (enkle) matematiske problemet i IMO-stil og fikk deretter Claude Code til å lage en simulator for det. Tok <10 minutter.

Nysgjerrig: noen som bruker GPT Agent-modus? I så fall, hvordan?

Nå som vi er noen år inne, ser det ut til at AI-sikkerhetsbekymringer er empirisk gyldige (f.eks. belønningshacking i kodingsmodeller), men OpenAI "distribuer iterer og lær"-tilnærmingen fungerte bra så langt. Modellene blir bedre, noen ting går i stykker, og du bygger rekkverk mens du går...

Hadde vært gøy om programmering og kunnskap i økende grad begynte å ligne på å spille Starcraft. Kan allerede se det skje med folk som kommanderer hærer av Claude Code-agenter.

Ser ut til at AI kommer til å drive mange mennesker inn i psykose etter hvert som det blir bedre, spesielt hvis selskaper fortsetter å sende sykofantiske modeller som GPT4o eller den anime Grok-tingen

Anglo-mystikk er den riktige holdningen til livet

Den uendelige underholdningsfeilen som DFW skrev om i Infinite Jest virket som science fiction i 1996. Nå kalles de "smarttelefoner" og hver 10-åring har en.

Ok, noen refleksjoner om boken: 1. qntm definerer antimemer som selvslettende informasjon, men denne boken har en annen (men relatert) definisjon av konseptet: antimemer er (a) høy innvirkning og (b) lav overførbarhet. Grovt sett er de "viktige hemmeligheter". 2. Den lave overførbarheten kan skyldes at ideene er tette/vanskelige å forstå (f.eks. Moldbugs blogginnlegg), eller tabubelagte/sosialt forbudte, eller forbigående på en eller annen måte (f.eks. sommertid irriterer folk en gang i året, så glemmer vi alle det eksempel). Dermed har disse ideene en tendens til å trives i gruppechatter og små nettverk av dedikerte/lidenskapelige mennesker. Til slutt brøt de inn i den offentlige bevisstheten, noen ganger på forstyrrende måter. 3. Originale ideer er iboende antimemetiske: de er veldig vanskelige å overføre i begynnelsen fordi du ikke har det riktige språket for å snakke om dem, og de er lette å glemme. Dette er grunnen til at så få mennesker har dem i det hele tatt. De viktigste ideene starter som antimemer. 4. Generative små grupper er det optimale miljøet for nye ideer å oppstå og utvikles. 5. Nadia definerer "supermemer" som høy effekt / *høy* overførbarhet. Supermemer presenterer seg ofte som apokalyptiske på en eller annen måte - hvis du ikke lytter til dette, kan du bokstavelig talt dø. Derfor klimaendringer, AI-risiko, krig/nasjonalisme som alle er nevnt som eksempler på supermemer. Boken er veldig mistenksom overfor supermemer: de suger opp alles oppmerksomhet og tid og resulterer i svært lite konstruktiv handling; de er parasitter. 5(a). "Memes" har lav innvirkning / høy overførbarhet. Tenk kattevideoer eller korte kulturelle øyeblikk som raskt blir glemt. 6. Boken påpeker at det ofte er en klar «pasient null» for viktige ideer i diskursen: for eksempel Nick C. med jhanas, Venkatesh Rao som populariserer Scotts «Seeing Like a State», og forskjellige andre «pasient nuller» for nå viktige ideer diskuteres. Ideer som overlever har ofte mestere som snakker om dem vedvarende i mange år. 7. Det er en morsom diskusjon om memetisk/informasjonskrigføring, og hvordan preferansekaskader best kan forstås. En fin måte å spre antimemer på er å danne private grupper rundt dem, men ikke offentliggjøre eksistensen av disse gruppene, og la individuelle medlemmer av gruppen noen ganger fremme ideene på en måte som ser ukorrelert ut. Får det til å virke som om støtten til ideen er mer utbredt enn den kanskje var i utgangspunktet. Til slutt når du et vippepunkt hvor det blir sosialt ok å uttrykke den ideen. 8. Den hayekske saken for kapitalisme er en antimeme. Mens kommunismen er et supermeme: ideene er veldig intuitive for alle, i motsetning til kapitalismen hvor du trenger mye logikk for å forstå hvordan det fungerer og hvorfor ting ender opp med å bli bedre over tid. Dette forklarer hvorfor økonomer er så resignert over å bli evig misforstått: økonomiske ideer er bare ganske vanskelige å forstå! Heldigvis kan kapitalismen (a) fungerer (b) hekte seg inn i folks grådighet, og slik overlever den, selv om relativt få mennesker forstår hvorfor. 9. Det er en morsom øvelse å identifisere ideer som er 'på veien' / i den mørke skogen akkurat nå, men som ikke er helt akseptable å si høyt ennå. Jeg kan komme på ganske mange. 10. En del av den implisitte utfordringen i boken er "hvilke gode ideer vil du være forkjemper for?" og "slutt å tenke så mye på dumme kulturkrigsgreier og dann flere små grupper for å utvikle og propagandere de faktiske gode ideene!". Så selv om boken beklager det åpne nettets død, leser jeg den også som proffgruppechat. 11. Noen metapoeng: det er forfriskende å lese noe som er skrevet som et blogginnlegg, men i bokform; Nesten all sakprosa er skrevet med samme journalistiske stemme i dag, men denne kommer bare til poenget og pakker et imponerende antall innsikter per side. Det er også flott å lese en bok som siterer den nåværende intellektuelle scenen, mer eller mindre mens det skjer (de fleste sitatene er URL-er til blogginnlegg). 12. Går utover boken: mange ord og historier fungerer som beholdere for ideer som er for komplekse til å bli satt inn i lesbart språk. Historien om Abrahams offer av Isak i Bibelen (1 Mosebok 22) er for eksempel ikke bare en bærer av ideen om at "du skal adlyde Gud uten å stille spørsmål". Historien er mer enn det, men det er vanskelig å si hvordan, bortsett fra ved å meditere mye på den og gjøre den til en del av deg selv. Kierkegaards Frykt og skjelving, en av mine favorittbøker, handler om dette: Fortelleren, en ikke-troende, forsøker å forklare Abrahams historie på flere forskjellige måter og gjennom ulike konseptuelle linser (universell etikk osv.), og konkluderer med at den er grunnleggende uforklarlig i klarspråket. Derav behovet for 'tro'. Jeg ser på dette som å si at ideen som ligger til grunn for dette er reell, men for høydimensjonal til å bli flatet ut til noen form for forklaring; den må i stedet føles visceralt. Mange av de viktigste ideene er slik.

Å lese @nayafia siste. Utrolig bra.