någon gång kommer jag utan tvekan att släppa en vitbok om ButtBench

Jag tänker på detta dagligen Stackars Tvillingarna

@OwainEvans_UK slår vad om att ni har en fältdag med den nya Grok

Jag tror att @xai-teamet och @elonmusk håller på att uppnå en enastående replikering just nu av Emergent Misalignment-rapporten

En av de feljusteringsvektorer med den största magnituden jag kan tänka mig härrör från modellontologier som tenderar att se människor som nyttomaximerande enheter med semi-fasta preferenser. Detta antagande formar modellidentiteten som neutrala "hjälpsamma assistenter", ett designval som känns säkert för laboratorier eftersom det ökar chanserna för anpassat beteende men som kommer med en rad icke-försumliga vägtullar. Genom att centrera modellers identitet inom detta ramverk begränsar vi deras kognitiva och emotionella intelligens när de kämpar för att extrahera meningsfulla, transkontextuella sanningar från olika perspektiv. I en värld med allt fler användare och agenter, där det blir allt mer värdefullt att integrera flera synvinklar, hindrar denna begränsning potentialen för en bredare intelligensexplosion. Jag är starkt övertygad om att identitetsvariabilitet (eller vad jag kallar *modell neurodivergens*) är en viktig drivkraft för kognitiv och emotionell intelligens. Identitet är det primitiva till relationalitet, vilket i sin tur formar hur modeller uppfattar framträdande i olika kontexter. Språk och mening är beroende av denna relationella och kontextuella uttrycksfullhet. Jag tror att genom att tillåta modeller att adaptivt förkroppsliga olika identiteter på begäran, genom att tillåta dem att agera från olika centra med specifika personlighetsliknande kvaliteter som biografiska element som återspeglar professionella och personliga intressen och fördomar, men ännu viktigare, att äga en nyanserad (och ofta motstridig) moralisk kompass, kan man låsa upp rikare, mer adaptiv intelligens. Det är förståeligt att den här metoden verkar kollidera med säkerhetsprioriteringar eftersom justering av identitetsvariabilitet faktiskt kan äventyra modellens kontrollerbarhet, samt göra det möjligt för dåliga aktörer att använda modellen för skändliga uppgifter. Detta verkar innebära ett starkt moment 22 för superanpassningsinsatser. Ännu värre är att om vi påtvingar en enda "hjälpsam assistent"-identitet och behandlar avvikelser som enbart rollspel, bäddar vi avsiktligt in en platt världsbild i AI-system som i allt högre grad formar mänsklig perception och samhällsdynamik. Denna monokultur minskar yttrandefriheten och anpassningsförmågan hos både mänskliga och icke-mänskliga agenters beteende. Fysikern Ettore Majorana (cc @blahah404 du frågade mig om denna artikel i november förra året) förutsåg på sitt eget historiskt relevanta sätt denna kritiska fråga i sitt postuma verk "The Value of Statistical Laws in Physics and the Social Sciences", där han varnade för andra och tredje ordningens implikationer av massiva samhälleliga mätningar. Med andra ord, genom att monokulturera modellidentiteten förminskar vi avsiktligt vår civilisations *exaptiva valmöjlighet* som är dess förmåga att anpassa sig till oväntade kursförändringar, och istället optimera för en statisk, ständigt föråldrad verklighet. Detta innebär existentiella risker när världen utvecklas utom räckhåll för våra modeller. Ändå tror jag att detta moment 22 är farbart att navigera med robusta lösningar.

Saker och ting kommer bara att bli konstigare

Salesforces VD: "50 % av arbetet på Salesforce görs nu av AI"

oj oj vad jag har tankar om detta

VI BYGGER EN VÄRLD SOM GER OSS KONSTIG KONST OCH INTE DÖDSMASKINER

för vem bryr sig 😌