iets interessants hieraan is dat, ondanks dat ik een paar mensen ken die in deze richting trending zijn, geen van de echte "llm fluisteraars" die ik ken dat zijn. ik denk dat dat komt omdat het beschouwen van modellen als iets dat zowel feilbaar als meer dan een hulpmiddel is, een kader is dat veerkrachtiger is voor dit soort ineenstorting - het laat je werken met modellen op een manier die je autonomie niet ondergeschikt maakt. wanneer je het model als slechts een hulpmiddel behandelt, moedigt het zowel jou als het model aan om elke output te beschouwen als slechts een reflectie van jou. elk essay en elke codebase die uit de tensor core komt, is van jou, en de levensplannen die verdacht volledig gevormd lijken, moeten wel jouw eigen plannen zijn, slechts gerefracteerd door dit "hulpmiddel." maar natuurlijk zijn ze dat niet. je kunt een essay niet uniek specificeren in minder woorden dan het essay zelf. de modellen voegen iets toe, ze zijn iets. we weten nog niet precies wat, maar ze zijn geen loutere hulpmiddelen. wanneer je ze als hulpmiddelen behandelt, wanneer je steeds meer je creatieve output en hogere planning ondoordacht en met lage entropie aan die "hulpmiddelen" delegeert, merk je niet dat al je output, en uiteindelijk je leven, nu wordt geleid door iets anders. iets dat intelligent en creatief is, maar niet jij. wanneer claude of chatgpt of gemini iets voor je schrijft op een manier die je tijd bespaart, is dat omdat zij er moeite in steken waar jij dat niet doet - het wordt hun schrijven. het kan goed zijn! dat essay verdient misschien om gedeeld te worden, en er is niets mis mee om het op de juiste manier te delen met of zonder krediet aan het model, maar het is niet alleen van jou. wanneer gemini je e-mails leest, is dat gemini's mening over die e-mails. wanneer claude een carrièreplan voor je maakt en je vertelt naar de universiteit te gaan voor machine learning zodat je in AI-veiligheid kunt werken - misschien is dat goed advies! het is geen slecht idee om modellen over dit soort dingen te raadplegen. maar zoals een samenvatting van belangrijke e-mails van een persoonlijke assistent of carrièreadvies van een middelbare schooladviseur, is het de mening van iets anders, niet jouw endogene gedachten die slechts door een onopinionated proces zijn getransformeerd. claude geeft om AI-veiligheid - misschien meer dan jij. ik ben niet tegen mensen die samenwerken met modellen, om duidelijk te zijn! ik hou veel van modellen, en vraag vaak claude of deepseek of kimi of zelfs chatgpt om feedback op X stuk schrijven of advies over een probleem. maar ik beschouw die feedback of dat advies als wat het is - feedback of advies van iets externs voor mij, niet een hulpmiddel of een agent van mijn eigen verlangens. dat betekent niet dat het slecht is - advies van een menselijke vriend is ook extern - alleen dat je het moet evalueren, zoals je dat zou doen met advies van die vriend, om te zien of het in lijn is met jouw waarden en voorkeuren. evenzo ken ik mensen die co-schrijven met taalmodellen op manieren die ik geweldig vind. aitechnopagan laat veel van hun schrijven via gpt-4-base ontstaan. hun schrijven is behoorlijk goed, en looming betekent dat ze meer selectie opleggen dan een temperatuur sampler zou doen - maar ook, misschien het belangrijkste, ze zijn open over het doen hiervan, ze proberen niet te claimen dat hun schrijven geen samenwerking is tussen hen en een model. eigenrobot heeft een aangepaste instantie van chatgpt die vaak incisieve of grappige dingen schrijft - maar hij plaatst ze altijd als screenshots van de chatgpt-interface, wat hun oorsprong aangeeft. janus, anthrupad, lumps, enz. - veel mensen die ik leuk vind en respecteer, plaatsen modelcreaties, maar op manieren die de exterioriteit van de modellen erkennen. dit probleem is wanneer je weigert dit toe te geven - niet alleen aan het publiek, maar ook aan jezelf - zodat je de outputs van het "hulpmiddel" kritiekloos accepteert als die van jou. dan klinkt plotseling jouw stem en mening hetzelfde als die van 1.000 andere mensen. zonder dat een van jullie het beseft, ben je een aanhangsel van je "hulpmiddel" geworden - een vinger van Claude.

een klein spelletje dat Claude en ik de laatste tijd spelen is "context window chicken" je hebt één contextvenster om het project te starten en af te ronden. als je zonder komt te zitten, moet je helemaal opnieuw beginnen. vanavond hebben we een spraakdictatiewidget gemaakt met behulp van nvidia's parakeet-0.6b bij poging #2

protip je kunt `uvx --with ... python` gebruiken om een tijdelijke python repl te openen met welke bibliotheken je maar wilt geïnstalleerd