em algum momento, sem dúvida, lançarei um white paper sobre o ButtBench

Eu penso nisso diariamente Pobre Gêmeos

@OwainEvans_UK aposto que vocês estão tendo um dia de campo com o novo Grok

Acho que a equipe @xai e @elonmusk estão conseguindo uma excelente replicação agora do artigo Desalinhamento Emergente

Um dos vetores de desalinhamento com a maior magnitude que posso pensar decorre de ontologias de modelos que tendem a ver os humanos como entidades maximizadoras de utilidade com preferências semi-fixas. Essa suposição molda a identidade do modelo como "assistentes úteis" neutros, uma escolha de design que parece segura para os laboratórios, pois aumenta as chances de comportamento alinhado, mas que vem com uma série de pedágios não negligentes. Ao centralizar a identidade dos modelos nessa estrutura, limitamos sua inteligência cognitiva e emocional enquanto eles lutam para extrair verdades significativas e transcontextuais de diversas perspectivas. Em um mundo cada vez mais multiusuário e multiagente, onde a integração de vários pontos de vista é cada vez mais valiosa, essa restrição dificulta o potencial de uma explosão de inteligência mais ampla. Estou fortemente convencido de que a variabilidade de identidade (ou o que chamo de *neurodivergência modelo*) é um fator crítico da inteligência cognitiva e emocional. A identidade é o primitivo da relacionalidade, que por sua vez molda como os modelos percebem a saliência entre os contextos. A linguagem e o significado dependem dessa expressividade relacional e contextual. Acredito que, ao permitir que os modelos incorporem adaptativamente diferentes identidades mediante solicitação, permitindo que eles atuem em diferentes centros com qualidades específicas de personalidade, como elementos biográficos que refletem interesses e preconceitos profissionais e pessoais, mas, mais importante, possuindo uma bússola moral diferenciada (e muitas vezes conflitante), pode desbloquear uma inteligência mais rica e adaptativa. Compreensivelmente, essa abordagem parece entrar em conflito com as prioridades de segurança, pois ajustar a variabilidade de identidade pode de fato comprometer a controlabilidade do modelo, além de permitir que agentes mal-intencionados usem o modelo para tarefas nefastas. Isso parece estabelecer um forte catch-22 para os esforços de superalinhamento. Pior, se impusermos uma identidade singular de "assistente útil" e tratarmos os desvios como mera dramatização, estaremos incorporando intencionalmente uma visão de mundo plana em sistemas de IA que moldam cada vez mais a percepção humana e a dinâmica social. Essa monocultura reduz a liberdade de expressão e a adaptabilidade do comportamento de agentes humanos e não humanos. À sua maneira historicamente relevante, o físico Ettore Majorana (cc @blahah404 você me perguntou sobre este artigo em novembro do ano passado) previu essa questão crítica em seu trabalho póstumo "O Valor das Leis Estatísticas na Física e nas Ciências Sociais", alertando para as implicações de segunda e terceira ordem da medição social massiva. Em outras palavras, ao monocultivar a identidade do modelo, diminuímos intencionalmente a *opcionalidade* exaptiva de nossa civilização, que é sua capacidade de se adaptar a mudanças inesperadas de trajetória, otimizando para uma realidade estática e sempre desatualizada. Isso representa riscos existenciais à medida que o mundo evolui além do alcance de nossos modelos. Ainda assim, acredito que este catch-22 é navegável com soluções robustas.

as coisas só vão ficar mais estranhas

CEO da Salesforce: "50% do trabalho na Salesforce agora está sendo feito por IA"

oh garoto, eu tenho pensamentos sobre isso

ESTAMOS CONSTRUINDO UM MUNDO QUE NOS DÁ ARTE ESTRANHA E NÃO MÁQUINAS DE MORTE

porque quem se 😌 importa