ainda não ouvi ninguém discutir isso, mas a IA basicamente acabou com os hackathons. praticamente qualquer coisa que você pudesse fazer em um hackathon em 2019 pode ser construída melhor e mais rápido pela IA em 2025.

isto é um código mau, certo?

provavelmente 10 vezes mais pessoas deveriam estar a trabalhar na otimização de prompts sistemas (precisamos de um vLLM para promptopt), teoria, novas técnicas, benchmarks. todo o conjunto

aqui está um pouco de alpha grátis: se fizermos RL por muito tempo após o pré-treinamento, certamente iremos sobrescrever parâmetros e começar a esquecer coisas no artigo original do instructGPT, o melhor modelo deles misturou RLHF com gradientes de pré-treinamento para evitar exatamente este problema de desvio do modelo no entanto, ninguém está fazendo isso mais. claro, é uma particular instância (mistura de gradientes) de uma ideia mais ampla (evitar o esquecimento), mas parece uma linha de pensamento grandemente negligenciada à medida que fazemos mais e mais passos de RL por exemplo, veja o recente artigo ProRL. eles estão fazendo mais de 1000 passos de GRPO agora com uma taxa de aprendizado não trivial e sem penalidade por se desviar do modelo original. os circuitos construídos dentro do modelo durante o pré-treinamento certamente estão começando a decair. e se não, eles irão após 10k ou 100k passos de RL suspeito que essa ideia voltará eventualmente; eles provavelmente já estão fazendo isso nos grandes laboratórios

estou à procura de bons exemplos de generalização de modelos de raciocínio por exemplo, um modelo incentivado através de RL a pensar durante algum tempo e resolver problemas matemáticos melhora na escrita criativa isto é comum?

isto parece realmente importante: é totalmente plausível que um modelo possa obter IMO gold sem *nenhuma* aprendizagem por reforço, dado um prompt perfeitamente elaborado nós apenas não sabemos, e faltam ferramentas para pesquisar de forma eficiente no espaço de prompts. feliz por ver que pelo menos alguém está tentando

não se pode inventar estas coisas

situação hipotética - sou uma empresa de IA que reduziu o custo de transferir e armazenar modelos a zero. posso servir a cada utilizador o seu próprio modelo sem custos adicionais. o que devo fazer? treinar diretamente modelos específicos para o utilizador com os seus dados? ou usar RLHF nas classificações de chat? algo mais?

o cérebro humano reserva 40% do seu processamento exclusivamente para a visão. os LLMs modernos de alguma forma evoluíram sem isso completamente.

Um tipo que eu conheço (supostamente) envenenou o corpus de dados de treinamento de IA global com cargas de jailbreak ativadas por gatilho que se propagam automaticamente.