Os humanos aprendem como transformadores? É uma pergunta que soa quase filosófica, mas Pesnot Lerousseau e Summerfield transformaram-na em um experimento rigoroso. Eles treinaram tanto humanos (n = 530) quanto pequenas redes de transformadores na mesma tarefa de aprendizagem de regras, e então manipularam uma única variável: a distribuição estatística dos exemplos de treinamento—de totalmente diversa (cada exemplo único) a altamente redundante (os mesmos itens repetidos várias vezes). O resultado é impressionante. Tanto humanos quanto transformadores mostram uma sensibilidade quase idêntica a essa manipulação. Treine com dados diversos, e os aprendizes generalizam regras para situações novas ("aprendizagem em contexto"). Treine com dados redundantes, e eles memorizam exemplos específicos ("aprendizagem em pesos"). A transição entre estratégias ocorre no mesmo ponto crítico (exponente de Zipf α ≈ 1) em sistemas biológicos e artificiais. Nenhum deles consegue facilmente fazer os dois—até que você lhes dê uma distribuição composta misturando diversidade e redundância, momento em que tanto humanos quanto transformadores se tornam "aprendizes duplos." Mas aqui é onde eles divergem: os humanos se beneficiam de currículos. Apresente exemplos diversos no início, e as pessoas descobrem a regra generalizável sem perder a capacidade de memorizar depois. Os transformadores, por outro lado, sofrem interferência catastrófica—o que quer que aprendam em segundo lugar sobrescreve o que veio primeiro. A implicação para a IA e a educação é a seguinte: a estrutura dos dados de treinamento importa tanto quanto seu conteúdo. E enquanto os transformadores podem igualar a aprendizagem humana de maneiras surpreendentes, ainda lhes falta a flexibilidade que nos permite beneficiar de currículos bem projetados. Artigo: