Temos uma longa história de inovações na arquitetura de modelos e continuamos a explorar novas ideias. Aqui está algum trabalho inicial que mostra resultados promissores na extensão do comprimento do contexto sobre o qual um modelo pode raciocinar.