Ofereço minha ideia, mas não deve ser muito geral: minha solução é simplesmente modularizar radicalmente as partes. Isso não é só sobre dividir por função, mas quando sinto que o LLM não consegue mais armazenar a base de código e pode estar fora de controle, vou dividir algumas funções diretamente em microsserviços diferentes e enviá-las diretamente para outros repositórios. As desvantagens também são óbvias, aumentando a largura de banda e o consumo de implantação.