Eu costumava pensar que a discrepância entre a lei e o software era entre um sistema construído para relações humanas estocásticas e código determinístico, onde se x então y. Já não tenho tanta certeza. Os LLMs quebram essa estrutura porque não são realmente nenhum dos dois. Eles são probabilísticos de maneiras que não são inspecionáveis ou previsíveis, mesmo pelos seus criadores. Essa é a sua natureza e o que os torna úteis. E embora não sejam suficientemente determinísticos para regras de estilo contratual, ainda não são suficientemente humanos para os padrões do direito comum (ou para serem tratados como pessoas, ainda, nas estatutos). Vamos oscilar entre legisladores e tribunais tentando aplicar princípios legais tradicionais e desenvolvedores querendo liberdade para construir sem responsabilidade. Nenhum dos dois é viável. Os tribunais imporão responsabilidade, quer os desenvolvedores a considerem ou não, e regras legislativas imprecisas falharão em sistemas que não se comportam como nada que os redatores imaginaram. Sistemas de Frontier precisam de governança e alocação de risco de frontier. Esses princípios ainda não existem. Mas é melhor construí-los do que tê-los impostos de fora.