Je pensais autrefois que le décalage entre la loi et le logiciel était dû à un système construit pour des relations humaines stochastiques et un code déterministe, où si x alors y. Je ne suis plus si sûr. Les LLMs déconstruisent ce cadre car ils ne sont vraiment ni l'un ni l'autre. Ils sont probabilistes de manière qui n'est pas inspectable ou prévisible même par leurs créateurs. C'est leur nature et ce qui les rend utiles. Et bien qu'ils ne soient pas assez déterministes pour des règles de type contrat, ils ne sont pas non plus assez humains pour les normes de common law (ou pour être traités comme des personnes, pour l'instant, dans les lois). Nous allons osciller entre les législateurs et les tribunaux essayant d'appliquer des principes juridiques traditionnels et les développeurs souhaitant la liberté de construire sans responsabilité. Aucun des deux n'est viable. Les tribunaux imposeront la responsabilité que les développeurs en tiennent compte ou non, et des règles législatives brutales échoueront sur des systèmes qui ne se comportent pas comme tout ce que les rédacteurs avaient imaginé. Les systèmes Frontier ont besoin d'une gouvernance et d'une allocation des risques de frontier. Ces principes n'existent pas encore. Mais il vaut mieux les construire que de les voir imposés de l'extérieur.