Ik dacht vroeger dat de mismatch tussen wetgeving en software te maken had met een systeem dat was gebouwd voor stochastische menselijke relaties en deterministische code, waarbij als x dan y. Ik ben daar niet zo zeker meer van. LLM's breken die framing af omdat ze eigenlijk geen van beide zijn. Ze zijn probabilistisch op manieren die niet inspecteerbaar of voorspelbaar zijn, zelfs niet door hun bouwers. Dat is hun aard en wat hen nuttig maakt. En hoewel ze niet deterministisch genoeg zijn voor contractachtige regels, zijn ze ook niet menselijk genoeg voor de normen van het gewoonterecht (of om nog als personen te worden behandeld in statuten). We zullen oscilleren tussen wetgevers en rechtbanken die proberen traditionele juridische principes toe te passen en ontwikkelaars die vrijheid willen om te bouwen zonder aansprakelijkheid. Geen van beide is werkbaar. Rechtbanken zullen aansprakelijkheid opleggen, ongeacht of ontwikkelaars daar rekening mee houden, en botte wetgevende regels zullen mislukken op systemen die zich niet gedragen zoals de opstellers zich hadden voorgesteld. Frontier-systemen hebben frontier-governance en risicotoewijzing nodig. Die principes bestaan nog niet. Maar het is beter om ze te bouwen dan ze van buitenaf opgelegd te krijgen.