Kiedyś myślałem, że niezgodność między prawem a oprogramowaniem polega na różnicy między systemem stworzonym dla stochastycznych relacji międzyludzkich a deterministycznym kodem, gdzie jeśli x, to y. Już nie jestem tego taki pewien. LLM łamią tę ramę, ponieważ nie są ani jednym, ani drugim. Są probabilistyczne w sposób, który nie jest możliwy do zbadania ani przewidzenia nawet przez ich twórców. Taka jest ich natura i to, co czyni je użytecznymi. I chociaż nie są wystarczająco deterministyczne dla zasad w stylu kontraktowym, wciąż nie są wystarczająco ludzkie dla standardów prawa zwyczajowego (ani nie mogą być traktowane jako osoby, przynajmniej na razie, w ustawodawstwie). Będziemy oscylować między ustawodawcami a sądami próbującymi zastosować tradycyjne zasady prawne a deweloperami pragnącymi wolności do budowania bez odpowiedzialności. Żadne z tych podejść nie jest wykonalne. Sądy nałożą odpowiedzialność, niezależnie od tego, czy deweloperzy się z tym liczą, a sztywne zasady legislacyjne będą chybione w przypadku systemów, które nie zachowują się jak cokolwiek, co sobie wyobrażali autorzy. Systemy Frontier potrzebują zarządzania i alokacji ryzyka na poziomie frontier. Te zasady jeszcze nie istnieją. Ale lepiej je zbudować, niż mieć je narzucone z zewnątrz.