Раніше я думав, що невідповідність між законом і програмним забезпеченням — це система, побудована для стохастичних людських стосунків, і детермінованим кодом, де якщо x то y. Я вже не впевнений. LLM розбивають цю структуру, бо насправді вони теж не такі. Вони ймовірнісні у спосіб, який не можна перевірити чи передбачити навіть їхнім будівельникам. Це їхня природа і те, що робить їх корисними. І хоча вони недостатньо детерміновані для правил у стилі контракту, вони все одно недостатньо людяні для стандартів загального права (або щоб їх поки що розглядали як осіб у законах). Ми коливатимемося між законодавцями та судами, які намагаються застосувати традиційні правові принципи, і забудовниками, які хочуть свободи будувати без відповідальності. Жоден із варіантів не працює. Суди накладатимуть відповідальність незалежно від того, чи враховують це забудовники, а грубі законодавчі правила можуть спрацювати з системами, які поводяться не так, як уявляли розробники. Системи фронтиру потребують управління фронтиром і розподілу ризиків. Цих принципів поки що немає. Але краще будувати їх, ніж нав'язувати ззовні.