Früher dachte ich, dass die Diskrepanz zwischen Recht und Software zwischen einem System besteht, das für stochastische menschliche Beziehungen und deterministischen Code gebaut wurde, wo wenn x, dann y. Ich bin mir nicht mehr so sicher. LLMs brechen dieses Rahmenwerk auf, weil sie eigentlich weder das eine noch das andere sind. Sie sind probabilistisch auf Weisen, die selbst von ihren Entwicklern nicht überprüfbar oder vorhersehbar sind. Das ist ihre Natur und macht sie nützlich. Und während sie nicht deterministisch genug für vertragsähnliche Regeln sind, sind sie auch nicht annähernd menschlich genug für die Standards des Gewohnheitsrechts (oder um in Gesetzen als Personen behandelt zu werden, noch nicht). Wir werden zwischen Gesetzgebern und Gerichten schwanken, die versuchen, traditionelle rechtliche Prinzipien anzuwenden, und Entwicklern, die Freiheit wollen, ohne Haftung zu bauen. Keines von beidem ist praktikabel. Gerichte werden Haftung auferlegen, unabhängig davon, ob die Entwickler dafür vorgesorgt haben, und grobe gesetzgeberische Regeln werden bei Systemen, die sich nicht wie alles verhalten, was sich die Entwerfer vorgestellt haben, fehlgehen. Frontier-Systeme benötigen Frontier-Governance und Risikoverteilung. Diese Prinzipien existieren noch nicht. Aber es ist besser, sie zu entwickeln, als sie von außen aufzuzwingen.