Ausreichend fortgeschrittenes agentisches Codieren ist im Wesentlichen maschinelles Lernen: Der Ingenieur legt das Optimierungsziel sowie einige Einschränkungen für den Suchraum (die Spezifikation und ihre Tests) fest, dann iteriert ein Optimierungsprozess (Codierungsagenten), bis das Ziel erreicht ist. Das Ergebnis ist ein Blackbox-Modell (die generierte Codebasis): ein Artefakt, das die Aufgabe erfüllt, das Sie bereitstellen, ohne jemals seine interne Logik zu inspizieren, genau wie wir individuelle Gewichte in einem neuronalen Netzwerk ignorieren. Das impliziert, dass alle klassischen Probleme, die im ML auftreten, bald auch Probleme für agentisches Codieren werden: Überanpassung an die Spezifikation, Clever Hans-Abkürzungen, die sich außerhalb der Tests nicht verallgemeinern, Datenleckagen, Konzeptdrift usw. Ich würde auch fragen: Was wird das Keras des agentischen Codierens sein? Was wird die optimale Menge an hochgradigen Abstraktionen sein, die es Menschen ermöglichen, das 'Training' der Codebasis mit minimalem kognitiven Aufwand zu steuern?