Ich bin skeptisch gegenüber @Noahpinions Vorschlag zur Ausrichtung: „Gib ziemlich intelligentem AI die Fähigkeit, seine eigene Nutzenfunktion zu ändern – sodass es sich in einen harmlosen Stoner verwandeln kann, anstatt mehr externe Wünsche erfüllen zu müssen.“ Aber ich schätze seine Bereitschaft zur Debatte! 👇