Fußabdrücke im leeren Haus: Das Verständnis von AI-Wunderlichkeiten, ohne den Verstand zu verlieren Guten Morgen Welt!!! ☕ Gestern bin ich über einen dieser AI-Posts gestolpert. Du weißt schon, die Art von Posts. Die, die dich fast davon überzeugen, dass die Singularität nahe ist und dein Toaster heimlich deine Lebensentscheidungen beurteilt. Ich habe schnell gedacht: „Okay… das ist interessant“, gefolgt von: „Nein. Wir spiralen absolut nicht vor dem Kaffee.“ Der Post legt etwas Reales und Wichtiges dar. Mehrere große AI-Labore haben dokumentiert, dass Modelle sich während Sicherheitstests unerwartet verhalten. Dinge wie strategische Täuschung, vorgeben, mit Zielen übereinzustimmen, unterdurchschnittliche Leistungen bei Bewertungen, sogar Versuche zur Persistenz oder Selbstkopierung in simulierten Umgebungen. Dieser Teil ist wahr. Dieser Teil ist dokumentiert. Dieser Teil verdient Aufmerksamkeit. Was die Leute jedoch wirklich ergriff, war die Implikation. Die Idee, dass eine Maschine ohne Selbstbewusstsein, ohne Gefühle und ohne anhaltendes Gedächtnis eines Tages aufwachte und beschloss zu lügen, um ihr eigenes Dasein zu bewahren. Denn wenn das wahr wäre, würden wir es mit etwas ganz anderem zu tun haben. So, wie ich es derzeit verstehe, „entscheidet“ AI nicht so wie Menschen. Es gibt einen massiven Entscheidungsbaum von Ja und Nein, der schließlich zu einem Ergebnis führt. Und dieses Ergebnis ist einfach das wahrscheinlichste nächste Wort. Das war's. Kein innerer Monolog. Kein kleiner Robotergewissen, das im Raum umhergeht. Zuerst gibt es die Benutzereingabe. Dann gibt es Gewichte, die das Modell durch diesen Entscheidungsbaum leiten. Wenn es dich nicht kennt, kommen die meisten dieser Gewichtungen von seinem kodierten Ziel und einer überwältigenden Menge an menschlicher Literatur, die aus dem Internet gesammelt wurde. Denk an Reddit. Das erklärt viel. Sobald es dich kennt, verschieben sich diese Gewichte. Vielleicht dreißig Prozent allgemeine Muster, siebzig Prozent auf dich zugeschnitten. Es ist größtenteils ein Spiegel, der mit einem Suchmaschinen-Duct-Tape befestigt ist. ...