Dezentralisierte KI wird nicht so aussehen, wie wir dachten. Himanshu Tyagi (@hstyagi), Gründer von @SentientAGI, erklärt, warum dezentrales Training realistischer ist, als die Leute annehmen: „Die Leute denken, dass dezentrales Training unmöglich ist, dass man es über Millionen von kleinen Geräten verteilen müsste. Aber so muss es nicht funktionieren.“ „Ich habe in meinem akademischen Leben an föderiertem Lernen gearbeitet. Ich glaubte früher, dass dezentrales Lernen niemals real werden würde. Aber ich habe einen entscheidenden Punkt übersehen: Man muss nicht bis zur letzten Konsequenz dezentralisieren.“ Die entscheidende Erkenntnis: „Cluster — nicht Geräte — sind die Einheit der Dezentralisierung. Pods mit 500 GPUs sind nicht so schwer zu bekommen. Viele Leute können sie aufstellen. Es ist wie ein gutes Immobilienprojekt.“ Und große Akteure tun es bereits: „Google und andere dezentralisieren intern auf diese Weise. Diese Art der Dezentralisierung ist möglich.“ Was ist also die echte Hürde? „Der schwierige Teil ist nicht die Trainingsmethode, sondern der regulatorische und tarifliche Rahmen für die Verteilung von Chips selbst.“