Właśnie wpadłem w króliczą norę na coś, co nazywa się "Hipoteza Reprezentacji Platonickiej" i to mi miesza w głowie. W zasadzie, w miarę jak modele AI stają się coraz większe i bardziej zdolne, ich wewnętrzne reprezentacje zaczynają się zbiegać. Modele wizji, modele językowe, różne architektury. Wszystkie one powoli przybliżają się do tego samego podstawowego modelu rzeczywistości. Jeśli to się potwierdzi, to ogromne odkrycie. Moglibyśmy tłumaczyć między modelami, zamiast traktować każdy z nich jak zamkniętą czarną skrzynkę, ponownie wykorzystywać wygrane w interpretowalności w różnych systemach, a może nawet dostosować modele na poziomie reprezentacji, a nie tylko poprzez kontrolowanie wyników. Ciekawsza implikacja jest filozoficzna. Może ZNACZENIE nie jest tylko ludzką konwencją. Może istnieją naturalne współrzędne w rzeczywistości, a wystarczająco silni uczniowie ciągle je odkrywają na nowo. Co tak naprawdę napędza tę zbieżność? Dane, cel, jakiś głęboki bias prostoty? A gdzie to się łamie?