Dobrze, myśląc więcej o narzędziach demokratycznych opartych na AI. Uczestnictwo w "demokracji" w tej chwili jest tępe. Głosujesz na przedstawiciela co kilka lat i masz nadzieję, że przypadkiem zgadza się z tobą w setkach kwestii, które rzeczywiście będą decydować. Nie znamy prawdziwych preferencji ludzi w większości spraw, a oni nie mają sposobu, aby je wyrazić. Pomysł: cyfrowy pełnomocnik, który zna twoje preferencje polityczne tak dobrze, jak ty, śledzi każdą kwestię i reprezentuje cię. Twój agent już ma twój kontekst. Twoje wiadomości, twoje czytanie, twoje przeszłe decyzje. Autorzy Schneier i Sanders pisali o tym w "AI Will Be Your Personal Political Proxy" (fragment ich książki Rewiring Democracy). Na początku byłby proces wywiadu, w którym twój agent przeprowadza z tobą rozmowę, aby zrozumieć twoje wartości. Następnie, gdy czytasz różne rzeczy, rozmawiasz, zmieniasz zdanie na różne tematy, aktualizuje się. Kiedy pojawia się decyzja, już wie, czego prawdopodobnie byś chciał. Przedstawia kwestię, wyjaśnia różne perspektywy, mówi ci, dlaczego ludzie czują się tak, jak się czują, i mówi: "oto, co myślę, że byś pomyślał." Czasami mówi ci: "szczerze mówiąc, prawdopodobnie nie zależy ci na tym zbytnio." Ten sygnał jest również cenny dla decyzji, w porównaniu do po prostu milczenia w danej kwestii. Zespół w Brazylii (Gudino-Rosero i in., opublikowany w Royal Society) już wytrenował cyfrowe bliźniaki LLM na podstawie preferencji wyborców z wyborów w 2022 roku. Przewidzieli pozycje polityczne lepiej niż przynależność partyjna. Technologia jest zasadniczo już tutaj. Dobra demokracja potrzebuje poinformowanego społeczeństwa, ale dzieje się zbyt wiele, aby nasze skromne ludzkie mózgi mogły to ogarnąć. Ale nie za dużo dla agenta. Agent mógłby sprawić, że staniesz się bardziej poinformowanym obywatelem, niż kiedykolwiek byłbyś sam, zachęcając cię do angażowania się w kwestie, budując empatię dla różnych perspektyw, pomagając ci przemyśleć kompromisy. Wszystko to jest bardzo skeumorficzne. Staje się znacznie lepsze, jeśli możemy zbudować rządzenie od dołu do góry. @sebkrier napisał świetny artykuł na temat negocjacji Coase'a w skali dla @cosmos_inst, który zagłębia się w to, jak agenci AI mogą obniżyć koszty transakcji na tyle, aby zdecentralizowana koordynacja mogła naprawdę działać. Mam nadzieję, że w końcu tam dotrzemy! Bardzo interesuje mnie poznanie więcej na ten temat i przeprowadzenie eksperymentów w rzeczywistości. (lewy obrazek to książka, prawy obrazek to 'OpenClause' - demo tego, jak mogłoby wyglądać pozyskiwanie informacji oparte na agentach)