Dobře, přemýšlím spíš o nástrojích pro demokracii založených na AI. Účast na "demokracii" je teď přímý proces. Každých pár let volíte zástupce a doufáte, že s vámi souhlasí ve stovkách otázek, o kterých skutečně rozhodne. Neznáme skutečné preference lidí v mnoha věcech a oni nemají způsob, jak je vyjádřit. Myšlenka: digitální zástupce, který zná vaše politické preference stejně dobře jako vy, sleduje každý problém a reprezentuje vás. Váš agent už má váš kontext. Vaše zprávy, vaše čtení, vaše minulá rozhodnutí. Autoři Schneier a Sanders o tom psali v knize "AI bude vaším osobním politickým zástupcem" (ukázka z jejich knihy Přesměrování demokracie). Na začátku probíhá pohovor, kde vás agent pohovoruje, aby pochopil vaše hodnoty. Pak, jak čtete věci, vedete rozhovory, měníte názor, aktualizuje se to. Když přijde na rozhodnutí, už ví, co byste pravděpodobně chtěli. Představuje problém, vysvětluje různé pohledy, vysvětluje, proč se lidé cítí tak, jak se cítí, a říká: "Tady je můj pohled na to, co byste si mysleli vy." Někdy vám řekne: "upřímně, asi vám na tomhle moc nezáleží." Tento signál je také cenný pro rozhodování, ve srovnání s pouhým mlčením o určité otázce. Tým v Brazílii (Gudino-Rosero a kol., publikováno v Royal Society) již školil digitální dvojčata LLM na základě preferencí voličů z voleb v roce 2022. Předpovídali politické postoje lépe než stranickou příslušnost. Technologie je v podstatě tady. Dobrá demokracie potřebuje informované občany, ale na naše skromné lidské mozky se toho děje příliš mnoho. Ale ne příliš pro agenta. Agent z vás může udělat informovanějšího občana, než byste kdy byli sami, přimět vás zapojit se do problémů, budovat empatii pro různé pohledy a pomáhat vám promýšlet kompromisy. To vše je velmi skeumorfní. Bude to mnohem lepší, pokud dokážeme budovat správu zdola nahoru. @sebkrier napsal skvělý článek o Coaseovském vyjednávání ve velkém měřítku pro @cosmos_inst, který se zabývá tím, jak by AI agenti mohli snížit transakční náklady natolik, aby decentralizovaná koordinace skutečně fungovala. Doufám, že se tam nakonec dostaneme! Velmi mě zajímá dozvědět se o tom víc a vést experimenty v reálném životě. (levý obrázek je kniha, pravý obrázek je 'OpenClause' – ukázka toho, jak by mohla vypadat agentová elicitace)