K vašemu bodu o pohledu ekonomie vs. technologie na vytlačování pracovní síly, @sebkrier, opět si myslím, že nejdůležitější body jsou na opomíjeném průsečíku: ambice typu Turingova testu, které běžné AI diskurzy zaměřují na to, aby zaměřily technologie co nejméně produktivním směrem

Protože rozsáhlá ekonomická literatura ukazuje, že s zaměstnáním jsou spojeny vysoké nájmy, takže i když je čistý zisk dělat věci stále lépe, ale trochu pod lidskou kapacitu, a masivně zlepšovat oblasti, kde už člověka překonáváte (SPOUSTA oblastí dávno před GenAI).

Když v úkolu překročíte lidské schopnosti, dochází k velkým kompenzačním škodám způsobeným redistribucí nájmu. Takže bychom měli benchmarkovat na cokoli jiného než na snahu projít Turingovým testem v rostoucím rozsahu úkolů.

A pokud to uděláme, je zásadní, aby to byl proces vyvážený mezi prací a kapitálem, jinak by to bylo spíše o rentigentní než o zlepšování produktivity.

Samozřejmě je to zjednodušené, protože neexistuje žádná skutečná úroveň lidských schopností a to, co skutečně záleží, je nějaké srovnání upravené o kvalitu a náklady, ale právě proto Turingův test není zdaleka tak dobře definovaný, jak se tváří.

Ale v zjednodušeném modelu, kde je to skutečně dobře definované (existuje nějaká jediná lidská úroveň, kterou lze objektivně změřit a náklady lze dokonale porovnat), by to bylo přesně to, čemu se vyhnout... Místní minimum je považováno za místní maximum.

@sebkrier Dovolte mi nazývat "Turingovy cíle", tedy ty, které vycházejí z toho, že model překračuje lidskou úroveň při stále širším rozsahu úkolů. "Anti-Turingovské" přístupy jsou ty, které se zlepšují v jakékoli jiné části prostoru: zlepšují dovednosti pod lidskou nebo nad lidskou úrovní

@sebkrier Existuje mnoho faktorů, které by měly ovlivnit, kam investovat, včetně vstupní a výstupní funkce výzkumných investic, jakých dovedností je poptávka atd.

@sebkrier Ale pokud k tomu ekonomická analýza něco přidá, řekl bych, že ano: pokud kapitál řídí inovace, je to nejnegativnější externalita pro investice (tam, kde nás kapitálově řízená analýza pravděpodobně nejvíce překročí)

@sebkrier jsou Turingovy benchmarky.

@sebkrier Mimochodem, pro politiku a odbory by to bylo přesně opačné: ty by podinvestovaly do úspěšného průchodu Turingovým testem

@sebkrier Možná trochu žertovně, proto by moje hlavní rada vedoucímu politiky v oblasti AGI byla: Nedělejte (nebo spíše daňově dělat) AGI by měla být naší politikou.