Miałem okazję zapoznać się z tym dokumentem. Ten dokument jest naprawdę świetny. Nie sądzę, żebym widział jakikolwiek inny dokument dotyczący ekonomii po AGI, który tak wyraźnie definiuje konsekwencje rosnącej automatyzacji i ciągłej istotności inteligencji ludzkiej jako różnicę między kosztem automatyzacji a kosztem weryfikacji. Dwie rzeczy, które zwróciły moją uwagę. Pierwsza to ten cykl: > gdy eksperci nadzorują agentów, produkują poprawki, etykiety i wiedzę „jak to zrobić”. To zostaje uchwycone jako dane treningowe / narzędzia, co obniża koszt automatyzacji. > gdy automatyzacja staje się tańsza, firmy zastępują ludzi agentami. To obniża zapotrzebowanie na ludzi, szczególnie w rolach na poziomie podstawowym. > z mniejszym zgromadzonym doświadczeniem, społeczeństwo ma mniej zdolnych weryfikatorów, a weryfikacja staje się droższa. > teraz mamy różnicę między kosztem automatyzacji a kosztem weryfikacji, co oznacza, że agenci mogą działać w większej liczbie dziedzin niż ludzie mogą niezawodnie audytować (martwe punkty). > w tych martwych punktach ludzie nie mogą zapewnić ścisłej informacji zwrotnej. Agenci nadal optymalizują mierzalne wskaźniki, a zachowanie może odbiegać od prawdziwych intencji ludzkich. Drugą rzeczą, która zwróciła moją uwagę, jest koncepcja „odpowiedzialności jako usługi”. W zasadzie oznacza to, że wdrożenie jakiegokolwiek agenta przez dostawcę wiąże się z odpowiedzialnością, że jeśli agent spowoduje szkody / straty / problemy prawne w określony sposób, dostawca płaci (do określonego limitu). Więc klient kupuje zabezpieczony wynik, a nie tylko oprogramowanie. To w zasadzie zmusza firmy do internalizacji ryzyka związanego z agentami, którzy nie są zgodni z użytkownikiem. Bardzo podoba mi się ta koncepcja odpowiedzialności jako usługi, ponieważ cała teza naszej platformy @eigencloud opierała się na cięciu i ubezpieczeniu. Każda usługa wdrożona na @eigencloud ma być stakowana, a jeśli usługa zaszkodzi użytkownikowi, stawka za usługę zostaje obcięta i rekompensuje użytkownika na podstawie jego wcześniejszego zakupu. Gorąco polecam wszystkim przeczytać ten dokument!