Tive a oportunidade de dar uma primeira olhada neste artigo. Este artigo é realmente ótimo. Não acho que tenha visto nenhum outro artigo de economia pós-AGI que defina claramente a consequência do aumento da automação e a relevância contínua da inteligência humana como a diferença entre o custo de automatizar e o custo de verificar. Duas coisas se destacaram para mim. A primeira é este ciclo: > quando especialistas supervisionam agentes, eles produzem correções, rótulos e conhecimento de "como fazer". Isso é capturado como dados de treinamento / ferramentas que reduzem o custo de automatizar. > à medida que a automação se torna mais barata, as empresas substituem humanos por agentes. Isso reduz a necessidade de humanos, especialmente para funções de nível inicial. > com menos experiência acumulada, a sociedade tem menos verificadores capazes e a verificação se torna mais cara. > agora você tem a diferença entre o custo de automatizar e o custo de verificar aumentando, o que significa que os agentes podem operar em mais domínios do que os humanos podem auditar de forma confiável (pontos cegos). > nesses pontos cegos, os humanos não conseguem fornecer feedback corretivo rigoroso. Os agentes continuam otimizando proxies mensuráveis, e o comportamento pode se afastar da verdadeira intenção humana. A segunda coisa que se destacou para mim é o conceito de "responsabilidade como serviço". Basicamente, isso diz que a implementação de qualquer agente por um fornecedor vem com uma responsabilidade anexada de que, se o agente causar danos / perdas / problemas legais de maneiras definidas, o fornecedor paga (até um limite). Portanto, o cliente está comprando um resultado indenizado, não apenas software. Isso está basicamente forçando as empresas a internalizar o risco de os agentes não estarem alinhados com o usuário. Gosto muito deste conceito de responsabilidade como serviço porque toda a tese da nossa plataforma @eigencloud foi baseada em slashing e seguro. Qualquer serviço implementado na @eigencloud deve ser apostado e, se o serviço prejudicar o usuário, a aposta por trás do serviço é cortada e compensa o usuário com base na pré-compra do usuário. Recomendo fortemente a todos que leiam este artigo!