У меня была возможность ознакомиться с этой статьей. Эта статья действительно отличная. Я не думаю, что видел какую-либо другую статью по экономике после AGI, которая четко определяет последствия увеличения автоматизации и продолжающуюся значимость человеческого интеллекта как разницу между стоимостью автоматизации и стоимостью верификации. Есть две вещи, которые выделились для меня. Первая из них — это цикл: > когда эксперты контролируют агентов, они производят исправления, метки и знания о том, как действовать. Это фиксируется как обучающие данные / инструменты, что снижает стоимость автоматизации. > по мере удешевления автоматизации компании заменяют людей агентами. Это снижает потребность в людях, особенно на начальных должностях. > с меньшим накопленным опытом в обществе становится меньше способных верификаторов, и верификация становится более дорогой. > теперь вы получаете разрыв между стоимостью автоматизации и стоимостью верификации, что означает, что агенты могут работать в большем количестве областей, чем люди могут надежно проверять (слепые зоны). > в этих слепых зонах люди не могут предоставить точную корректирующую обратную связь. Агенты продолжают оптимизировать измеримые прокси, и поведение может отклоняться от истинных человеческих намерений. Вторая вещь, которая выделилась для меня, — это концепция "ответственности как услуги". По сути, это говорит о том, что развертывание любого агента поставщиком связано с ответственностью, что если агент причинит вред / убытки / юридические проблемы определенным образом, поставщик платит (в пределах лимита). Таким образом, клиент покупает застрахованный результат, а не просто программное обеспечение. Это, по сути, заставляет компании внутренне учитывать риск несоответствия агентов пользователю. Мне очень нравится эта концепция ответственности как услуги, потому что вся основная идея нашей платформы @eigencloud была основана на срезании и страховании. Любая услуга, развернутая на @eigencloud, должна быть застрахована, и если услуга причиняет вред пользователю, ставка за услугой снижается и компенсирует пользователя на основе предзаказа пользователя. Я настоятельно рекомендую всем прочитать эту статью!