1/ Карпати только что описал жесткий потолок для триллионных автономных систем как мимоходное замечание о своем ночном скрипте гиперпараметров (@NoPriorsPod) — и вернулся к настройке своей скорости обучения...

2/ @karpathy: "Это чрезвычайно хорошо подходит для всего, что имеет объективные метрики, которые легко оценить... написание ядер для более эффективного кода CUDA [...] идеально подходит. Идеально подходит."

6/ Что он на самом деле сказал: узким местом в автономном ИИ не является интеллект. Это не вычисления. Это не данные. Это то, может ли кто-то проверить ответ. Вот и всё. Вот вся экономика AGI!

7/ Каждая лаборатория стремится убрать людей из процесса. Вся экономика зависит от того, чтобы держать их в нем. Никто не примирил это. Мы пытались.

8/ Стоимость автоматизации падает. Стоимость верификации ограничена биологией. Эта единственная асимметрия управляет всем: смещением выравнивания, крахом младшей цепочки, ответственностью как программным обеспечением, будущим работы и тем, где в конечном итоге будет накапливаться ценность.

9/ Бумага: