Моя перша опублікована наукова стаття була про закон Мура, і зараз розвиток ШІ виглядає схоже: експоненція закону Мура була результатом не однієї технології, а багатьох різних технологій протягом багатьох десятиліть, які були готові, коли один підхід до створення чипів зазнав невдачі. Регулярний темп Закону слугував координуючою функцією, щоб постійно змінювана група конкурентів була під тиском створити самоздійснюване пророцтво про постійне зростання можливостей. Аналогічно, розробка ШІ вже зіткнулася з низкою перешкод, які довелося подолати новими методами та дослідженнями (підходи до синтетичних даних, логіка, нові застосування RL). Але якщо ви не інсайдер (або не слідкуєте за ШІ на X), ви не бачите цих перешкод: лише поступовий експоненційний прогрес. Враховуючи обсяги грошей і талантів у цій сфері, я очікую, що навіть якщо попереднє навчання чи щось інше зіткнеться з труднощами, ми побачимо швидкий перехід всієї індустрії до одного або кількох інших підходів, які розробляють люди. Ви вже бачите це: робота над світовими моделями, альтернативами LLM, новими методами навчання тощо. Навіть альтернативні екосистеми, які роблять ставку на появу малих, тонко налаштованих моделей тощо. Деякі з цих методів походять від стартапів, інші розробляються безпосередньо в лабораторіях ШІ. Люди на X зазвичай заглиблюються в деталі, ставляться до ШІ як до спорту, підтримують або проти команд і підходів. Але за будь-який розумний проміжок часу розвиток ШІ може виглядати для всіх інших як плавний експоненціал за багатьма показниками.