Весь день драбина ламалася, і мені здавалося, що я втратив зв'язок зі світом

Найпросунутіші моделі штучного інтелекту пишуть непоганий код, а рівень модулів значно перевищує середній рівень програмістів-людей. Крос-модульний код обмежений довжиною контекстного вікна і може вимагати допомоги людини при плануванні дизайну, а якщо структура проекту розумна, ШІ також може повторно використовувати існуючий код, щоб зберегти його сухим

Добре подумавши, можна зрозуміти, що причина, чому ШІ погано пише код, полягає не в тому, що він не вміє писати, а в тому, що він не вміє читати. Люди дивляться на багато, здавалося б, не пов'язаних між собою речей через особливість, але саме ці, здавалося б, не пов'язані між собою речі дають вам можливість зберегти проект СУХИМ. Щоб штучний інтелект став опорою, він повинен спочатку цьому 🤪 навчитися

Не кажучи вже про те, що це бодхісаттва. Якщо ви помираєте від голоду в дикій природі... Я побачив могилу на узбіччі дороги, а там були почесті. Ти кланяєшся і кажеш: «Вибач, я вмираю з голоду, бери данину, щоб поїсти». Не думаю, що хтось або привиди вас збентежать...

Як, на вашу думку, дослідження в галузі інженерії штучного інтелекту стають все більш філософськими в мовному плані?

Я глибоко згоден:1. Паралельна взаємодія між декількома агентами не така стабільна, як один потік. 2. RAG не такий надійний, як традиційний пошук; 3. Чим більше інструкцій у підказці, тим більше модель не знає, як вибрати. ——Оригінальний переклад такий—— На шляху до створення агентів штучного інтелекту наша команда @Cline виявила три «віруси мислення». Так званий «вірус мислення» – це ті спокусливі ідеї, які звучать дуже розумно, але зовсім не працюють на практиці. Три віруси: * Багатоагентна оркестрація * Отримана розширена генерація (RAG) * Чим більше інструкцій = тим кращий ефект Давайте дізнаємося! 1. Співпраця з кількома агентами Сцена в науково-фантастичному фільмі - "тилові агенти, агенти боєприпасів, агенти аналізу, командні агенти" - відправляють велику групу субагентів, і нарешті підбивають підсумки - звучить дійсно круто. Але реальність така, що переважна більшість корисної агентської роботи є однопотоковою. Складні процеси співпраці рідко приносять реальну цінність і часто створюють хаос. Знаєте, досить складно змусити модель стабільно працювати в одному потоці, не кажучи вже про те, щоб мати справу з логікою паралельної співпраці. Це не тільки підвищує складність реалізації, але і робить процес розуміння і прийняття рішень моделі вкрай складним. 2. Використовуйте RAG для створення агентів RAG, або Retrieval Augmented Generation, також є вірусом думок. Теоретично це виглядає потужно, але на практиці, особливо в сценаріях агентів, навіть базові команди текстового пошуку, такі як GREP, іноді виявляються кращими за нього. Чому аура RAG зникає в реальному робочому процесі агента? Тому що отримана інформація часто фрагментована і не може дозволити моделі сформувати зв'язне і корисне «розуміння». Кращим підходом майже завжди є дозволити моделі вивести список файлів самостійно, шукати таким чином, як grep, а потім відкрити та прочитати весь файл (як людина). Команда @Cline почала це робити рано, а потім ми побачили, що @Amp — Research Preview і @Cursor — також перейшли до цього більш прагматичного підходу. 3. Чим більше інструкцій = тим кращий ефект Існує поширена помилка, що нагромадження все нових і нових «інструкцій» в системних підказках робить модель розумнішою. Це абсолютно неправильно. «Полив» підказки лише заплутає модель, оскільки більша кількість інструкцій, як правило, призводить до суперечливих пропозицій та інформаційного перевантаження. В результаті вам доведеться грати в гру «вдар крота» і постійно возитися з усілякими дивними поведінками моделі замість того, щоб отримати дійсно корисний результат. Для більшості сучасних ультрасучасних моделей найкращий спосіб зійти зі свого шляху – не кричати на них у спробі направити їх у певному напрямку. Будь ласка, цінуйте кожне своє слово (або знак). В цілому, всі три перераховані вище ідеї дуже привабливі. Якщо ви не працюєте зі штучним інтелектом цілий день, ви можете подумати, що всі вони мають великий сенс, але це не так. Звичайно, у міру того, як можливості базових моделей покращуються, наше сприйняття цих методів може змінитися в майбутньому.