Вот почему контекстная инженерия так важна. Мы только что провели 2 часа, обсуждая, когда агент должен полагаться на свои внутренние знания, а когда пытаться найти соответствующий контекст в данных для всего лишь одного типа вопроса. Мы рассмотрели 2 тестовых случая из сотен. Даже участники мозгового штурма не смогли прийти к единому мнению о том, что они ожидали бы от людей в этой ситуации. Действительно, не было правильного ответа, и это всегда зависит от контекста, клиента за клиентом. Все в контекстной инженерии — это компромисс между различными факторами: насколько быстро вы хотите, чтобы агент ответил на вопрос, сколько взаимодействия вы хотите потребовать от пользователя, сколько работы он должен выполнить перед тем, как попытаться ответить на вопрос, как он знает, что у него есть исчерпывающие источники для ответа на вопрос, каков уровень риска неправильного ответа и так далее. Каждое ваше решение по одному из этих параметров имеет последствия для другого конца. Бесплатного обеда не бывает. Вот почему создание AI-агентов так захватывающе. Это также подчеркивает, сколько ценности существует выше уровня LLM. Правильное принятие этих решений напрямую связано с качеством ценностного предложения.