> 385 мс среднее время выбора инструмента. > 67 инструментов на 13 серверах MCP. > 14,5 ГБ объема памяти. > Никаких сетевых вызовов. LocalCowork — это AI-агент, который работает на MacBook. Открытый исходный код. 🧵
Создание локального AI-агента звучит здорово, пока вы не попробуете использовать его целый день. Сложность не в том, чтобы заставить модель вас понять. Проблема в том, чтобы заставить её выбрать правильный инструмент и сделать это достаточно быстро, чтобы опыт казался интерактивным. Поэтому мы протестировали LFM2-24B-A2B на ноутбуках, создав открытый настольный агент под названием LocalCowork.
Все работает локально: > модель > инструменты > данные Никакого облака. Никаких API-ключей. Ничто не покидает машину.
Мы оценили модель в реалистичной настройке: > 67 инструментов > 13 серверов MCP Задачи, такие как сканирование безопасности, обработка документов, операции с файловой системой и системные утилиты. Все это работает на одном ноутбуке Apple M4 Max с 36 ГБ памяти. На этой конфигурации LFM2-24B-A2B в среднем занимал ~385 мс на ответ выбора инструмента, при этом занимая ~14,5 ГБ памяти. Это означает: > никаких исходящих API-вызовов > никаких сторонних процессоров > никаких данных, покидающих устройство
44