Универсальный набор инструментов для инженеров ИИ на 2026 год. Каждый инструмент, который вам нужен, - организован по тому, что он действительно делает. Добавьте это в закладки. Вы вернетесь к этому 🧵👇 𝜶. ВЕКТОРНЫЕ БАЗЫ ДАННЫХ основа любой системы RAG или семантического поиска. Вам понадобится один из этих инструментов, как только вы начнете работать с встраиваниями. @pinecone - полностью управляемый, готовый к производству. минимальная настройка, максимальная надежность. @weaviate_io - с открытым исходным кодом и чистым интерфейсом GraphQL @qdrant_engine - написан на Rust. быстрый, с мощной поддержкой фильтрации @trychroma - легковесный, идеален для локальной разработки LLM @milvusio - облачный, созданный для поиска в больших масштабах @activeloop - озеро данных ИИ с версионированием и поддержкой мультимодальности @vectara - управляемая платформа RAG. извлечение + генерация в одном месте 𝜷. ОРКЕСТРАЦИЯ И РАБОЧИЕ ПРОЦЕССЫ соединение LLM, инструментов, памяти и данных в рабочие процессы, которые действительно работают. @LangChain - наиболее широко используемая платформа приложений LLM @llama_index - специально создан для соединения LLM с вашими данными @deepset_ai - платформа для NLP-процессов промышленного уровня @DSPyOSS - оптимизирует ваши подсказки программно. больше никаких догадок @langflow_ai - визуальный конструктор без кода для рабочих процессов LLM @FlowiseAI - конструктор цепочек LLM с перетаскиванием 𝜸. ИЗВЛЕЧЕНИЕ PDF И ДОКУМЕНТОВ превращение неструктурированных документов в чистые данные, готовые для LLM. Docling - конвертирует PDF, DOCX, PPTX, HTML в структурированный Markdown/JSON pdfplumber - парсинг PDF на уровне символов и извлечение таблиц PyMuPDF - высокопроизводительное извлечение текста и изображений Unstructured - парсит смешанные типы документов в структурированный JSON Camelot - специализирован на извлечении таблиц из PDF Llama Parse - парсинг документов, оптимизированный специально для поглощения LLM ExtractThinker - интеллектуальное извлечение документов с картой схемы 𝜹. RAG ФРЕЙМВОРКИ инструменты, созданные специально для извлечения-усиленной генерации. RAGFlow - глубокое понимание документов для открытого RAG PrivateGPT - полностью локальный Q&A по документам с использованием открытых LLM AnythingLLM - универсальное приложение RAG, которое работает с любым бэкендом LLM Quivr - личная база знаний на основе генеративного ИИ txtai - база данных встраиваний для семантического поиска и рабочих процессов Llmware - легковесный фреймворк RAG, созданный для корпоративных случаев использования 𝛆. ОЦЕНКА И ТЕСТИРОВАНИЕ вы не можете улучшить то, что не измеряете. Ragas - оценивает качество RAG-процессов от начала до конца DeepEval - фреймворк для юнит-тестирования выходных данных LLM Phoenix @arizeai - наблюдаемость и трассировка для приложений LLM Opik - полная платформа оценки и мониторинга в стиле DevOps TruLens - отслеживает и оценивает запуски экспериментов LLM Giskard - тесты на предвзятость, надежность и безопасность в ML/LLM 𝛇. УПРАВЛЕНИЕ МОДЕЛЯМИ И MLOps отслеживайте эксперименты, версионируйте модели, управляйте полным жизненным циклом ML. MLflow - отраслевой стандарт для отслеживания экспериментов ML Weights & Biases @weights_biases - богатые панели управления для обучения моделей и отладки DVC @dataversioncontrol - контроль версий данных и моделей в стиле Git ClearML @ClearML - MLOps от начала до конца с поддержкой LLM-процессов Hugging Face Hub @HuggingFace - центральный репозиторий для моделей, наборов данных и демонстраций 𝛈. ФРЕЙМВОРКИ АГЕНТОВ инструменты для создания агентов, которые планируют, используют инструменты и выполняют многошаговые задачи. Google ADK - модульный фреймворк для создания агентов ИИ CrewAI @crewAIInc - оркеструет несколько ролевых агентов ИИ LangGraph @LangChainAI - строит агентов как управляемые графы с состоянием AutoGen @Microsoft - многоагентный фреймворк для разговоров от Microsoft Pydantic AI - структурированное рассуждение агентов, основанное на Pydantic Smolagents @huggingface - легковесный фреймворк агентов от Hugging Face Letta (MemGPT) @letta_ai - дает вашим агентам постоянную долгосрочную память Agno - агенты с встроенным RAG, рабочими процессами и памятью 𝛉. ТОНИРОВКА LLM адаптируйте предварительно обученные модели к вашим конкретным задачам и областям. Unsloth @unslothai - тонкая настройка LLM быстрее с использованием значительно меньшего объема памяти Axolotl - гибкий пост-тренировочный процесс для открытых моделей LLaMA-Factory - упрощенная тонкая настройка для моделей на основе LLaMA PEFT @huggingface - эффективная по параметрам тонкая настройка для сокращения потребностей в ресурсах TRL @huggingface - обучение с подкреплением на основе человеческой обратной связи (RLHF) Transformers @huggingface - основная библиотека Hugging Face для предварительно обученных моделей DeepSpeed @Microsoft - помогает запускать обучающие задания на многих GPU 𝛊. ЛОКАЛЬНАЯ РАЗРАБОТКА И СЕРВИС запускайте и обслуживайте модели локально или самостоятельно размещайте свой собственный API. Ollama @ollama - запускайте открытые LLM локально одной командой LM Studio - настольный GUI для запуска и тестирования локальных моделей llama.cpp - легковесный движок вывода для CPU и GPU LocalAI - саморазмещенный сервер API, совместимый с OpenAI @LiteLLM - унифицированный шлюз для более чем 100 поставщиков LLM vLLM - быстрый движок вывода и обслуживания 𝛋. БЕЗОПАСНОСТЬ И КОНТРОЛЬ контролируйте, ограничивайте и тестируйте свои приложения LLM перед их запуском. @guardrailsai - добавляет структурированную проверку выходных данных и средства безопасности NeMo Guardrails @NVIDIA - набор инструментов NVIDIA для программируемых контролей разговоров LLM Garak - автоматизированный сканер уязвимостей для LLM DeepTeam - фреймворк для тестирования LLM-приложений под давлением это полный стек. сохраните эту ветку и поделитесь ею с кем-то, кто строит с ИИ.

Тегаю Гигачадов, которые могут быть заинтересованы в этом 👇 - @SamuelXeus - @thesaint_ - @izu_crypt - @Simple_simeon - @RubiksWeb3 - @poopmandefi - @ayyeandy - @DigiTektrades - @Farmercist - @zerokn0wledge_ - @stacy_muur - @Defi_Warhol - @splinter0n - @belizardd - @Eli5defi - @the_smart_ape - @ViktorDefi - @CryptoGirlNova - @Haylesdefi - @defiinfant - @DeFiMinty - @hooeem