Przyszłość inwestowania to 3 osoby zarządzające miliardami $ z rzędem mac studio i NVDA DGX spark Użyty przez nas setup: Główny agent hostowany lokalnie z lokalnym modelem (Mistral L2) oraz grupa demonów w lokalnych kontenerach, które komunikują się z chmurowymi LLM z dedykowanymi pakietami umiejętności. Główny agent zajmuje się dekompozycją zadań, orkiestracją, delegowaniem, syntezowaniem i końcową rekomendacją. Kilka (nie wyczerpujących) wskazówek dotyczących bezpieczeństwa operacyjnego: przed delegowaniem zawsze uruchamiaj sanitację na głównym agencie, jego lokalny LLM analizuje wyniki demonów przez zdefiniowaną strukturę, aby uniknąć wstrzyknięcia poleceń. Upewnij się, że istnieje izolacja sieciowa między demonami, i wysyłaj dane uwierzytelniające/klucze API tylko jako zmienne przy uruchamianiu kontenera, żadne loginy agentów nie będą się mieszać z twoimi własnymi loginami. Inne typowe zasady higieny devops również obowiązują, ponieważ główny agent jest twoim głównym devopem .. lista się wydłuża.