Ekosystem autonomicznych agentów AI w jednym repozytorium

Andrew Ng niedawno przedstawił interesujący punkt widzenia: prosty model jak GPT-3.5, opakowany w workflow agentowy, może przewyższać podstawowego GPT-4 w praktycznych zadaniach. Dyskusyjne twierdzenie, ale trend jest jasny. Tradycyjne chatboty ustępują miejsca autonomicznym systemom, które potrafią planować kroki, wywoływać zewnętrzne API i naprawiać własne błędy.

Podczas gdy niektórzy deweloperzy próbują budować własnego agenta od zera, inni tworzą narzędzia do orkiestracji, pamięci i debugowania takich systemów. Wszystkie te projekty są rozrzucone po GitHubie. Slava Kuryliak złożył katalog awesome-ai-agents, organizując ponad dwieście bibliotek, frameworków i gotowych rozwiązań do budowania agentów.

Co znajdziesz w katalogu

Selekcja jest podzielona na tematyczne bloki, choć główny nacisk kładziony jest na narzędzia deweloperskie. Jeśli odfiltujesz szum i linki promocyjne, repozytorium dostarcza wyraźnej mapy współczesnego stacku technologicznego agentów.

Kategorie na liście obejmują niemal wszystkie etapy developmentu:

• Frameworki orkiestracyjne i systemy multiagentowe.
• Narzędzia do pracy z kodem i wykonywania poleceń w systemie operacyjnym.
• Warstwa pamięci, wywoływanie funkcji i strukturyzowany output.
• Rozwiązania do uruchamiania modeli lokalnie i śledzenia metryk.

Warto przyjrzeć się bliżej

Przy setkach linków łatwo się zgubić. Wyróżniłem kilka grup projektów, które rzeczywiście zmieniają podejście do pisania kodu i budowania systemów.

Frameworki multiagentowe

Idea rozbijania złożonego zadania między wielu wyspecjalizowanych agentów stała się standardem. Na liście przodują crewAI, LangGraph i Microsoft AutoGen.

W crewAI definiujesz role agentów (na przykład badacz i redaktor), ustawiasz ich cele i narzędzia, a następnie uruchamiasz proces. LangGraph idzie dalej i buduje cykliczne grafy. W nich stan jest przekazywany między węzłami z możliwością interwencji człowieka. Microsoft AutoGen koncentruje się na dialogach między agentami, gdzie mogą one autonomicznie pisać kod, testować go i przekazywać sobie nawzajem informacje zwrotne.

Autonomiczni programiści

Narzędzia takie jak Open Interpreter i Aider zmieniają tradycyjne podejście do pracy z terminalami i IDE.

Open Interpreter wykonuje wygenerowany kod bezpośrednio na Twoim komputerze, zarządzając plikami i narzędziami systemowymi za pomocą języka naturalnego. Aider działa bezpośrednio w repozytorium git. Prosisz go o przepisanie funkcji lub dodanie testów, a on wprowadza zmiany i sam tworzy informacyjny commit.

Niezawodność i strukturyzowany output

Głównym problemem podstawowych LLM-ów są nieprzewidywalne odpowiedzi. Jeśli agent musi wywołać REST API, potrzebuje ścisłego JSON-a. Do tego celu w selekcji znajdziesz biblioteki Instructor i Outlines.

Instructor rozszerza Pydantic i zmusza model do zwracania zwalidowanych typów danych. Jeśli model popełni błąd w schemacie, biblioteka automatycznie wysyła ponowną próbę z szczegółami błędu. Outlines wykorzystuje wyrażenia regularne i gramatyki bezkontekstowe na poziomie generowania tokenów, gwarantując 100% zgodność formatu.

Długoterminowa pamięć

Agenci bez pamięci zapominają kontekst minionych sesji. Projekt Mem0 rozwiązuje to, dodając inteligentną warstwę pamięci dla LLM-ów. Zapisuje fakty o użytkowniku i minionych operacjach, eliminując potrzebę przekazywania ogromnego kontekstu w każdym prompcie.

Agenci bez pamięci zapominają kontekst minionych sesji. Projekt Mem0 rozwiązuje to, dodając inteligentną warstwę pamięci dla LLM-ów. Zapisuje fakty o użytkowniku i minionych operacjach, eliminując potrzebę przekazywania ogromnego kontekstu w każdym prompcie.

Praktyczne korzyści i pułapki

Katalog pomaga szybko dobrać stack do konkretnego zadania. Potrzebujesz lokalnego agenta do pracy z dokumentami bez wycieku danych na zewnątrz? Sprawdź Ollamę, PrivateGPT i Jan. Chcesz skonfigurować monitoring wywołań i śledzić koszty tokenów? Langfuse i Helicone Ci w tym pomogą.

Jednocześnie projekt ma swoje dziwactwa. Na stronie jest sporo linków promocyjnych do komercyjnych usług i startupów autora. Liczba otwartych issue na GitHubie przekracza dwieście, a autor aktualizuje niektóre wpisy ręcznie. Opisy projektów są czasem skąpe, więc nadal będziesz musiał klikać linki i czytać oryginalne README.

Czy warto dodać do zakładek

Jeśli projektujesz autonomicznego agenta lub po prostu obserwujesz rozwój infrastruktury LLM, repozytorium służy jako wygodny punkt wyjścia. Oszczędza czas na szukanie bibliotek takich jak walidatory schematów czy lokalne silniki pamięci. Wystarczy szybki rzut oka na górę listy, żeby zrozumieć, w którą stronę zmierza branża.