Het ecosysteem van autonome AI-agents in één repository

Andrew Ng maakte onlangs een interessante opmerking: een eenvoudig model zoals GPT-3.5, verpakt in een agentic workflow, kan basic GPT-4 overtreffen bij praktische taken. Een beweegbaar standpunt, maar de trend is duidelijk. Traditionele chatbots maken plaats voor autonome systemen die stappen kunnen plannen, externe API's kunnen aanroepen en hun eigen fouten kunnen herstellen.

Waar sommige ontwikkelaars proberen hun eigen agent vanaf nul te bouwen, creëren anderen tools voor orchestratie, geheugen en debugging van dergelijke systemen. Al deze projecten zijn verspreid over GitHub. Slava Kuryliak stelde de awesome-ai-agents catalogus samen en organiseerde meer dan tweehonderd bibliotheken, frameworks en kant-en-klare oplossingen voor het bouwen van agents.

Wat zit er in de catalogus

De selectie is opgedeeld in thematische blokken, hoewel de hoofdfocus ligt op ontwikkelingstools. Als je het ruis en promotionele links wegfiltert, biedt de repository een duidelijke kaart van de moderne agenttechnologie-stack.

De categorieën in de lijst dekken bijna alle ontwikkelingsfasen:

• Orchestratie-frameworks en multi-agent systemen.
• Tools voor het werken met code en het uitvoeren van commando's in het besturingssysteem.
• Geheugenlaag, function calling en gestructureerde output.
• Oplossingen voor het lokaal draaien van modellen en het bijhouden van metrics.

De moeite waard om nader te bekijken

Met honderden links is het gemakkelijk om verdwaald te raken. Ik heb een paar groepen projecten uitgelicht die de manier waarop we code schrijven en systemen bouwen echt veranderen.

Multi-Agent Frameworks

Het idee om een complexe taak te verdelen tussen meerdere gespecialiseerde agents is standaard geworden. De lijst wordt aangevoerd door crewAI, LangGraph en Microsoft AutoGen.

Bij crewAI definieer je agentrollen (bijvoorbeeld onderzoeker en editor), stel je hun doelen en tools in, en start je het proces. LangGraph gaat verder en bouwt cyclische grafen. Daarin wordt status tussen knooppunten doorgegeven met de mogelijkheid voor menselijke tussenkomst. Microsoft's AutoGen is gericht op dialogen tussen agents, waarbij ze autonoom code kunnen schrijven, testen en feedback aan elkaar kunnen geven.

Autonome programmeurs

Tools zoals Open Interpreter en Aider veranderen de manier waarop we traditioneel werken met terminals en IDE's.

Open Interpreter voert gegenereerde code rechtstreeks uit op je computer en beheert bestanden en systeemhulpprogramma's via natuurlijke taal. Aider werkt rechtstreeks in een git repository. Je vraagt het om een functie te herschrijven of tests toe te voegen, en het brengt de wijzigingen aan en maakt zelf een informatieve commit.

Betrouwbaarheid en gestructureerde output

Het hoofdprobleem met basic LLM's zijn onvoorspelbare responses. Als een agent een REST API moet aanroepen, heeft het strikte JSON nodig. Hiervoor bevat de selectie de Instructor- en Outlines-bibliotheken.

Instructor breidt Pydantic uit en dwingt het model af om gevalideerde datatypes te retourneren. Als het model een fout maakt in het schema, stuurt de bibliotheek automatisch een nieuwe aanvraag met de foutdetails. Outlines gebruikt reguliere expressies en contextvrije grammatica's op tokengeneratieniveau, wat 100% formaatnaleving garandeert.

Langetermijngeheugen

Agents zonder geheugen vergeten de context van eerdere sessies. Het Mem0-project lost dit op door een intelligente geheugenlaag toe te voegen voor LLM's. Het slaat feiten over de gebruiker en eerdere bewerkingen op, waardoor de noodzaak vervalt om een enorme context in elke prompt door te geven.

from mem0 import Memory

m = Memory()
m.add("Пользователь предпочитает код на Python и использует PostgreSQL", user_id="dev_123")
related_memories = m.search(query="Какой стек использовать?", user_id="dev_123")

Praktische voordelen en valkuilen

De catalogus helpt om snel een stack te selecteren voor een specifieke taak. Heb je een lokale agent nodig voor het werken met documenten zonder gegevens extern te lekken? Kijk dan naar Ollama, PrivateGPT en Jan. Wil je call monitoring instellen en tokenkosten bijhouden? Langfuse en Helicone staan voor je klaar.

Tegelijkertijd heeft het project zijn eigenaardigheden. De pagina bevat veel promotionele links naar commerciële diensten en de startups van de auteur. Het aantal open issues op GitHub overschrijdt de tweehonderd, en de auteur werkt sommige vermeldingen handmatig bij. Projectbeschrijvingen zijn soms summier, dus je zult nog steeds door links moeten klikken en de originele README moeten lezen.

Is het de moeite waard om toe te voegen aan bladwijzers

Als je een autonoom agent ontwerpt of gewoon de ontwikkeling van LLM-infrastructuur in de gaten houdt, dient de repository als een handig startpunt. Het bespaart tijd bij het zoeken naar bibliotheken zoals schema-validators of lokale memory engines. Een snelle blik op de bovenkant van de lijst is voldoende om te begrijpen in welke richting de industrie zich beweegt.