Eine bekannte Geschichte: Du warst begeistert von der Idee, einen Bot oder eine intelligente Dokumentsuche zu bauen, hast die Konsole eines großen Cloud-Anbieters geöffnet, deine Karte verknüpft – und eine Woche später wurden Gebühren für Testläufe angezeigt. Im schlimmsten Fall brennt ein endlos laufendes Skript das monatliche Limit in ein paar Stunden durch.

Dabei muss man für die meisten Prototypen, lokale Experimente und Home-Server überhaupt nicht bezahlen. Ein Repository des Entwicklers 12britz erfreut sich auf GitHub wachsender Beliebtheit. Es ist ein Leitfaden zu Open Weights, kostenlosen APIs ohne Kartendaten und Software für lokale Inferenz.

Was diese Sammlung von Dutzenden anderen unterscheidet

„Awesome"-Listen auf GitHub sterben oft innerhalb von sechs Monaten nach ihrer Erstellung ab. Links werden ungültig, kostenlose Stufen werden eingestellt, und Autoren stellen die Pflege ein. Der Ersteller von ging einen anderen Weg: Er richtete regelmäßige Prüfungen aktiver Links ein und entfernt tote Projekte.

Die Datenbank enthält rund 50 offene Modelle, über 200 Tools und mehr als 20 Abschnitte: von fertigen Interfaces und Routern über Embeddings, Vektordatenbanken bis hin zu Voice-Engines. Das Hauptkriterium ist einfach: Die Nutzung sollte kein Geld kosten.

Was darin nützlich ist

Das gesamte Repository ist in praktische Kategorien unterteilt. Wenn du nach den interessantesten Teilen filterst, erhältst du ein sofort einsatzbereites Set für den Bau von Anwendungen auf jedem Niveau.

Kostenlose Cloud-APIs

Wenn du einen schwachen Laptop hast oder dich nicht mit GPUs herumschlagen willst, kannst du fertige Endpunkte aufrufen:

• Google AI Studio bietet die großzügigste kostenlose Stufe bei den Gemini Flash-Modellen, was für Prompt-Debugging und Tests mehr als ausreichend ist.
• Groq liefert offene Modell-Inferenz mit enormer Geschwindigkeit dank eigener LPU-Chips, wobei die Basis-Stufe keine Zahlung erfordert.
• NVIDIA NIM bietet Zugang zu beschleunigten Versionen beliebter Open-Source-Modelle direkt auf der NVIDIA-Serverinfrastruktur.
• OpenRouter und AnyAPI bieten eine einheitliche Oberfläche, in der du nach kostenlosen Modellen filtern und über eine einzige Konfiguration zwischen ihnen wechseln kannst.

Lokaler Betrieb auf eigener Hardware

Für alle, die Daten nah halten oder Software für abgeschlossene Umgebungen entwickeln, enthält die Liste Open Weights und Inferenz-Engines:

• Engines wie Ollama, LM Studio und llama.cpp lassen sich mit ein paar Klicks installieren und übernehmen Quantisierung und Speicherverteilung.
• Für Server und hohe Lasten gibt es vLLM und SGLang mit effizienter Kontextverteilung.
• Open Weights umfassen kleinere Optionen für normale Laptops wie Gemma, Phi-4 oder Qwen, aber auch schwere MoE-Architekturen auf dem Niveau von DeepSeek oder Mistral.

Code-Assistenten und Terminal-Agents

Ein Abschnitt für alle, die kostenpflichtige Copilot- oder Cursor-Abonnements ersetzen möchten:

• Aider arbeitet direkt im Terminal und committed Änderungen automatisch in ein lokales Git-Repository.
• Cline integriert sich in VS Code, kann Befehle in der Konsole ausführen und Dateien Schritt für Schritt erstellen.
• OpenHands und Goose erledigen komplexe Engineering-Aufgaben autonom.

Rounter und Request-Optimierer

Wenn du mehrere kostenlose Stufen gleichzeitig nutzt, musst du sie irgendwie verwalten. Projekte wie LiteLLM, 9Router und OmniRoute übernehmen Traffic-Proxying, Prompt-Komprimierung und Failover zu einem Backup-Anbieter, wenn der primäre das tägliche Limit erreicht.

Fallstricke kostenloser Tarife

Kostenloser Käse hat seine eigenen Einschränkungen, vor denen der Autor in den Quellbeschreibungen ehrlich warnt.

Das erste Problem betrifft Limits bei Anfragen pro Minute (RPM) und pro Tag (RPD). Bei kostenlosen Stufen sind sie strikt. Wenn dein Agent beginnt, aktiv Tools in einer Schleife aufzurufen, wirst du schnell auf einen -Fehler stoßen.

Der zweite Punkt betrifft die Datenvertraulichkeit. Einige Cloud-Anbieter behalten sich bei der kostenlosen Stufe das Recht vor, eingehende Prompts für das Training zukünftiger Modelle zu verwenden. Wenn du mit unternehmenseigenem Code oder sensiblen Kundendaten arbeitest, kannst du keine kostenlosen Cloud-Keys nutzen – es ist sicherer, quantisierte Modelle lokal über Ollama oder vLLM auszuführen.

Schließlich schwankt die Modellverfügbarkeit in kostenlosen Clouds oft. Heute bietet ein Dienst ein Modell kostenlos an, morgen schränkt er den Zugang wegen Serverüberlastung ein. Für einen stabilen Betrieb konfiguriere von Anfang an einen Router mit Fallback auf 2-3 alternative Gateways.

Wie man es in der Praxis anwendet

Das einfachste Szenario: Richte eine Kombination aus Aider im Terminal, dem LiteLLM-Proxy-Router und einem kostenlosen Key von Google AI Studio oder Groq ein. Du erhältst einen vollwertigen Code-Assistenten in deinem Workflow, ohne eine monatliche Gebühr.

Wenn du eine RAG-Pipeline für die Wissensdatenbanksuche benötigst, kannst du aus derselben Liste die Embedding-Datenbank Chroma oder LanceDB nehmen, das offene BGE-M3-Embedding-Modell anschließen und das Open WebUI-Webinterface in einem Docker-Container starten.

Das Repository wird für Studierende, Solo-Entwickler und alle nützlich sein, die Nebenprojekte bauen möchten, ohne ihr Kontoguthaben im Auge zu behalten.

Setze das Repository in die Lesezeichen: https://github.com/12britz/awesome-free-models. Wenn du das nächste Mal ein Modell zum Testen starten musst, beginne mit dieser Liste, anstatt Kreditkartendaten in eine weitere Cloud-Konsole einzugeben.