Znana historia: zaczynasz budować bota lub inteligentną wyszukiwarkę dokumentów, otwierasz konsolę dużego dostawcy chmurowego, podlinkowujesz kartę, a tydzień później znajdujesz opłaty za testowe uruchomienia. W najgorszym przypadku skrypt pozostawiony w pętli wypala miesięczny limit w ciągu kilku godzin.

Ale w przypadku większości prototypów, eksperymentów lokalnych i serwerów domowych wcale nie trzeba płacić. Repozytorium dewelopera 12britz zyskuje popularność na GitHubie. To przewodnik po otwartych wagach, darmowych API, które nie wymagają danych karty, oraz oprogramowaniu do lokalnej inferencji.

Czym ta kolekcja różni się od dziesiątek innych

Listy „awesome" na GitHubie często umierają w ciągu sześciu miesięcy od utworzenia. Linki się psują, darmowe plany znikają, a autorzy porzucają utrzymanie. Twórca poszedł inną drogą: regularnie sprawdza aktywne linki i usuwa martwe projekty.

Baza zawiera około 50 otwartych modeli, ponad 200 narzędzi i więcej niż 20 sekcji: od gotowych interfejsów i routerów po embeddingi, bazy wektorowe i silniki głosowe. Główne kryterium jest proste: korzystanie nie powinno wymagać pieniędzy.

Co przydatnego znajdziesz w środku

Całe repozytorium jest podzielone na praktyczne kategorie. Filtrowanie pod kątem najciekawszych części daje gotowy do użycia zestaw do budowania aplikacji na dowolnym poziomie.

Darmowe API chmurowe

Jeśli masz słaby laptop lub nie chcesz zajmować się GPU, możesz wywoływać gotowe endpointy:

• Google AI Studio oferuje najhojniejszy darmowy plan w rodzinie modeli Gemini Flash, który w zupełności wystarcza do debugowania i testowania promptów.
• Groq zapewnia inferencję otwartych modeli z ogromną szybkością dzięki własnym chipom LPU, a plan bazowy nie wymaga płatności.
• NVIDIA NIM zapewnia dostęp do przyspieszonych wersji popularnych otwartych modeli bezpośrednio na infrastrukturze serwerowej NVIDIA.
• OpenRouter i AnyAPI dają ujednolicony interfejs, gdzie możesz filtrować tylko darmowe modele i przełączać się między nimi przez jedną konfigurację.

Lokalne uruchomienie na własnym sprzęcie

Dla tych, którzy trzymają dane blisko lub budują oprogramowanie w zamkniętych środowiskach, lista zawiera otwarte wagi i silniki inferencji:

• Silniki takie jak Ollama, LM Studio i llama.cpp instalują się w kilka kliknięć i obsługują kwantyzację oraz rozkład pamięci.
• W przypadku serwerów i dużych obciążeń dostępne są vLLM i SGLang z obsługą efektywnej dystrybucji kontekstu.
• Otwarte wagi obejmują mniejsze opcje dla zwykłych laptopów, jak Gemma, Phi-4 czy Qwen, a także ciężkie architektury MoE na poziomie DeepSeek czy Mistral.

Asystenci kodowania i agenci terminalowi

Sekcja dla tych, którzy chcą zastąpić płatne subskrypcje Copilot czy Cursor:

• Aider działa bezpośrednio w terminalu i automatycznie commituje zmiany do lokalnego repozytorium Git.
• Cline integruje się z VS Code, może uruchamiać polecenia w konsoli i tworzyć pliki krok po kroku.
• OpenHands i Goose radzą sobie ze złożonymi zadaniami inżynieryjnymi autonomicznie.

Routery i optymalizatory zapytań

Jeśli łączysz wiele darmowych planów jednocześnie, musisz jakoś nimi zarządzać. Projekty takie jak LiteLLM, 9Router i OmniRoute obsługują proxy ruchu, kompresję promptów i przełączanie na zapasowego dostawcę, gdy główny osiągnie dzienny limit.

Pułapki darmowych planów

Darmowy ser nie jest bez ograniczeń, co autor uczciwie ostrzega w opisach źródłowych.

Pierwszy problem dotyczy limitów zapytań na minutę (RPM) i na dzień (RPD). W darmowych planach są one surowe. Jeśli Twój agent zacznie aktywnie wywoływać narzędzia w pętli, szybko natrafisz na błąd 429.

Drugi szczegół dotyczy poufności danych. Niektórzy dostawcy chmurowi w ramach darmowego planu zastrzegają sobie prawo do wykorzystywania przychodzących promptów do trenowania przyszłych modeli. Jeśli pracujesz z zastrzeżonym kodem firmowym lub wrażliwymi danymi klientów, nie możesz używać darmowych kluczy chmurowych — bezpieczniej jest uruchamiać skwantowane modele lokalnie przez Ollama lub vLLM.

Na koniec, dostępność modeli w darmowych chmurach często się waha. Dziś usługa oferuje model za darmo, jutro ogranicza dostęp z powodu przeciążenia serwerów. Dla stabilnego działania skonfiguruj router z fallbackiem do 2-3 alternatywnych bram od samego początku.

Jak zastosować w praktyce

Najprostszy scenariusz: skonfiguruj kombinację Aider w terminalu, proxy router LiteLLM i darmowy klucz z Google AI Studio lub Groq. Otrzymujesz pełnoprawnego asystenta kodowania w ramach swojego workflow bez miesięcznej opłaty.

Jeśli potrzebujesz potoku RAG do wyszukiwania w bazie wiedzy, możesz wziąć z tej samej listy osadzoną bazę danych Chroma lub LanceDB, podłączyć otwarty model embeddingowy BGE-M3 i uruchomić interfejs webowy Open WebUI w kontenerze Docker.

Repozytorium będzie przydatne dla studentów, solo deweloperów i każdego, kto chce budować projekty poboczne bez pilnowania salda konta.

Zapisz repozytorium w zakładkach: https://github.12britz/awesome-free-models. Następnym razem, gdy będziesz musiał uruchomić model do testowania, zacznij od tej listy zamiast wpisywać dane karty kredytowej do kolejnej konsoli chmurowej.