Alle Lokale AI-modellen in één Venster — Een blik op Uncensored Local Studio
Als je ooit hebt geprobeerd een lokale AI-stack op te zetten, weet je waarschijnlijk hoe rommelig het wordt. Je installeert Ollama of LM Studio voor tekst, Automatic1111 of ComfyUI voor afbeeldingen, een apart Whisper-script voor spraakherkenning en nog een ander hulpprogramma voor tekst-naar-spraak. Het resultaat is gigabytes aan Python-virtuele omgevingen die zich ophopen op schijf, conflicterende poorten en VRAM die wordt verbruikt door meerdere processen tegelijk.
Onlangs stuitte ik op de techjarves/Uncensored-Local-Studio repository. De auteur probeerde het probleem van verspreide hulpprogramma's op te lossen door de belangrijkste AI-tools te bundelen in één desktopclient.
Wat Uncensored Local Studio Kan Doen
Dit is een volledig autonome studio die lokaal draait op Windows, Linux of macOS. Het project heeft ongeveer 800 sterren op GitHub en maakt gebruik van een open MIT-licentie.
Binnen de webinterface worden vier taken gecombineerd:
- Afbeelding genereren en bewerken via Stable Diffusion (.safetensors, .gguf en .ckpt bestanden).
- Dialoog met taalmodellen in GGUF-formaat.
- Realtijd spraaktranscriptie van microfoon of audiobestanden.
- Tekst-naar-natuurlijke-spraak conversie.
Het grote voordeel is de volledige afwezigheid van afhankelijkheden van cloud-API's, externe servers, registraties of abonnementen. Alle berekeningen vinden uitsluitend plaats op je computer.
Hoe de Architectuur Werkt
Vanuit een ontwikkelperspectief combineert het project op interessante wijze bestaande krachtige C++ engines.
In plaats van de gebruikelijke zware Python- en PyTorch-stack gebruikte de ontwikkelaar gecompileerde C++ backends. Afbeeldinggeneratie wordt afgehandeld door stable-diffusion.cpp, chat met tekstmodellen door llama.cpp, spraaktranscriptie door whisper.cpp en tekst-naar-spraak door kokoro-js met het Kokoro-82M neurale netwerk.
De frontend is geschreven in Vite en React. De webserver en backend lifecycle manager draaien op Node.js. Dus gebruikers hoeven geen tijd te besteden aan het instellen van een omgeving, het opstartscript downloadt een draagbare versie van Node.js direct in de app-directory. Systeemvariabelen blijven onaangetast.
VRAM-beheer is op een interessante manier opgelost. Chat en afbeeldingsgenerator werken volgens het principe van wederzijdse uitsluiting. Bij het schakelen tussen tabbladen geeft de actieve engine videogeheugen vrij, waardoor de app adequaat kan draaien op GPU's met 6–8 GB VRAM.
Hardwareversnelling en Werken met Modellen
De app kan automatisch geïnstalleerde hardware detecteren en selecteert de optimale backend:
- NVIDIA: CUDA-optimalisaties worden gebruikt.
- AMD en Intel Arc: berekeningen worden uitgevoerd via de Vulkan API of ROCm.
- Apple Silicon: de Metal engine wordt gebruikt (Intel Mac-processors worden niet ondersteund).
- Intel Core Ultra: er is experimentele modelondersteuning op geïntegreerde NPU's via OpenVINO.
Voor Windows komt het opstarten neer op het uitvoeren van windows.bat. Op Linux en macOS worden de opdrachtscripts linux.sh en mac.sh gebruikt.
Zo ziet de app-directorystructuur eruit:
Uncensored-AI-Studio/
├── windows.bat # Скрипт запуска для Windows
├── linux.sh # Скрипт запуска для Linux
├── mac.sh # Скрипт запуска для macOS
├── scripts/ # Конфигураторы бэкендов и веб-сервера
└── app/
├── frontend/ # Исходный код интерфейса (Vite + React)
├── models/ # Модели Stable Diffusion (.safetensors, .ckpt)
├── llm-models/ # Текстовые модели (.gguf)
├── speech-models/ # Модели Whisper (.bin)
└── outputs/ # Сохраненные генерации и метаданные JSON
De ingebouwde modelmanager vereenvoudigt het downloaden: je kunt een directe Hugging Face-link plakken en het bestand wordt rechtstreeks naar de juiste map gedownload. Uit de doos biedt het een snelle start met lichtgewicht modellen zoals Qwen2.5 Coder voor chat of DreamShaper 8 voor het genereren van kunst.
De interface toont een ingebouwde resource monitor die CPU-belasting, RAM, GPU en VRAM-gebruik in realtime weergeeft.
Beperkingen en Valkuilen
Compactheid heeft een keerzijde. Als je gewend bent aan gespecialiseerde tools zoals ComfyUI met hun node graphs, ControlNet, LoRA of complexe pipelines voor Flux en Hunyuan, zal dit project ze niet vervangen. Hier worden alleen standalone SD 1.5 en SDXL checkpoints ondersteund. Extra VAE-bestanden of tekstencoders worden niet apart geladen.
Het tweede punt betreft Linux-systemen. Vooraf gebouwde backend-binaries zijn gecompileerd voor relatief recente distributies met glibc 2.38 of nieuwer (bijvoorbeeld Ubuntu 24.04). Bij uitvoering op oudere distributies zoals Ubuntu 22.04 zal de backend een dynamische linkerfout geven. Je moet ofwel het besturingssysteem bijwerken of binaries uit de broncode compileren met behulp van het meegeleverde script scripts/build/build_from_source.sh.
Voor Wie Dit Project Nuttig Is
Uncensored Local Studio is een gewondige vondst voor iedereen die een universele persoonlijke assistent en afbeeldingsgenerator op één PC nodig heeft zonder het gedoe van het instellen van Python-omgevingen.
Voor ontwikkelaars is het project interessant als een duidelijk voorbeeld van het integreren van llama.cpp en stable-diffusion.cpp in een uniforme Node.js/React-interface. De code is open en de architectuur demonstreert hoe je responsieve neurale netwerktoepassingen kunt bouwen zonder gigabyte-grote afhankelijkheden.
Gerelateerde projecten