Cómo ajustar un modelo neuronal de 8B en un portátil con una GPU de 4 GB
Una guía práctica para ajustar modelos de 8B en hardware de consumo usando Soup—una herramienta CLI que aporta streaming de capas y pipelines automatizados a GPUs pequeñas.
Idioma
InicioLenguajes
Secciones
Una guía práctica para ajustar modelos de 8B en hardware de consumo usando Soup—una herramienta CLI que aporta streaming de capas y pipelines automatizados a GPUs pequeñas.
txtai es una biblioteca Python todo en uno que combina base de datos vectorial, búsqueda híbrida con SQL, análisis de grafos y orquestación de LLM para pipelines RAG.
SD.Next es un fork del WebUI de Automatic1111 que añade soporte multiplataforma, gestión eficiente de recursos y herramientas integradas para generación de imágenes y vídeo.
MLX-Audio ofrece capacidades ultrarrápidas de TTS, STT y STS para Macs con Apple Silicon. Construido sobre el framework MLX de Apple, ofrece Whisper, Kokoro, clonación de voz y más, todo ejecutándose localmente sin costos en la nube.