Python
So optimieren Sie ein 8B-Neuronales Netz auf einem Laptop mit einer 4-GB-GPU
Ein praktischer Leitfaden zum Fine-Tuning von 8B-Modellen auf Consumer-Hardware mit Soup – einem CLI-Tool mit Layer-Streaming und automatisierten Pipelines.
#local-llm
2 Projekte JavaScript
AnythingLLM – Ihr persönlicher ChatGPT-Assistent für die Arbeit mit Dokumenten
AnythingLLM verwandelt Ihre Dokumente in eine intelligente Wissensdatenbank zum Chatten. Unterstützt 20+ LLMs, No-Code-Agenten und multimodale Verarbeitung.
62,215