Jak przyspieszyć lokalne sieci neuronowe na Apple Silicon dwukrotnie dzięki MTPLX
MTPLX wykorzystuje wbudowane głowy MTP w modelach jak Qwen 3.5-3.8, osiągając do 2,24x przyspieszenia na Apple Silicon bez dodatkowego modelu roboczego.
Język
Strona głównaJęzyki
Sekcje
MTPLX wykorzystuje wbudowane głowy MTP w modelach jak Qwen 3.5-3.8, osiągając do 2,24x przyspieszenia na Apple Silicon bez dodatkowego modelu roboczego.
Praktyczny przewodnik po dostrajaniu modeli 8B na sprzęcie konsumenckim za pomocą Soup — narzędzia CLI oferującego strumieniowanie warstw i zautomatyzowane potoki dla małych GPU.
Skales to lokalny agent AI dla komputerów i urządzeń mobilnych, który działa autonomicznie, czyta pliki, zarządza przeglądarką i wykonuje łańcuchy zadań bez stałego nadzoru.
Zbuduj prywatną kamerę monitorującą na Raspberry Pi z szyfrowaniem end-to-end i architekturą zero-trust — bez subskrypcji chmurowych.
Inżynier Andrey Mikhailov stworzył TurboFieldfare — niestandardowe środowisko uruchomieniowe w Swift/Metal, które uruchamia model Google Gemma 4 26B-A4B w zaledwie 2 GB pamięci RAM na zwykłym MacBooku Air M2.