Python
Jak przyspieszyć lokalne sieci neuronowe na Apple Silicon dwukrotnie dzięki MTPLX
MTPLX wykorzystuje wbudowane głowy MTP w modelach jak Qwen 3.5-3.8, osiągając do 2,24x przyspieszenia na Apple Silicon bez dodatkowego modelu roboczego.
Język
Strona głównaJęzyki
Sekcje
MTPLX wykorzystuje wbudowane głowy MTP w modelach jak Qwen 3.5-3.8, osiągając do 2,24x przyspieszenia na Apple Silicon bez dodatkowego modelu roboczego.
Inżynier Andrey Mikhailov stworzył TurboFieldfare — niestandardowe środowisko uruchomieniowe w Swift/Metal, które uruchamia model Google Gemma 4 26B-A4B w zaledwie 2 GB pamięci RAM na zwykłym MacBooku Air M2.