Shell
Jak uruchomić sieć neuronową o 27 miliardach parametrów na zwykłym iPhonie lub domowym PC
Bonsai-27B wykorzystuje kwantyzację 1-bitową i ternarną, aby zmieścić model o 27B parametrów w zaledwie 3,5 GB pamięci RAM, umożliwiając jego uruchomienie na iPhone'ach i laptopach bez dedykowanych kart graficznych.