Python
4 GBのGPU搭載ノートPCで8Bニューラルネットワークをファインチューニングする方法
Soupを使ったコンシューマハードウェアでの8Bモデルファインチューニングの実用ガイドmdashレイヤーストリーミングと自動パイプラインを小型GPUにもたらすCLIツール。
#gguf
2 プロジェクト C-plus-plus
Python依存なしで任意のハードウェアで音声認識を実行する方法
transcribe.cppは、Python依存なしで任意のハードウェアで動作する軽量なC/C++音声認識ライブラリです。16のモデルファミリー、複数のバックエンド、GGUF量子化をサポートしています。