Python
4 GBのGPU搭載ノートPCで8Bニューラルネットワークをファインチューニングする方法
Soupを使ったコンシューマハードウェアでの8Bモデルファインチューニングの実用ガイドmdashレイヤーストリーミングと自動パイプラインを小型GPUにもたらすCLIツール。
#transformers
4 プロジェクト Python
ベクトル検索とLLMのためのツールを1つのPythonライブラリに集約
txtaiは、ベクトルデータベース、SQLによるハイブリッド検索、グラフ分析、RAGパイプライン向けのLLMオーケストレーションを1つに統合したPythonライブラリです。
Python
SD. Next — 標準的なWebUI以上の機能を必要とする人のためのAutomatic1111の代替手段
SD. Nextは、クロスプラットフォームサポート、高效的なリソース管理、画像・動画生成の組み込みツールを追加したAutomatic1111のWebUIのフォークです。
Python
MLX-Audio — Apple Silicon Macに声と耳を授ける
MLX-AudioがApple Silicon Macに超高速のTTS、STT、STS機能をもたらします。AppleのMLXフレームワーク 기반으로、Whisper、Kokoro、声のクローンなどに対応し、クラウドコストなしでローカル実行。