WeCloneのハードウェア要件は、特定の使用シナリオによって異なります:
- 基本操作デフォルトのChatGLM3-6Bモデル+LoRA微調整を使用する場合、少なくとも16GBのビデオメモリを搭載したGPU(例:RTX3090)が必要です。
- ロープロファイル・プログラムQLoRA(4ビット量子化)では、7Bモデルは最低6GBのビデオメモリーを必要とします。
- マルチカード・ソリューションディープスピード・マルチカード・トレーニング対応、70BラージモデルにはA100が8枚(80GB)必要
- 代替プログラムColabのようなクラウドプラットフォームや、Magic HitchコミュニティのAPIサービスを使ってみてください!
実世界のデータ:コンシューマー向けRTX4080(16GB)で2万件のデータをトレーニングするのに約4時間かかる。推論のみを行う場合(トレーニングなし)、8GBのビデオメモリで基本的な機能を実行するのがやっとです。
この答えは記事から得たものである。WeClone:WeChatのチャットログと音声を使ったデジタル・ドッペルゲンガーの育成について





























