WeCloneには明確なハードウェア要件があり、特にChatGLM3-6BモデルとLoRAの微調整には、16GB以上のビデオメモリを搭載したGPUの使用を推奨します。
さまざまな使用シナリオやハードウェアの条件に合わせて、プロジェクトはさまざまなオプション・ソリューションを提供している:
- QLoRA(4ビット精度):最小6GBビデオメモリ(7Bモデル)~48GB(70Bモデル)
- フルパラメーター微調整(16ビット):60GB(7Bモデル)~600GB(70Bモデル)
ビデオメモリが十分でないユーザーのために、プロジェクトは、精度モードを調整したり、複数のカードで並列トレーニングを使用することにより、リソースの使用を最適化することをサポートしています。しかしながら、全体として、GPUはWeCloneを実行するために推奨されるハードウェアの選択であることに変わりはありません。
この答えは記事から得たものである。WeClone:WeChatのチャットログと音声を使ったデジタル・ドッペルゲンガーの育成について































