LLaMA-ファクトリー・オンライン

LLaMA-Factoryオンライン：コードなしで簡単に微調整が可能
1.はじめに：（すぐに使える、ローコード、フルリンク機能カバレッジオンライン大規模モデルトレーニングと微調整サービスプラットフォーム）
LLaMA-Factoryオンラインは、スターオープンソースプロジェクトLLaMA-Factoryと協力して構築されたオンラインの大規模モデルトレーニングとファインチューニングサービスプラットフォームです。私たちは、ファインチューニングのニーズと基本的なエンジニアリング能力を持つユーザーグループに対して、すぐに使える、ローコード、フルリンクの機能的なラージモデルトレーニングとファインチューニングサービスを提供することをお約束します。
LLaMA-Factory Onlineは、従来の微調整プロセスをビジュアル、オンライン、ローコードのワンストップクラウドサービスに完全に再構築します。ユーザーは、基盤となるリソースの割り当てや設定を心配する必要がなく、フレンドリーなウェブインターフェースを介してワンクリックで高性能かつ柔軟性の高いGPUコンピューティングパワーをスケジューリングするだけで、データからカスタムモデルまで完全なリンクカバレッジを実現し、チームはビジネスや技術的な実装そのものに集中することができ、開発効率が大幅に向上します。

2.機能性：深い統合と最先端技術
a. 選べる100以上のモデル：LLaMA/Qwen/DeepSeek/GPT-OSSやその他の主流モデルをカバー。
b. 完全なトレーニングアルゴリズム：事前トレーニング、SFT、報酬モデリング、PPO/DPO/KTO、その他のトレーニング方法をサポート。
c. 動作精度の柔軟性：16bitフルパラメータトリミング、フリーズトリミング、LoRAトリミング、2/3/4/5/6/8bitベースのQLoRAトリミングをカバー。
d. 高度な最適化アルゴリズム：GaLore/Badam/LoRA+/PiSSA/DORA/rsLoRAおよびその他の最先端最適化技術の統合など。
e. 実験の完全モニタリング：LlamaBoard/TensorBoard/Wandb/Mlflow/SwanLabなどのリアルタイムモニタリングツールを内蔵。
f. 効率的な学習推論：FlashAttention-2/Unslothやその他のアクセラレータを採用し、Transformers/vLLM推論エンジンをサポート。

3.活用シーン：多方面でのAIイノベーションを実現するために
LLaMA-Factory Onlineは、その柔軟性と強力な機能により、次のような人々やシナリオに広く適用できます：
a. 高等教育研究ユーザー：複雑なGPUコンフィギュレーションやメンテナンスの手間を省き、学内の厳しいコンピューティングリソースや不十分なパフォーマンスによるボトルネックを克服し、科学研究を加速する。
b. 個人の開発者／技術愛好家：素早く試して実験的に検証することで、大規模なモデル応用のための技術革新と演算利用の敷居を下げる。
c. エンタープライズユーザー：コードゼロ、コンフィギュレーションフリーで、大規模なモデルアプリケーションの技術的な敷居を大幅に下げ、チーム結成のコストを削減します。

4.製品の優位性：公式認定と究極の使いやすさ
LLaMA-Factory Onlineの核となる強みは、信頼性、使いやすさ、高性能の完璧な組み合わせです：
a.公式の協同、信頼できる技術: 星のオープンソースプロジェクト LLaMA-Factory の公式の協同の生産と、技術ラインが時機を得た方法で更新される成熟していることを保障するため。
b. トップ演算、効率2倍：ボトムにはNVIDIA Hシリーズ高性能グラフィックカードを搭載し、マルチマシン、マルチカード分散トレーニングをサポートし、トレーニングサイクルを大幅に短縮。
c. フルリンクのサポート、すぐに使える：データのアップロード、前処理、微調整、モニタリングから評価まで、モデルの微調整トレーニングの全プロセスをカバーし、本当にすぐに使える。
d. 柔軟な適応、幅広い応用シナリオ：教育・研究ユーザー、個人開発者、技術愛好家、スタートアップチームなど、どのような方でも、敷居が低く、低コストで大規模なモデルのカスタマイズの実践を始めることができます。
e. ローコードによる可視化、最小限の操作：使いやすいウェブインタフェースと、クラウドGPUリソースのワンクリック・スケジューリングを提供します。
f.柔軟な課金、費用対効果：様々な課金モード（高速享受、動的優遇、動的超節約）を提供し、ユーザーはタスクのリズムに応じて、最も費用対効果の高い演算能力の使用方法を選択することができます。

5.使用法：微調整の旅を始めるための3つのクイックステップ
a. データとモデルの準備：微調整を行うデータセットをSFTPまたはその他の手段でプラットフォームにアップロードする。
b. タスクの設定と開始：モデルの微調整タスクスペースに入り、ビジュアルインターフェースで、微調整が必要なベースモデルを選択し、主要パラメータを設定し、クイック微調整（Extreme Getting Started）またはエキスパート微調整（Deep Customisation）を選択します。予算とタイムリーさに応じて、適切な課金モード（Extreme Premium、Dynamic Discount、Spirit Ultra Save）を選択し、ワンクリックで開始できます。
c.モニタリングと評価：LlamaBoard/TensorBoardなどの内蔵ツールにより、タスクのトレーニングロスやリソース消費をリアルタイムでモニタリング。トレーニング後、モデル評価機能を使って微調整効果を定量化する。モデル対話機能を使ってモデルのパフォーマンスを即座にチェックする。