Okteto AIは、インテリジェントなGPU割り当てメカニズムを使用して、リソースの浪費を解決します:
- ダイナミックアロケーションで
okteto.yml
でGPU要件を宣言する。gpu: 1
)、プラットフォームはトレーニング中のみリソースを割り当てる。 - 自動回復トレーニング終了後
okteto down
GPUを即座に解放し、アイドル状態の消費を回避 - 資源モニタリング管理ダッシュボードには、GPUの使用状況や温度などがリアルタイムで表示されます!
- コスト管理エンタープライズ版では、GPU使用量のクォータとアラートルールを設定できます。
テストによると、この方法は従来の固定割り当て方法と比較して、クラウド・コンピューティング・コストを47%節約できる。
この答えは記事から得たものである。Okteto AI: 信頼できるAIエージェントを実行するクラウドベースの開発プラットフォームについて