現バージョンの処理待ち時間は、商用アプリケーションの許容範囲内に位置づけられ、保証された精度でほぼリアルタイムの応答を実現している。このスピード指標は、開発者は製品コンセプトの迅速な検証のために、約20の画像のテストを10分で完了することができ、品質検査員は中規模生産ラインのニーズを満たすために、1時間に120〜180の製品を処理することができることを意味します。
この高速性能は、推論プロセスを高速化するための混合精度コンピューティングの採用、GPUの利用率を向上させるためのバッチ最適化の実装、一般的な検出シナリオのためのキャッシュ最適化など、モデルアーキテクチャの入念な最適化に起因している。Landing AIは、精度を維持しながら処理時間を10秒未満に短縮することを目標に、モデルの蒸留とハードウェアの適応を通じて性能の向上を継続するとしている。
専用モデルの学習に数時間を要する従来の手法の時間的コストと比較すると、この即座に利用可能な機能は、電子商取引商品の自動ラベリングや、スマートシティのリアルタイム監視システムのプロトタイピングなど、迅速な反復を必要とするシナリオに特に適している。既存のユーザーからのフィードバックによると、製品の品質検査などのシナリオでは、ツールの処理効率は手動検査の3～5倍に達している。
この答えは記事から得たものである。エージェントによる物体検出：注釈やトレーニングを必要としない視覚的物体検出ツールについて
