WhiteLightningはオープンソースのコマンドラインツールで、開発者が1行のコマンドで軽量なテキスト分類モデルを素早く生成できるように設計されています。大規模な言語モデルを使用して合成データを生成し、教授陣の蒸留技術を使用して1MB未満のONNXモデルを学習します。これらのモデルは完全にオフラインでの実行がサポートされており、Raspberry Piや携帯電話、低電力デバイスなどのエッジデバイスに特に適しています。主な応用シナリオには、感情分析やスパムフィルタリングなどのテキスト分類タスクが含まれる。
この答えは記事から得たものである。WhiteLightning: 軽量なオフラインテキスト分類モデルをワンクリックで生成するオープンソースツールについて