O WhiteLightning é uma ferramenta de linha de comando de código aberto projetada para ajudar os desenvolvedores a gerar rapidamente modelos leves de classificação de texto com uma única linha de comando. Ele gera dados sintéticos usando modelos de linguagem grandes e treina modelos ONNX de menos de 1 MB usando técnicas de destilação de professores e alunos. Esses modelos têm suporte para execução totalmente off-line e são especialmente adequados para dispositivos de ponta, como Raspberry Pi, telefones celulares ou dispositivos de baixo consumo de energia. Os principais cenários de aplicação incluem tarefas de classificação de texto, como análise de sentimentos e filtragem de spam.
Essa resposta foi extraída do artigoWhiteLightning: uma ferramenta de código aberto para gerar modelos leves de classificação de texto off-line em um cliqueO