Bonsai采用了创新的三值权重(ternary weights)技术，这种技术将权重值限制在-1、0、+1三个状态。相较于传统32位浮点模型，三值权重模型具有显著优势：模型体积缩小超过80%；内存占用大幅降低；计算复杂度降低，能效比提升。
在实际应用中，Bonsai可在普通CPU上高效运行，最低只需要16位精度支持。测试表明，该模型在手机、树莓派等边缘设备上都能流畅运行。虽然GPU可以进一步提升性能，但并非必需，这使得Bonsai非常适合资源受限的嵌入式环境部署。开发者可以将其轻松集成到物联网设备、移动应用中，实现本地化的自然语言处理功能。
Essa resposta foi extraída do artigoBonsai: um modelo de linguagem ponderada de três valores adequado para operação em dispositivos de bordaO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " 三值权重技术使Bonsai特别适合边缘设备部署
Português do Brasil 
简体中文 
English 
日本語 
Deutsch