Caminhos para realizar a evolução do conhecimento em tempo real
O KBLaM oferece suporte à atualização dinâmica da base de conhecimento sem retreinar o modelo de base, separando a camada de armazenamento de conhecimento da camada de parâmetros do modelo. Em termos de implementação técnica, os usuários só precisam modificar o arquivo de conhecimento no formato JSON e gerar novamente a incorporação do vetor e, em seguida, concluir a atualização do conhecimento do modelo por meio do script integrate.py. Por exemplo, em um caso de teste, foram necessários apenas 8 minutos para atualizar as diretrizes de tratamento da New Crown Pneumonia da 7ª para a 9ª edição (usando GPUs A100). Esse recurso é particularmente adequado às áreas médica e jurídica que exigem atualizações frequentes de conhecimento, evitando as centenas de GPUs que as soluções tradicionais de ajuste fino exigem para cada atualização.
Essa resposta foi extraída do artigoKBLaM: uma ferramenta aprimorada de código aberto para incorporar conhecimento externo em modelos grandesO