Programas de práticas de engenharia para garantir a coerência do diálogo
Embora o CogVLM2 ofereça suporte a várias rodadas de diálogo, pode ocorrer deterioração do contexto em diálogos longos:
- Gerenciamento do estado do diálogoPersistir o registro da conversa usando os métodos save()/load() do objeto Conversation.
- Extração de informações-chaveGeração de resumo após cada 5 rodadas de diálogo (requer uma chamada ao método get_summary())
- Auxílio à memória externaCombinação de bancos de dados vetoriais para armazenar a incorporação de diálogos históricos
Código de implementação padrão:
from cogvlm2 import CogVLM2
model = CogVLM2.load('dialog_model')
conv = model.start_conversation()
# Fluxo de diálogo com economia de estado
for i in range(10):
user_input = input('You: ')
se i % 3 == 0: # salvar o estado a cada 3 rodadas
conv.save('conv_state.pkl')
response = conv.ask(user_input)
print('AI:', response)
Técnicas avançadasPara conversas de domínio profissional, os arquivos da base de conhecimento (PDF/TXT) podem ser passados na inicialização para aumentar a relevância do contexto. Quando a mudança de tópico é detectada, a função reset_topic() é ativamente chamada para limpar o contexto irrelevante.
Essa resposta foi extraída do artigoCogVLM2: modelo multimodal de código aberto para apoiar a compreensão de vídeos e várias rodadas de diálogoO
