As organizações de saúde precisam se concentrar em três tipos de risco ao implementar:
- Limites de responsabilidade: Os resultados do modelo devem ser rotulados como "apenas para informação" e todas as decisões clínicas devem ser revisadas por um médico para evitar a substituição direta do julgamento profissional.
- PrivacidadeRegistros médicos reais devem ser dessensibilizados durante o processamento, as chamadas de API precisam ser criptografadas para transmissão e recomenda-se que sejam implantados em um ambiente local.
- Atualização de conhecimentoConhecimento médico: o conhecimento médico é altamente atual e os modelos precisam ser atualizados regularmente com as diretrizes e os bancos de dados de medicamentos mais recentes (a recomendação oficial é pelo menos trimestral).
Também é necessária uma declaração da fonte do modelo para uso comercial, de acordo com os requisitos da licença Apache 2.0. Recomenda-se que seja estabelecido um processo de revisão manual para realizar uma revisão 100% dos resultados em áreas de alto risco (por exemplo, diagnóstico de câncer).
Essa resposta foi extraída do artigoBaichuan-M2: um modelo de linguagem grande para raciocínio aumentado na área de saúdeO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Quais são os riscos éticos do uso do Baichuan-M2-32B em organizações de saúde?
Português do Brasil 
简体中文 
English 
日本語 
Deutsch