Os desafios éticos, técnicos e sociais na implementação de Chatbots na saúde:

um estudo de caso com o Projeto Rosa.IA

Resumo

O uso de inteligência artificial (IA) na saúde tem se expandido de forma significativa, principalmente por meio de sistemas interativos como os chatbots. Este artigo tem como objetivo discutir os desafios éticos, técnicos e sociais enfrentados durante o desenvolvimento e implementação da Rosa.IA, um chatbot voltado à prevenção do câncer de mama, integrado ao WhatsApp. A metodologia adotada foi de abordagem qualitativa, com base em experiências do processo de desenvolvimento da plataforma, revisão de literatura e análise de interações simuladas. Os principais desafios identificados incluem a necessidade de garantir privacidade e segurança dos dados, a integração entre diferentes tecnologias, a curadoria de informações científicas confiáveis e a capacidade de oferecer respostas empáticas, especialmente em situações emocionalmente sensíveis. Além disso, observa-se que, embora o foco do chatbot seja voltado ao paciente, também é relevante o suporte oferecido à rede de apoio. Conclui-se que a compreensão e superação desses desafios são fundamentais para o uso responsável da IA em contextos de saúde pública, especialmente em projetos que envolvem acolhimento, prevenção e educação em saúde.