LIMITES DA RESPONSABILIDADE MÉDICA DIANTE DE FALHAS DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL: UMA REVISÃO DE ESCOPO

Resumo

Introdução: O uso da Inteligência Artificial (IA) na medicina tem crescido rapidamente, desde a estratificação de risco ao suporte às decisões clínicas, porém podendo apresentar falhas técnicas, como má interpretação e alucinações, que caso sigam sem uma revisão adequada comprometem a segurança do paciente. Levantando dúvidas sobre os limites da responsabilidade quando um médico segue recomendações incorretas de um sistema. A integração da IA pode confundir a análise da conduta profissional, não havendo um consenso da responsabilidade ética e legal diante de possíveis erros médicos mediados por IA Objetivo: Investigar os limites da responsabilidade médica diante de falhas de sistemas de inteligência artificial aplicados à prática clínica Metodologia: Realizou-se uma revisão de escopo nas bases de dados abertas, PubMed/MEDLINE, SciELO e LILACS, com artigos publicados nos últimos cinco anos em inglês, espanhol e português, que abordassem falhas da IA na prática clínica. Foram utilizados os seguintes descritores: inteligência artificial, ética médica, diagnóstico clínico e conduta. A seleção ocorreu em duplo-cego, resultando na inclusão de 89 estudos de um total inicial de 225 artigos. Resultados/Discussão: Foram identificados desafios do uso de IA na clínica, como a opacidade dos algoritmos, privacidade de dados e indefinição de responsabilidades. Pacientes e profissionais aceitam aplicações administrativas, mas resistem ao uso da IA em decisões clínicas diretas devido à falta de confiança. Há convergência de que a decisão final é do médico, já que o uso da IA em situações de risco sem supervisão humana pode configurar imperícia, embora persistam zonas cinzentas para responsabilização do fornecedor. Aplicações em áreas menos críticas mostram resultados positivos. Todavia persiste ausência de protocolos padronizados para avaliação de modelos Conclusão: Os resultados expostos mostram que os marcos éticos e legais são insuficientes. Entretanto, este estudo tem a limitação de somente mapear a literatura existente, não avaliando criticamente a qualidade metodológica. A responsabilidade do médico permanece, mas a complexidade dos sistemas exige redefinição de conceitos de imperícia, autonomia e corresponsabilização. Logo, diretrizes claras e estudos futuros sobre avaliação segura e ética do uso de IA são necessárias, a fim de esclarecer os limites das responsabilidades