SUMMIT FEBRASGO Inovação em GO: Quando o algoritmo erra

“O perigo não é usar inteligência artificial, é utilizar mal: copiar respostas sem verificar, não perceber qual diretriz o algoritmo está usando, tratar o modelo como autoridade e aceitar um erro.” Esse foi o alerta feito pela Dra. Lia Cruz Vaz da Costa Damásio, diretora de Defesa e Valorização Profissional da FEBRASGO, durante sua participação no SUMMIT FEBRASGO Inovação em GO 2026.

A médica fez um alerta ressaltando que o uso da inteligência artificial na Ginecologia e Obstetrícia exige atenção aos erros e vieses dos algoritmos, à proteção dos dados das pacientes e à responsabilidade do profissional pelas decisões clínicas. “A tecnologia pode auxiliar na assistência, mas cabe ao médico avaliar as informações geradas e garantir que a conduta adotada seja adequada a cada paciente”.

A adoção da inteligência artificial na saúde abre possibilidades para apoiar a análise de exames, organizar informações e auxiliar na prática médica. No entanto, o uso dessas ferramentas também traz riscos como: resultados incorretos, falhas na proteção de dados e respostas que não consideram as particularidades de cada paciente. “Não podemos atribuir ao sistema a responsabilidade por uma decisão médica. O profissional precisa conferir as informações, avaliar se elas fazem sentido para o caso e manter seu próprio julgamento clínico”, enfatiza.

Um dos riscos apontados pela especialista foi o chamado viés algorítmico, quando um sistema apresenta resultados menos precisos para determinados grupos ou situações. Isso pode ocorrer porque os dados usados no desenvolvimento da ferramenta não representam adequadamente a população em que ela será aplicada ou porque o sistema é utilizado fora do contexto para o qual foi criado.

Na prática ginecológica e obstétrica, essa limitação merece atenção. Uma ferramenta de avaliação de risco pode classificar uma gestante como de baixo risco sem considerar sinais clínicos importantes identificados pelo médico. Por isso, a recomendação apresentada no simpósio é verificar em qual população o sistema foi treinado, o que ele avalia e em quais condições foi testado.

Durante a aula, a especialista trouxe exemplos de avaliações em que o desempenho dos profissionais foi afetado quando eles receberam respostas incorretas geradas por sistemas de inteligência artificial. “A ferramenta deve servir como apoio e não como autoridade para definir a conduta”, alerta.

Outro ponto relevante apresentado pela Dra. Lia foi sobre a privacidade de informação. Dados de saúde e sobre a vida sexual são considerados sensíveis pela Lei Geral de Proteção de Dados (LGPD). Copiar prontuários, resultados de exames ou laudos com dados identificáveis para plataformas públicas pode expor informações das pacientes.

“Antes de usar uma ferramenta, o médico precisa saber como os dados serão tratados e se existe segurança para utilizá-la naquele contexto”, orienta. A proteção exige cuidado com os dados inseridos, avaliação das condições de armazenamento e uso de medidas que impeçam a identificação das pacientes.

Dra. Lia também fez questão de ressaltar que a responsabilidade dos profissionais na utilização da inteligência artificial não elimina o dever do médico de revisar as informações, justificar sua conduta e registrar os aspectos relevantes no prontuário. “A paciente deve ser informada sobre o uso da tecnologia, respeitando sua autonomia e o direito de participar das decisões sobre o próprio cuidado”.

As instituições de saúde também têm papel relevante na escolha dos sistemas, na segurança dos dados e na capacitação das equipes. Para incorporar essas ferramentas à rotina, os profissionais precisam desenvolver habilidades que permitam reconhecer suas limitações, conferir referências e identificar respostas incorretas.

Na Ginecologia e Obstetrícia, a inteligência artificial pode apoiar a assistência, mas não substitui o julgamento clínico nem a relação entre médico e paciente. “Em situações que envolvem diagnósticos difíceis, decisões terapêuticas e comunicação de notícias delicadas, a escuta, a empatia e o cuidado humano permanecem essenciais”, conclui Dra. Lia.