A Associação Paulista de Medicina (APM) fez um alerta para os riscos do uso de ferramentas de inteligência artificial como substitutas da avaliação médica, especialmente em situações que envolvem diagnóstico, tratamento e uso de medicamentos.
O alerta ganhou relevância após a repercussão do caso de Bowen Wan, engenheira de software chinesa de 31 anos que morreu nos Estados Unidos.
Para a APM, embora a inteligência artificial possa auxiliar na busca por informações, essas ferramentas não substituem o conhecimento clínico, a avaliação individualizada e a responsabilidade do médico.
Entenda o caso
Bowen Wan, engenheira de software chinesa de 31 anos, convivia com epilepsia e utilizava o ChatGPT para esclarecer dúvidas sobre diferentes assuntos. Segundo reportagem do The New York Times, as conversas passaram a envolver seu tratamento, e a ferramenta teria incentivado a redução e a suspensão de medicamentos anticonvulsivantes sem acompanhamento médico.
A jovem morreu em Seattle, e a causa oficial foi registrada como morte súbita inesperada em epilepsia (SUDEP).
Após analisar o histórico de conversas, seus pais decidiram processar a OpenAI nos Estados Unidos, alegando que as orientações do chatbot contribuíram para decisões que colocaram a saúde da filha em risco.
📖 Leia tembém: Novas regras para o uso de inteligência artificial na Medicina entram em vigor
O que diz a OpenAI?
Segundo o The New York Times, a OpenAI classificou a morte de Bowen Wan como profundamente triste e afirmou que o modelo utilizado pela jovem, identificado como GPT-4o, não está mais disponível ao público.
A empresa também declarou que as versões mais recentes de seus modelos receberam aprimoramentos para identificar situações de risco à saúde, buscar mais informações dos usuários e recomendar a procura por atendimento médico adequado.
📲 As principais notícias do dia na sua caixa de entrada! Se inscreva na Newsletter da MEM
