Mulher morre após interromper tratamento para epilepsia com ajuda do ChatGPT
Engenheira de 31 anos interrompeu uso de remédio após cronograma gerado por IA; pais processam a OpenAI
A morte de uma jovem que interrompeu um tratamento contínuo por orientação do ChatGPT virou caso de Justiça nos Estados Unidos e acendeu um alerta global sobre o perigo de utilizar sistemas de inteligência artificial para diagnósticos e condutas médicas.
Continua depois da publicidade
A chinesa Bowen Wan, de 31 anos, era engenheira de software e residia em solo norte-americano. Ela manteve conversas recorrentes com a ferramenta para esclarecer dúvidas de saúde e relatar os efeitos colaterais provocados pelos seus remédios de uso controlado contra epilepsia. Entre os questionamentos feitos à tela, estavam dúvidas diretas: "Há algum motivo para se preocupar em continuar diminuindo a dosagem?" e "Não preciso me preocupar em reduzir a dosagem desta vez?".
Cronograma de desmame e morte súbita
Com base nas perguntas enviadas pela usuária, o programa elaborou um cronograma detalhado de 25 dias para diminuir a dose diária até a suspensão total do medicamento.
Em fevereiro deste ano, pouco após concluir o desmame orientado pelo chatbot, a engenheira sofreu uma morte súbita associada à epilepsia. O caso, mantido sob sigilo durante os primeiros meses, foi revelado pelo jornal norte-americano The New York Times.
Continua depois da publicidade
OpenAI é processada e alega falha em versão antiga
Diante do desfecho fatal, a família de Bowen Wan abriu uma ação judicial formal contra a OpenAI, desenvolvedora do ChatGPT. Em nota, a empresa sustentou:
"O episódio envolveu uma versão antiga do sistema, removida no dia seguinte à morte da engenheira, e os modelos atuais possuem filtros e proteções muito mais rígidos."
Para especialistas que acompanham a evolução dessas tecnologias, contudo, o episódio escancara lacunas graves de regulação e auditoria nas plataformas digitais.
"Os governos, o Estado ou qualquer organização que tem a função de proteger o cidadão em qualquer lugar do mundo, como é que lida? Não tem instrumento de fiscalização, não tem auditoria externa contratada. Por isso que tudo relacionado à saúde, que é muito sensível para o usuário, não pode, simplesmente não pode dar resposta. Você tem que procurar um médico, um hospital. Você não pode se consultar", analisa Dora Kaufman, pesquisadora dos impactos sociais da inteligência artificial.
O risco do julgamento clínico delegado a algoritmos
Neurologistas enfatizam que medicamentos de uso neurológico contínuo jamais devem sofrer alterações ou interrupções sem a avaliação presencial de um profissional habilitado.
Continua depois da publicidade
Por operar por meio de probabilidade e combinação de bases de dados heterogêneas, a ferramenta é incapaz de realizar um diagnóstico seguro e personalizado:
"A inteligência artificial traz grandes vantagens em relação à informação, mas a informação pode não ser a mais adequada, porque ela faz a média de várias fontes corretas e incorretas. O julgamento clínico apenas o médico pode fazer, porque é ele que conhece os detalhes do paciente, os detalhes da medicação e a melhor forma de fazer a sua modificação", adverte a especialista.