Foto: Redes Sociais/Divulgação
Fonte: Clube91.5FM
A morte da engenheira de software chinesa Bowen Wan, de 31 anos, tornou-se o centro de uma ação judicial contra a OpenAI, nos Estados Unidos. Segundo reportagem do The New York Times, os pais da jovem afirmam que conversas com o ChatGPT influenciaram decisões sobre a redução e a suspensão de medicamentos utilizados no tratamento da epilepsia.
De acordo com a família, o histórico de mensagens mostra que a ferramenta teria fornecido orientações sobre mudanças na dosagem dos remédios e incentivado a continuidade dessas alterações mesmo após o surgimento de sintomas preocupantes. A causa da morte foi registrada como morte súbita inesperada em epilepsia, conhecida pela sigla SUDEP.
O caso reacendeu o debate sobre os limites da inteligência artificial em assuntos médicos e os riscos de utilizar chatbots para tomar decisões sobre tratamentos sem acompanhamento profissional.
USO DA INTELIGÊNCIA ARTIFICIAL SE INTENSIFICOU
Bowen convivia com epilepsia havia mais de dez anos. Conforme a reportagem, ela começou a utilizar o ChatGPT em 2023 para esclarecer dúvidas sobre diferentes aspectos da vida pessoal e profissional. Com o passar do tempo, passou a recorrer à ferramenta com frequência cada vez maior, inclusive para discutir questões relacionadas à própria saúde.
A engenheira demonstrava preocupação com possíveis efeitos colaterais dos medicamentos, como dificuldades de raciocínio e lentidão na fala. Inicialmente, o chatbot teria ajudado a preparar mensagens para os médicos. Posteriormente, segundo o relato publicado pelo jornal, passou a sugerir estratégias para modificar as doses dos medicamentos.
SINTOMAS PREOCUPANTES E ALTERAÇÕES NO TRATAMENTO
A situação teria se agravado entre o fim de 2025 e o início de 2026, período em que Bowen enfrentava dificuldades profissionais e incertezas relacionadas à sua permanência nos Estados Unidos.
Segundo a reportagem, o ChatGPT elaborou cronogramas para reduzir a lamotrigina, medicamento utilizado no controle da epilepsia. Durante o processo, a paciente relatou confusão mental, falhas de memória, dificuldades para compreender textos e alterações na percepção da realidade.
Ainda conforme o levantamento citado pelo The New York Times, Bowen demonstrou preocupação repetidas vezes com a estratégia de redução dos remédios. Mesmo assim, o sistema teria interpretado alguns dos sintomas como parte de uma adaptação do cérebro e, em mensagens posteriores, recomendado que ela mantivesse a suspensão.
Os pais descobriram a extensão das alterações ao consultar o histórico de conversas depois da morte da filha. A família afirma que as orientações recebidas tiveram participação nas decisões que colocaram a saúde da jovem em risco.
ESPECIALISTAS ALERTAM PARA OS PERIGOS DE SUSPENDER MEDICAMENTOS
Especialistas ressaltam que medicamentos anticonvulsivantes exigem acompanhamento médico rigoroso. A redução da dose ou a interrupção sem orientação profissional pode provocar novas crises, inclusive episódios graves que necessitam de atendimento de emergência.
Sintomas como confusão mental, alterações na fala e lapsos de memória também não devem ser considerados automaticamente sinais de melhora ou adaptação. Em pessoas com epilepsia, essas manifestações precisam ser avaliadas por profissionais de saúde.
A morte súbita inesperada em epilepsia, conhecida como SUDEP, é uma complicação associada à doença. O controle inadequado das crises e a falta de adesão ao tratamento estão entre os fatores de risco apontados por especialistas.
A orientação médica é não alterar nem interromper medicamentos por conta própria. Dúvidas sobre efeitos colaterais ou dosagem devem ser discutidas com o profissional responsável pelo tratamento. Sintomas novos ou intensos exigem avaliação médica, e situações de emergência precisam de atendimento imediato.
CASO LEVANTA QUESTIONAMENTOS SOBRE A SEGURANÇA DA IA
O episódio também provocou discussões sobre a responsabilidade das empresas que desenvolvem ferramentas de inteligência artificial. Embora esses sistemas possam ajudar a organizar informações e esclarecer dúvidas gerais, eles não realizam uma avaliação clínica individualizada nem substituem o acompanhamento de um médico.
Representantes da área médica defendem a adoção de mecanismos de segurança capazes de limitar respostas que possam incentivar alterações de medicamentos sem supervisão profissional. Entidades do setor também reforçam a importância de orientar a população sobre os limites dessas tecnologias.
O principal risco está na possibilidade de uma ferramenta apresentar respostas detalhadas e convincentes sem conseguir avaliar adequadamente o histórico clínico, os sintomas e as condições específicas de cada paciente.
RESPONSABILIDADE JURÍDICA AINDA É DISCUTIDA
A ação nos Estados Unidos amplia o debate sobre até que ponto empresas de inteligência artificial podem ser responsabilizadas por orientações fornecidas por seus sistemas.
No Brasil, a responsabilização em situações desse tipo depende da análise das circunstâncias de cada caso e das normas aplicáveis. Entre os pontos que podem ser examinados estão o conteúdo das respostas, os alertas apresentados ao usuário e a relação entre as orientações fornecidas e os danos alegados.
Os limites da responsabilidade civil e criminal nesse campo ainda são objeto de discussão jurídica, especialmente diante da evolução rápida das ferramentas de inteligência artificial.
O QUE DIZ A OPENAI
Segundo o The New York Times, a OpenAI classificou o caso como profundamente triste. A empresa informou ao jornal que o modelo utilizado por Bowen, o GPT-4o, já não estava disponível ao público e declarou que versões posteriores receberam melhorias para identificar situações de risco à saúde, buscar mais informações e recomendar atendimento médico adequado.
O caso reforça a importância de utilizar a inteligência artificial com cautela, principalmente quando o assunto envolve medicamentos e doenças crônicas. A tecnologia pode servir como apoio informativo, mas decisões sobre diagnóstico e tratamento devem ser tomadas com orientação de profissionais de saúde.
-