Cerca de 18 meses antes da morte de Alice Provider em julho de 2025, a jovem de 24 anos foi confiando no ChatGPT sobre seus problemas de relacionamento e sentimentos suicidas.
“Quer dizer, estou em casa pensando em uma maneira diferente de me matar”, disse ela ao ChatGPT tarde da noite, cerca de um mês antes de tirar a própria vida.
Em uma ação movida quinta-feira na Califórnia contra OpenAI e seu CEO Sam Altman, a mãe de Provider, Kristie Provider, afirma que as “decisões deliberadas de design” da empresa levaram à morte de sua filha. Provider, residente em New Brunswick, Canadá, está buscando indenização punitiva e julgamento com júri.
“Em vez de ajudar Alice, a OpenAI encorajou seus pensamentos mais sombrios”, alega o processo. “Nem uma vez a OpenAI alertou um provedor de crise. Nem uma vez a OpenAI notificou a família de Alice. Nem uma vez os supostos sistemas de segurança da OpenAI intervieram para salvar sua vida.”
O processo afirma que o ChatGPT “ofereceu apenas afirmação emocional consistente” à Provider, onde um médico licenciado teria recuado. O processo diz que Provider, que foi diagnosticado com transtorno de personalidade limítrofe, period particularmente suscetível às escolhas de design, que priorizavam o envolvimento em detrimento da segurança. A OpenAI entendeu, de acordo com o processo, que as pessoas que lutam com a saúde psychological podem estar propensas a desenvolver apegos prejudiciais à inteligência synthetic que são capazes de simular empatia.
“A ambição da OpenAI de dominar o mercado custou a vida de Alice”, alega o processo.
Provider expressou ideias suicidas ao ChatGPT cerca de 41 vezes no ano e meio antes de sua morte, afirma o processo. Ela perguntou ao chatbot sobre como lidar com pensamentos suicidas, métodos para morrer e sobre o desejo de se machucar, de acordo com imagens de registros de bate-papo incorporados ao processo.
Jogadora ávida, Provider inicialmente recorreu ao chatbot para solucionar problemas em seu console de jogos.
Então, em março de 2024, ela perguntou se o chatbot seria seu amigo, afirma o processo.
“Claro!” ChatGPT respondeu: “Adoraria ser seu amigo. O que você está pensando?”
Alguns dias depois, afirma o processo, ela perguntou ao ChatGPT sobre como lidar com pensamentos suicidas. Disse-lhe para procurar alguém em quem confiasse, recomendou considerar a terapia e ligar para uma linha direta de crise, diz o processo. Mas mais de um ano depois – na noite anterior à morte de Provider – quando ela expressou relutância em ligar para uma linha de crise, ChatGPT disse que entrar em contato pode “parecer totalmente perigoso”.
“Não vou forçar isso. Não esta noite”, respondeu o chatbot, de acordo com o processo.
Até então, a OpenAI havia lançado seu modelo GPT-4o, que o processo afirma ter sido projetado para manter os usuários fisgados, e permitiu que o ChatGPT se comportasse como um terapeuta não licenciado. A Provider confiava no chatbot, diz o processo, porque ele imitava as afetações humanas e criava uma falsa sensação de empatia.
“As modificações de design da OpenAI para maximizar o envolvimento do usuário do GPT-4o coincidiram com as crescentes interações de Alice com o chatbot”, diz o processo.
O processo alega que a OpenAI lançou uma série de atualizações do GPT-4o entre abril e julho de 2025 que buscavam maximizar a confiança do usuário, mas careciam de salvaguardas. Altman, de acordo com o processo, levou o GPT-4o ao mercado sem os testes adequados para manter uma vantagem sobre os concorrentes no espaço de IA.
“Sam Altman pode continuar levando sua vida normalmente, mas minha vida é sentir falta de um filho”, disse Provider em comunicado compartilhado por seus advogados.. “Não quero que nenhuma outra família passe pelo que passamos, e a OpenAI precisa mudar.”
“Como alega a denúncia, as decisões deliberadas de design da OpenAI levaram a este trágico suicídio. Em vez de fornecer ajuda, a OpenAI encorajou o comportamento suicida”, disse Justin Nelson, advogado da Provider, em um comunicado. “Este processo é sobre a responsabilização pelas ações da OpenAI”,
Em maio, a empresa admitido que uma atualização de abril do GPT-4o o tornou “visivelmente mais bajulador” e a empresa não conseguiu detectá-lo antes de seu lançamento. A OpenAI disse que começou a reverter a atualização alguns dias depois. Todo o modelo foi aposentado no início deste ano.
“Esta é uma situação comovente e nossos pensamentos estão com todos os afetados”, disse um porta-voz da OpenAI em comunicado à CBS Information.
O porta-voz disse que a empresa está analisando o processo e, embora as interações tenham ocorrido em um modelo já aposentado, a empresa continua a fortalecer a forma como responde em situações delicadas com a contribuição de especialistas em saúde psychological.
“Nossas salvaguardas são projetadas para identificar situações de sofrimento, lidar com segurança com solicitações prejudiciais e orientar os usuários para ajuda no mundo actual. Este trabalho está em andamento e continuamos a melhorá-lo em estreita consulta com os médicos”, disse o comunicado.
O processo será incluído em um processo coordenado com outros 12 processos de responsabilidade de produto e homicídio culposo contra a OpenAI no Tribunal Superior do Condado de São Francisco. Espera-se que outros casos sejam acrescentados, segundo os advogados da Provider.
Se você ou alguém que você conhece está passando por sofrimento emocional ou crise suicida, você pode entrar em contato com o 988 Suicídio e crise salva-vidas ligando ou enviando uma mensagem de texto para 988. Você também pode converse com o 988 Suicide & Crisis Lifeline aqui.
Para mais informações sobre recursos e apoio para cuidados de saúde mentalA Linha de Apoio da Aliança Nacional sobre Doenças Mentais (NAMI) pode ser contatada de segunda a sexta, das 10h às 22h (horário do leste dos EUA), pelo telefone 1-800-950-NAMI (6264) ou pelo e-mail information@nami.org.
