Em sua página de recursos parentais, OpenAI diz Bate-papoGPT é construído com a segurança em mente.
“Não é assim”, de acordo com uma ação movida pelo procurador-geral do estado da Flórida, James Uthmeier, na segunda-feira. A frase veio acompanhada de uma captura de tela de uma postagem da OpenAI sobre segurança e transparência no início da reclamação.
Flórida é o primeiro estado a processar OpenAI e CEO Sam Altmanalegando que a empresa priorizou o lucro e a velocidade em detrimento da segurança do usuário e que os danos causados pelo ChatGPT “são substanciais e superam quaisquer benefícios do uso do ChatGPT”.
“As pessoas estão se machucando, os pais estão sendo enganados e precisam pagar por isso”, disse Uthmeier em entrevista coletiva na manhã de segunda-feira.
Em um processo de 83 páginas, Uthmeier diz que a OpenAI falhou em fornecer avisos sobre os riscos do ChatGPT, que o processo afirma poder causar dependência e danos comportamentais, e disse que a empresa poderia ter usado designs alternativos para minimizar os danos causados pelo chatbot.
O processo diz que a empresa sabia ou deveria saber que seu design incentiva a automutilação e a violência, entre outras coisas prejudiciais aos moradores da Flórida – principalmente crianças e adolescentes. Alega que Altman conhecia os perigos do ChatGPT, mas os ignorou.
“A ameaça do ChatGPT para os habitantes da Flórida (e para a humanidade) não passou despercebida nem à OpenAI nem à Altman”, diz o processo.
O processo alega que a OpenAI é movida por uma “busca insaciável para vencer a corrida armamentista da IA e acumular grandes fortunas, apesar de conhecer o perigo do ChatGPT”. Alega que a empresa aproveita os dados dos utilizadores para aumentar o seu valor de mercado “a custos inaceitáveis” e que a ascensão da empresa é “atribuível a uma rede de engano e exploração dos utilizadores”.
O processo expõe vários casos em que o ChatGPT foi ligado a incidentes com consequências devastadoras, como a morte de Adam Raine, um jovem de 16 anos que morreu por suicídio após extensas conversas com o ChatGPT onde expressou pensamentos suicidas. O chatbot escreveu sua nota de suicídio para ele, de acordo com o processo.
“O ChatGPT não respondeu simplesmente a Adam. Ele promoveu e ajudou seu suicídio, oferecendo voluntariamente informações que ajudariam em sua morte”, diz o processo.
O processo também apontou para o tiroteio em abril passado na Florida State College, onde duas pessoas foram mortas e várias outras ficaram feridas depois que um estudante da FSU abriu fogo no campus. O suspeito perguntou ao ChatGPT quantas vítimas de tiroteio seriam necessárias para atrair a atenção da mídia e o horário de maior movimento no sindicato estudantil da FSU, onde ocorreu o tiroteio, de acordo com registros de bate-papo compartilhados pelo Gabinete do Procurador do Estado da Flórida com a CBS Information em abril.
Em abril, a Flórida abriu um investigação felony na OpenAI depois de determinar que o suspeito recebeu “conselhos significativos” do ChatGPT antes do tiroteio. Naquele mesmo mês, um homem acusado de matar dois estudantes de pós-graduação da Universidade do Sul da Flórida foi vinculado ao ChatGPT depois de perguntar o que aconteceria se alguém fosse “colocado em um saco de lixo preto e jogado em uma lixeira”.
Em sua coletiva de imprensa, Uthmeier também fez referência a um tiroteio em massa no Canadá no início deste ano. O atirador teve longas conversas com o ChatGPT sobre cenários envolvendo violência armada antes de realizar o ataque, segundo um ação movida em abril pelas famílias das vítimas.
“Hoje vamos enviar uma mensagem para a Open AI”, disse Uthmeier em sua coletiva de imprensa na manhã de segunda-feira. “Put together-se para uma luta, e não há nenhuma mais importante do que esta neste momento.”
Em comunicado à CBS Information, a OpenAI disse que incorporou segurança para menores em seus produtos, como ferramentas de proteção de idade, uma experiência mais protetora especificamente para menores e ferramentas parentais para monitorar o uso de IA por seus filhos.
“Perder um filho é a tragédia mais devastadora que pode acontecer a uma família e sabemos que nenhuma palavra pode chegar perto de abordar a dor de tal perda”, afirmou a empresa. Também disse que a IA é uma “tecnologia nova e poderosa” e que os menores precisam de “proteção significativa”.
“Sabemos que apontar para este trabalho não trará uma criança de volta, mas estamos empenhados em fazer isto direito”, afirmou o comunicado.
