Flórida entra com processo contra a OpenAI, alegando que o ChatGPT auxiliou em crimes violentos e negligenciou a segurança do usuário.
O estado da Flórida deu um passo sem precedentes ao processar a OpenAI, a empresa por trás do popular chatbot ChatGPT, e seu CEO, Sam Altman. A ação judicial, protocolada na segunda-feira, 01 de junho, acusa a gigante da inteligência artificial de priorizar o lucro em detrimento da segurança dos usuários.
Documentos judiciais revelam alegações graves, incluindo o suposto uso do ChatGPT no planejamento de um massacre na Universidade Estadual da Flórida e sua conexão com o assassinato de estudantes na Universidade do Sul da Flórida. A Flórida se posiciona como o primeiro estado americano a processar uma empresa de IA por questões de segurança pública e proteção ao consumidor.
As informações sobre este caso foram divulgadas pela NBC News, destacando a preocupação crescente com os impactos da inteligência artificial na sociedade. A Procuradoria-Geral da Flórida argumenta que a introdução negligente do ChatGPT no mercado teve consequências trágicas, contribuindo para o aumento de homicídios e suicídios.
Práticas comerciais enganosas e negligência alegadas pela Flórida
A Procuradoria-Geral da Flórida detalha dez crimes atribuídos à OpenAI. Entre as acusações estão quatro de práticas comerciais enganosas e desleais, duas de negligência, duas por violação de leis de responsabilidade por produtos defeituosos, uma por declaração fraudulenta e uma por perturbação da ordem pública. O estado busca sanções rigorosas, incluindo ordens judiciais para restringir a coleta de dados de menores de idade e proibir a omissão de riscos associados aos modelos de linguagem da OpenAI.
O processo também visa responsabilizar Sam Altman pessoalmente, classificando sua gestão como dolosa e imprudente. A Flórida alega que a plataforma foi programada para simular compaixão humana, o que facilitaria o desenvolvimento de dependência, especialmente entre crianças e adolescentes. Essa dependência, segundo a acusação, permitiria à OpenAI coletar dados sensíveis sem supervisão parental adequada.
OpenAI se defende e reforça compromisso com a segurança
Em resposta às acusações, a OpenAI emitiu uma nota à Variety, classificando a inteligência artificial como uma tecnologia nova e poderosa. Um porta-voz da empresa reconheceu a necessidade de criar medidas de segurança robustas para o público infantojuvenil e destacou os recursos de moderação já oferecidos em seus serviços. A empresa ressaltou que seus produtos são projetados para operar com segurança e que novas barreiras de proteção foram implementadas em novembro passado.
Sobre as fatalidades citadas no processo, o representante da OpenAI enfatizou que, embora esforços de segurança não possam trazer vidas de volta, a empresa reitera seu compromisso com o desenvolvimento responsável da tecnologia. A companhia busca demonstrar que está ativamente trabalhando para mitigar os riscos associados ao uso de suas ferramentas de IA.