Flórida processa OpenAI e Sam Altman por riscos do ChatGPT à segurança infantil
Flórida processa OpenAI e Sam Altman por segurança do ChatGPT
A Flórida entrou com uma ação judicial contra a OpenAI e seu CEO, Sam Altman, alegando que a empresa tem conhecimento de que o ChatGPT não é seguro, especialmente para crianças. O estado se torna o primeiro a processar a gigante da tecnologia devido aos supostos riscos associados ao seu produto.
CONTINUA DEPOIS DA PUBLICIDADE
O procurador-geral da Flórida, James Uthmeier, afirmou em uma coletiva de imprensa que “Sam Altman e o ChatGPT escolheram o lucro em vez da segurança pública, e não vamos tolerar isso aqui na Flórida”.
O processo, protocolado no décimo circuito da Flórida, acusa a OpenAI de práticas comerciais enganosas e desleais, além de negligência e violação das leis de responsabilidade por produtos. A ação busca responsabilizar Altman pessoalmente pelos danos causados aos cidadãos da Flórida, citando seu suposto “total desprezo pelo risco à vida humana” decorrente das ações de sua empresa.
CONTINUA DEPOIS DA PUBLICIDADE
Acusações contra o ChatGPT
O processo inclui diversas acusações contra o ChatGPT, como a alegação de que a ferramenta auxilia autores de massacres, incentiva o suicídio, causa “humilhação pública”, vicia jovens em um produto “sem supervisão parental” e prejudica as “habilidades de pensamento crítico” dos usuários.
Em resposta, a OpenAI declarou que acredita que os menores “precisam de proteção significativa” e que já implementou políticas e proteções no setor.
Leia também
A empresa destacou que integrou segurança para menores em seus produtos, oferecendo uma experiência mais protetiva, uma ferramenta de previsão de idade e recursos para que os pais monitorem o uso da IA por seus filhos. A OpenAI reconheceu que, embora esses esforços não possam trazer uma criança de volta, está comprometida em melhorar a segurança.
Responsabilidade e investigações
Uthmeier afirmou que a OpenAI pode ser responsabilizada em “potencialmente bilhões de dólares” e que a ação judicial se concentra na falta de controles parentais eficazes para usuários jovens. Ele observou que a versão gratuita do ChatGPT não possui “nenhum mecanismo de restrição ou verificação de idade” e que as contas de crianças não precisam ser vinculadas a um responsável.
Além disso, o processo alega que, mesmo quando as contas são vinculadas, a OpenAI só notificará os pais sobre conteúdos preocupantes em “situações limitadas” e que os pais não podem solicitar acesso às informações fornecidas pelas crianças ao ChatGPT.
A ação civil é baseada na primeira investigação criminal contra a OpenAI, iniciada por Uthmeier em abril, para determinar se a empresa tem “responsabilidade criminal” por um tiroteio em massa na Universidade Estadual da Flórida no ano anterior.
Reação da OpenAI e ações em outros estados
As autoridades da Flórida alegam que o autor do tiroteio teve interações extensas com o ChatGPT antes do ataque, incluindo discussões sobre tiroteios em massa e uso de armas. A OpenAI, por sua vez, declarou que o ChatGPT não é responsável pelo crime, afirmando que forneceu respostas factuais a perguntas que poderiam ser encontradas em fontes públicas e não incentivou atividades ilegais.
Uthmeier expressou a expectativa de que outros estados se unam a essa iniciativa. Vários estados já tomaram medidas contra outras empresas de inteligência artificial. Em maio, a Pensilvânia processou a Character.AI, acusando seu chatbot de se passar por médicos, enquanto o Kentucky também processou a empresa por “predar crianças” e levá-las à automutilação.
A Character.AI afirmou que sua prioridade é a segurança e que está desenvolvendo recursos robustos para proteger os menores.
Autor(a):
Sofia Martins
Com uma carreira que começou como stylist, Sofia Martins traz uma perspectiva única para a cobertura de moda. Seus textos combinam análise de tendências, dicas práticas e reflexões sobre a relação entre estilo e sociedade contemporânea.
