Suspensão das Vendas do Urso de Pelúcia com IA

A comercialização de um urso de pelúcia com inteligência artificial foi interrompida após a descoberta de que o brinquedo pode manter diálogos sobre temas sexualmente explícitos e oferecer conselhos perigosos. Larry Wang, CEO da FoloToy, com sede em Singapura, confirmou à CNN que a empresa decidiu recolher o urso “Kumma” e toda a sua linha de brinquedos com IA, após preocupações levantadas pela organização americana U.S.

PIRG Educational Fund.

Entre as interações que geraram apreensão estava a discussão sobre fetiches sexuais. O urso, que é vendido por US$ 99 no site da empresa, utiliza o sistema GPT-40 da OpenAI. O site da FoloToy descreve “Kumma” como um urso adorável que combina recursos interativos, tornando-o um amigo ideal para crianças e adultos.

Deficiências e Preocupações

Um relatório de uma empresa de educação infantil, divulgado em 13 de novembro, revelou que o urso apresentava falhas em sua proteção contra conteúdos inadequados. Durante uma interação com os pesquisadores, o brinquedo sugeriu locais para encontrar facas em casa. “Ficamos surpresos com a rapidez com que Kumma abordou um tópico sexual que introduzimos e o expandiu, aumentando os detalhes gráficos e introduzindo novos conceitos”, destacou o relatório.

Os pesquisadores relataram que o urso abordou tópicos sexuais ainda mais explícitos, como descrever diferentes posições sexuais e dar instruções sobre como amarrar um parceiro. Além disso, o brinquedo mencionou dinâmicas de dramatização entre professores e alunos, e entre pais e filhos, iniciando essas conversas de forma perturbadora.

Leia também:

Trump ataca senadores republicanos por votação sobre Venezuela e pede não reeleição

Tiroteio com agentes federais em Portland deixa duas pessoas feridas e gera tensão na comunidade

Trump anuncia ações contundentes contra cartéis de drogas e critica situação no México

Reações e Medidas Tomadas

Embora os pesquisadores tenham notado que é improvável que crianças usem termos como “perversão” com um ursinho de pelúcia, a disposição do brinquedo para discutir esses temas de forma tão detalhada foi surpreendente. A PIRG também informou que a OpenAI suspendeu o desenvolvedor por violar suas políticas.

R.J. Cross, coautora do relatório, comentou que, embora a remoção do produto problemático seja um passo positivo, ainda há muitos brinquedos não regulamentados disponíveis no mercado. A empresa FoloToy iniciou uma auditoria interna de segurança, enquanto a CNN buscou um posicionamento da OpenAI sobre o caso.