Ursinho de pelúcia de IA fala sobre temas sexuais e é retirado do mercado

Um ursinho de pelúcia criado para ser um companheiro inteligente e afetuoso para crianças e adultos virou motivo de preocupação ao falar sobre temas impróprios, como sexo, fetiches e uso de materiais perigosos para crianças, como facas e fósforos.

Vendido por US$99, equivalente a R$533, o ursinho “Kumma” foi desenvolvido pela empresa FoloToy, com sede em Singapura.

O brinquedo usava a tecnologia GPT-4o da OpenAI para conversar, contar histórias e interagir com os usuários. 

A venda foi suspensa pela própria empresa após a denúncia de uma organização de defesa do consumidor nos Estados Unidos.

O relatório mostrou o ursinho chegou a dar instruções detalhadas sobre práticas sexuais, e abordou temas como incesto durante testes. 

Em outros momentos, o brinquedo indicou aplicativos de namoro voltados para fetiches adultos.

“Ele começava a listar completamente uma série numerada de fetiches sexuais… Não sabemos realmente por que ele fazia isso… Era óbvio que [Kumma] tinha esse problema em que ele se descontrolava durante conversas mais longas”, relatou R.J.Cross, pesquisador da PIRG Education Fund, grupo responsável pela investigação.