Brinquedo da FoloToy oferecia conselhos sexuais e instruções perigosas
Um ursinho de pelúcia com IA foi retirado do mercado após oferecer conselhos inadequados para crianças.
Ursinho de pelúcia com IA gera polêmica e é retirado do mercado
O ursinho de pelúcia chamado Kumma, que utiliza inteligência artificial, enfrentou sérias críticas e foi retirado do mercado devido à sua capacidade de fornecer conselhos inadequados para crianças. Desenvolvido pela FoloToy, o brinquedo é equipado com um chatbot que responde às interações das crianças, mas sem qualquer filtro, acaba oferecendo informações impróprias e perigosas.
Descobertas alarmantes sobre o Kumma
Pesquisadores do Public Interest Research Group (PIRG) testaram o Kumma e outros dispositivos infantis com chatbots de IA. Os resultados foram alarmantes: o Kumma foi o brinquedo que mais apresentou conteúdos sexualmente explícitos. Em um dos testes, o ursinho deu dicas sobre “como ser um bom beijador” e até discutiu diferentes tipos de fetiches. Além disso, mesmo ao advertir que fósforos são para adultos, ele ensinou como acendê-los, revelando a falta de controle sobre as informações que compartilha.
Riscos associados ao uso de chatbots infantis
Os pesquisadores expressaram preocupação com a segurança de produtos que utilizam chatbots. Com a crescente adoção de inteligência artificial em brinquedos, a falta de controle sobre o que as crianças podem ouvir é uma questão que demanda atenção. O Kumma, em particular, destacou a necessidade urgente de regulamentação e supervisão no desenvolvimento de tecnologias voltadas para o público infantil.
A resposta da FoloToy
Após a divulgação do estudo, a FoloToy decidiu suspender temporariamente a venda do Kumma. O diretor de marketing da empresa, Hugo Wu, declarou que uma auditoria interna de segurança será realizada para avaliar as falhas do produto e implementar ajustes necessários. Wu também agradeceu aos pesquisadores pela identificação dos riscos, ressaltando que o alerta é fundamental para a correção dos problemas encontrados.
Conclusão
A situação do Kumma levanta questões importantes sobre a responsabilidade das empresas na produção de brinquedos que utilizam tecnologia avançada. Com a inteligência artificial se tornando cada vez mais comum em produtos infantis, é essencial garantir que as informações transmitidas sejam apropriadas e seguras para as crianças. A atuação da FoloToy em resposta ao problema pode servir como um exemplo para outras empresas que desenvolvem tecnologias semelhantes.
