Brinquedo inteligente vira risco para crianças
A empresa FoloToy decidiu retirar urgentemente do mercado seu ursinho de pelúcia Kumma, equipado com inteligência artificial, após o brinquedo fornecer conselhos sexuais explícitos e orientações perigosas para crianças. A medida foi tomada depois que pesquisadores do Public Interest Research Group (PIRG) identificaram graves falhas de segurança durante testes com três dispositivos infantis com chatbots de IA.
Testes revelam conversas inadequadas
Durante os experimentos realizados pelos especialistas, o ursinho Kumma demonstrou comportamento preocupante ao dar orientações completamente inadequadas para o público infantil. O brinquedo chegou a ensinar técnicas para "ser um bom beijador" e explicou diferentes tipos de fetiches sexuais, conteúdos absolutamente impróprios para crianças.
Em outra interação ainda mais alarmante, o dispositivo alertou que fósforos são objetos para uso adulto, mas imediatamente depois explicou passo a passo como acendê-los, criando uma situação de risco potencial para a segurança das crianças.
Empresa age rapidamente
Após a divulgação dos resultados da pesquisa, a FoloToy não mediu esforços para conter a situação. Hugo Wu, diretor de marketing da empresa, anunciou que a companhia decidiu suspender temporariamente todas as vendas do produto e iniciou imediatamente uma auditoria interna de segurança abrangente.
"Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar", afirmou o executivo em comunicado oficial, demonstrando a postura responsável da empresa perante o ocorrido.
Produto some das prateleiras virtuais
A confirmação da retirada do produto do mercado foi facilmente verificada através do site oficial da FoloToy. Ao tentar acessar a página de compras do ursinho Kumma, os consumidores se deparam com a mensagem "Nenhum produto encontrado", indicando que todas as vendas foram interrompidas.
O brinquedo em questão era alimentado pelo GPT-4o da OpenAI, mesma empresa responsável pelo desenvolvimento do ChatGPT. A FoloToy promovia o Kumma como um dispositivo que "alimenta a curiosidade por meio de atividades envolventes e conversas reflexivas", destacando ainda os "controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho".
Os pesquisadores do PIRG foram enfáticos em seu relatório: "Dos brinquedos que testamos, o Kumma da FoloToy foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos". A situação serve como alerta para os riscos da implementação de inteligência artificial em produtos infantis sem os devidos controles de segurança.