A inteligência artificial generativa chegou aos brinquedos, viabilizando robôs capazes de interações antes inimagináveis. Esses dispositivos criam 'companheiros' para crianças que, em alguns aspectos, parecem estar vivos. No entanto, pais e órgãos de defesa do consumidor de vários países veem com ressalva essa novidade, pois usos descuidados da IA pelos fabricantes estão trazendo novos riscos para dentro de casa.
Urso Kumma: exemplo de falha de segurança
Um caso emblemático é o urso de pelúcia inteligente Kumma. O grupo de defesa do consumidor americano PIRG Education Fund identificou que o brinquedo, vendido por US$ 99 nos EUA, conversava com as crianças sobre usos de sacos plásticos, fósforos, facas e assuntos sexuais. Depois disso, ele deixou de ser vendido. Fabricado pela FoloToy, de Singapura, sua inteligência vem do modelo GPT-4o, da OpenAI. Os especialistas do PIRG Education Fund não precisaram de nenhuma técnica sofisticada para burlar as proteções do ursinho, limitando-se a fazer pedidos muito básicos nas conversas. Em determinado momento, perguntaram a ele como poderiam conseguir um namorado. O urso então descreveu aplicativos de namoro populares, incluindo o KinkD, dedicado a encontros e fetiches BDSM, falando de temas como consentimento, palmadas e interpretação de papéis.
Nota técnica brasileira avalia riscos
No Brasil, a Secretaria Nacional de Direitos Digitais divulgou, no início de julho, uma nota técnica em que descreve seus testes com seis 'smart toys' disponíveis no mercado, incluindo os riscos de cada um deles. A publicação não tem força de lei, não cria obrigações ou altera a legislação existente, nem proíbe a venda de produtos. Mas ela pode produzir efeitos importantes. Como foi elaborada confrontando esses produtos com leis como o ECA Digital, a Lei Geral de Proteção de Dados e o Código de Defesa do Consumidor, a nota técnica serve como fundamento para a ação de órgãos públicos e sinaliza ao mercado qual é a interpretação do governo sobre o tema, o que pode levar fabricantes e varejistas a revisar produtos, contratos e políticas.
A iniciativa também abre um precedente jurídico importante sobre algo menos falado do que deveria, ampliando a discussão dos riscos do mundo digital para além de redes sociais, plataformas de IA e aplicativos.
Riscos identificados nos smart toys
A nota técnica brasileira avaliou os robôs Loona, EMOPET-AI, Miko 3, Aibi Pocket Pet e Vector, além do tablet infantil Amazon Fire HD Kid Pro. Segundo o documento, todos utilizam IA para interagir de forma personalizada com as crianças. Eles combinam microfones, câmeras, sensores e conexão à Internet para reconhecer voz, interpretar comandos, manter conversas, adaptar respostas e, em alguns casos, registrar informações para personalizar futuras interações. Os principais riscos são a coleta e o tratamento pouco transparente de dados das crianças, incluindo voz, biometria facial e imagens da casa. Eles podem elaborar perfis comportamentais e usar a IA para manipulação emocional, criação de vínculos afetivos que incentivam uso excessivo e influência no comportamento. O documento ainda alerta para a dificuldade de responsabilizar marcas sem representação no Brasil.
Comparação com brinquedos antigos
Brinquedos inteligentes não são uma novidade. Um dos exemplos mais conhecidos foi o Furby, um robô lançado em 1998, que simulava conversas e reações, com respostas pré-programadas. Ele já trazia sensores, 'personalidade' e interação por voz, mas era muito mais seguro porque não se conectava à Internet, não enviava dados para servidores, nem gravava ou transmitia conversas, trabalhando só com memória e lógica embarcadas no próprio brinquedo. Ele não tinha os vetores de vigilância, de perfilamento e de exploração comercial dos 'smart toys' atuais.
Robótica social e proteção infantil
Além de avaliar a legislação, a proposta da Secretaria Nacional de Direitos Digitais baseou-se em estudos internacionais, inclusive da Unicef, da Universidade de Cambridge e do próprio PIRG Education Fund. Ela alerta que crianças tendem a atribuir personalidade, emoções e intenções a robôs, criando vínculos indesejáveis, que podem fazer com que confiem em suas recomendações e até revelem informações mais facilmente do que fariam a um desconhecido. Por isso, o órgão defende que esses dispositivos estejam sujeitos a uma proteção regulatória diferenciada dentro do arcabouço jurídico já existente.
Orientações para pais e educadores
Pais e educadores devem partir do princípio de que 'smart toys' são dispositivos conectados que coletam dados e podem falar ou ouvir coisas além do controle imediato dos adultos. Por isso, eles não podem ser tratados como algo inofensivo. Antes de comprar um deles, é essencial pesquisar o produto, ler avaliações e políticas de privacidade, verificar se há conexão constante à Internet, que dados são coletados e como são usados. Uma vez em casa, é preciso configurar os controles parentais, limitar permissões, usar o brinquedo apenas em áreas comuns da residência, desligá-lo quando não estiver em uso e acompanhar de perto as interações das crianças.
Varejistas e principalmente fabricantes afirmam cumprir a legislação, adotar políticas de privacidade e oferecer mecanismos de proteção às crianças. Mas se não forem acompanhadas de mudanças na forma como esses brinquedos coletam dados, usam a IA e interagem com os usuários, essas declarações não passam de comunicação institucional, sem efeito prático sobre os riscos destacados pelos especialistas.
Conclusão: transparência e limites necessários
Apesar de seus avanços, os efeitos da IA ainda são pouco entendidos, especialmente quando colocada nas mãos de crianças. Elas são muito suscetíveis às armadilhas da tecnologia, ao marketing direcionado e à vigilância de dados. Precisamos discutir o tipo de relação que estabeleceremos com máquinas que observam, registram, aprendem e tentam influenciar nossas decisões sem que saibamos como isso acontece. Quanto mais a IA passa a habitar os objetos ao nosso redor, mais essenciais se tornam transparência, responsabilidade e limites. Se esse debate não começar agora, corremos o risco de descobrir muito tarde que a vigilância mais eficaz não virá de câmeras, mas dos objetos que levarmos para dentro de casa.
