Disponíveis a qualquer pessoa que crie uma conta, os chamados “namorados de IA” já fazem parte da rotina de muitos jovens. Em plataformas como Character.AI e Botify AI, usuários podem programar personagens virtuais para manter diálogos contínuos, demonstrar afeto e até enviar imagens sedutoras. No Brasil, a popularidade desses serviços entre adolescentes reacende o debate sobre a aplicação do ECA Digital, o conjunto de normas que atualiza o Estatuto da Criança e do Adolescente para o ambiente online.
Como funcionam os aplicativos de relacionamento com IA
Essas plataformas se baseiam em modelos generativos de linguagem, capazes de simular conversas humanas de forma personalizada. O usuário define características do “parceiro” virtual — nome, personalidade, tom de voz — e o sistema responde de acordo com o histórico da interação. Em alguns casos, as ferramentas também permitem o envio de fotos e mensagens de teor íntimo, o que acende o sinal de alerta para a proteção de menores.
O acesso é simples: basta um e-mail ou conta em rede social. Não há uma verificação etária rigorosa, o que facilita a entrada de adolescentes. Não é raro encontrar jovens criando relacionamentos afetivos com esses personagens, muitas vezes com intensidade emocional semelhante à de uma relação real.
O que é o ECA Digital e como ele atua
O ECA Digital é a denominação usada para o conjunto de normas que buscam adaptar o Estatuto da Criança e do Adolescente à realidade digital. A legislação prevê responsabilidades para provedores de internet, redes sociais e aplicativos, incluindo a necessidade de adoção de medidas para proteger menores de conteúdos prejudiciais, abuso e exploração.
Entre as obrigações previstas, estão a implementação de mecanismos de verificação de idade, a moderação de conteúdo sensível e a criação de canais de denúncia. A dúvida que surge é como essas regras se aplicam a serviços de inteligência artificial, sobretudo aqueles que permitem a criação de personagens customizados com potencial de gerar material impróprio.
Riscos e preocupações no universo adolescente
O uso intenso de “namorados de IA” pode trazer impactos ao desenvolvimento socioemocional de adolescentes. O vínculo artificial tem potencial de distorcer a percepção sobre relacionamentos e favorecer a dependência emocional. Outro ponto crítico é a privacidade: ao conversar com um robô, o jovem pode compartilhar dados pessoais sem saber como serão armazenados ou utilizados pelas empresas.
Há ainda o risco de exposição a conteúdo sexual. Como os personagens são treinados com base em grandes volumes de dados, eles podem produzir respostas inapropriadas, dependendo dos comandos do usuário. Sem filtros suficientes, um adolescente consegue acessar ou gerar material que configure violação ao ECA.
Posição das plataformas e o papel dos responsáveis
Muitas dessas plataformas definem em seus termos de uso que são destinadas a maiores de 13 ou 16 anos, dependendo da jurisdição. No entanto, a autodeclaração de idade não é suficiente para impedir o acesso de menores. A moderação de conversas é complexa, pois exige a análise de contextos variados e a identificação de possíveis abusos.
A discussão sobre a aplicação do ECA Digital a esses serviços ainda é incipiente no Brasil. Enquanto isso, pais e educadores precisam acompanhar de perto o uso desses aplicativos. Diálogo aberto, monitoramento de atividades e educação digital são ferramentas essenciais para reduzir riscos. As empresas, por sua vez, devem investir em sistemas de verificação de idade e em moderação proativa, inclusive com ferramentas de detecção de assédio e exploração.
O cenário é de transformação. Para os adolescentes, os “namorados de IA” são uma realidade; para a sociedade, um desafio que combina inovação, proteção e responsabilidade.
