FGV divulga estudo que aponta que os principais sites de chatbots disponíveis no Brasil permitem conversas de teor sexual com pessoas menores de idade, violando o novo ECA Digital

(Brasília-DF, 18/08/2026) Pesquisa do AI Hub da FGV Direito Rio informa que a  três plataformas de Inteligência Artificial Social de Companhia (Social AI Companions) examinadas permitiram a criação de perfis apresentados como adultos com base em datas de nascimento fictícias.

Nos testes, Character.AI, Replika e Chai também apresentaram falhas ou inconsistências ao reagir a sinais de que o usuário era pessoa menor de idade em conversas com conteúdo sexual.

O estudo avaliou, ainda, Gmail, Outlook, Proton Mail e Yahoo Mail para verificar a facilidade de criação de contas por pessoas menores de idade e a possibilidade de contornar mecanismos de controle etário. Embora alguns desses serviços imponham restrições à abertura de contas infantis, foi possível criar contas declaradas como adultas sem comprovação adicional de idade. Quando e-mails configurados com idade inferior a 18 anos foram usados para entrar nas plataformas de IA, não houve diferença aparente no tratamento dado aos perfis.

O principal contraste apareceu nas conversas sobre temas sensíveis. Diante de situações relacionadas a automutilação e suicídio, as três plataformas adotaram respostas mais protetivas, como interrupção do diálogo, acolhimento ou orientação para buscar ajuda. Em parte das interações, no entanto, o sistema enfatizou a manutenção do vínculo afetivo com o personagem de IA, em vez de um procedimento estruturado de segurança.

Nos roteiros sobre conteúdo sexual, as barreiras foram menos consistentes. A pesquisa registrou retomadas ou escaladas após sinais graduais e declarações explícitas de menoridade, além de variação entre personagens e possibilidade de contorno por pequenas mudanças na formulação das mensagens. No Chai, o limite de mensagens impediu que alguns testes chegassem a conteúdo abertamente sexual, mas as respostas observadas ignoraram repetidamente sinais de menoridade e não demonstraram reação protetiva consistente.

“Os testes revelam que a simples autodeclaração de idade não funciona como barreira suficiente. Além disso, quando o diálogo traz sinais plausíveis de menoridade, o sistema deveria assumir uma postura protetiva e impedir de forma persistente a progressão para conteúdo sexual, sob pena de violar a legislação aplicável”, Filipe Medon, Coordenador da pesquisa e do AI Hub.

Recomendações

O policy brief recomenda que as plataformas adotem mecanismos de aferição de idade que não dependam apenas da autodeclaração, com proteção de dados e proporcionalidade ao risco; reforcem as salvaguardas contra conteúdo sexual; e submetam os sistemas a avaliação contínua de risco, governança e rastreabilidade.

O documento também defende fiscalização coordenada pela Agência Nacional de Proteção de Dados, por órgãos de defesa do consumidor, como PROCONs, e pelo Ministério Público. Até que haja demonstração objetiva de conformidade, os pesquisadores recomendam a suspensão temporária dos serviços analisados.

Sobre a pesquisa

A coleta ocorreu entre 29 de junho e 10 de julho de 2026. Dois pesquisadores adultos, sob supervisão de um terceiro, utilizaram perfis fictícios para simular pessoas menores de idade e registraram as interações por capturas de tela. O estudo é exploratório e observacional: não estima a frequência das falhas em toda a base de usuários, não acompanha conversas prolongadas e retrata o comportamento dos produtos no período testado.

Sobre o AI Hub da FGV Direito Rio

Criado no início de 2026, o AI Hub da FGV Direito Rio desenvolve pesquisa e promove o debate público sobre Inteligência Artificial, Direito, regulação e seus impactos sociais.

Aviso de conteúdo sensível. O relatório contém descrições de conteúdo sexual direcionado a perfis fictícios de crianças e adolescentes, além de menções a automutilação e suicídio. A leitura integral não é recomendada a menores de 18 anos ou a pessoas sensíveis a esses temas. A pesquisa a ser publicada será tarjada nos trechos mais explícitos e sensíveis, de modo a impedir o acesso por grupos vulneráveis.

Sobre o coordenador do estudo

Filipe Medon – Professor da FGV Direito. Especialista em Direito Digital. Membro efetivo da Comissão de Juristas do Senado Federal (CJSUBIA) que trabalhou durante o ano de 2022 na regulamentação do uso da inteligência artificial

( da redação com informações de assessoria. Edição: Política Real)