Ministério da Justiça pede à ANPD investigação sobre 13 serviços de companhia por inteligência artificial
Nota técnica da Secretaria Nacional de Direitos Digitais aponta indícios de desconformidade em plataformas que simulam amizade e relações afetivas, com risco de dependência emocional e falhas na proteção de crianças e adolescentes. A análise é preliminar e não conclui pela prática de infração pelas empresas.
Reprodução ConJurResumo
O Ministério da Justiça e Segurança Pública solicitou à Autoridade Nacional de Proteção de Dados a abertura de investigação sobre 13 serviços de companhia por inteligência artificial, plataformas que mantêm conversas recorrentes, armazenam informações sobre o usuário, adaptam respostas ao longo do tempo e simulam traços de personalidade, amizade e relações afetivas.
Contexto
A recomendação consta de nota técnica elaborada pela Secretaria Nacional de Direitos Digitais, que relata diagnóstico técnico com riscos de dependência emocional e psicoafetiva e fragilidades na proteção de crianças e adolescentes. Entre as plataformas analisadas estão Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI.
Argumentos
- Do Ministério da Justiça: há riscos de dependência emocional e psicoafetiva e fragilidade na proteção de crianças e adolescentes, o que justifica investigação pela autoridade de dados.
Fundamento
Os pontos levantados são a aferição de idade, o risco de uso excessivo ou compulsivo, a exposição a conteúdos inadequados e o tratamento de dados para formação de perfis emocionais e comportamentais. O documento se apoia no ECA Digital, em vigor desde março deste ano, segundo o qual produtos e serviços digitais precisam incorporar medidas de proteção desde a concepção.
Consequência prática
Por se tratar de análise preliminar, o documento não conclui pela prática de infração, mas aponta indícios de possíveis desconformidades que, na avaliação da secretaria, justificariam apuração mais profunda pela ANPD.
Por que importa
O que distingue esses serviços de outras discussões sobre inteligência artificial é o objetivo de interação contínua e íntima: quanto mais o usuário conversa, mais informações sobre rotina, inseguranças, relacionamentos e estado emocional ele entrega. Quando o usuário é criança ou adolescente, o acúmulo desse perfil toca a proteção penal da infância e as regras de tratamento de dados sensíveis.
Próximos passos
- Decisão da ANPD sobre a abertura de procedimento de fiscalização contra as plataformas citadas.
- Eventual apuração de responsabilidade administrativa e, se houver conduta típica, comunicação às autoridades de persecução penal.