Pesquisadora denuncia riscos invisíveis da IA nas redes sociais

Enquanto milhões de crianças e adolescentes acessam redes sociais diariamente, um sistema invisível, sofisticado e silencioso observa, coleta e molda cada passo virtual dado por eles. O que parece um ambiente de entretenimento e aprendizado, na verdade, esconde um campo de vigilância contínua e lucrativa.

É esse fenômeno, o ‘capitalismo de vigilância’, que a pesquisadora guarapuavana Luana Esteche Nunes, doutoranda em Direito Constitucional pelo IDP Brasília e pesquisadora sênior do GEDAI/UFPR, denuncia em artigo publicado no boletim da Universidade Federal do Paraná.

O texto faz parte da tese de doutorado, onde ela investiga os riscos e consequências do ambiente digital para crianças e adolescentes. A doutoranda também questiona se o Direito brasileiro está pronto para enfrentá-los.

A INFÂNCIA COMO MATÉRIA-PRIMA DE DADOS

Em ‘Controle Algorítmico e Liberdade de Escolha no Capitalismo de Vigilância’, Luana descreve como plataformas, o Instagram, TikTok e YouTube, utilizam inteligência artificial (IA) para transformar o comportamento dos usuários em dados.

Esses dados, conforme a pesquisadora, são processados para prever reações, adaptar conteúdos e, principalmente, prender a atenção das crianças por mais tempo. Fatores que, segunda Luana, criam dependência e induzem consumo.

Estamos falando de uma geração exposta, desde muito cedo, a sistemas que moldam desejos e decisões com base em interesses comerciais.

E observa que cada curtida, clique ou vídeo assistido se torna um dado valioso. Cada comportamento infantil vira um ativo explorado para gerar lucro.

De acordo com Luana Esteche, esses sistemas de IA são projetados para entender e influenciar emoções, criar rotinas de engajamento e oferecer conteúdo personalizado. Tudo baseado no perfil psicológico de cada criança.

A promessa de personalização esconde, na verdade, uma arquitetura de manipulação, que explora a vulnerabilidade natural de crianças que ainda estão em fase de maturação cerebral.

UM ALERTA DIRETO ÀS FAMÍLIAS

A pesquisadora alerta que as redes sociais estão cercadas de perigos que podem causar sérios danos às crianças. Entre os riscos mais evidentes estão a exposição a conteúdos impróprios, odiosos ou violentos, fake news, distorção de valores e até a possibilidade de exploração sexual por meio de contatos virtuais.

Além disso, cresce o número de crianças e adolescentes que buscam amizades exclusivamente on-line, muitas vezes em ambientes desprotegidos, o que aumenta a vulnerabilidade a golpes, abusos e manipulações afetivas e psicológicas. Atualmente, segundo a doutoranda, as crianças têm passado mais tempo conectadas do que com as próprias famílias.

Elas acreditam que estão escolhendo o que querem assistir ou com quem interagir. Mas estão sendo guiadas por sistemas invisíveis que lucram com cada segundo de atenção e com cada relação construída na rede.

Essa imersão no mundo digital, sem orientação e sem filtros adequados, para Luana, afasta o convívio familiar. Além de substituir interações reais por conexões artificiais e muitas vezes perigosas. “Torna a infância ainda mais exposta a influências que os pais sequer conseguem acompanhar em tempo real.”

Ela reforça que a proteção começa dentro de casa, com diálogo, supervisão e consciência crítica sobre o tempo e a qualidade da exposição digital. “Estamos deixando que as redes sociais eduquem nossos filhos, e essas redes estão sendo programadas para vender, não para proteger.”

O DIREITO AINDA NÃO PROTEGE

Embora o cenário exija respostas urgentes, a legislação brasileira ainda é insuficiente. De acordo com Luana Esteche, regras genéricas sobre privacidade e consentimento não bastam para enfrentar as formas modernas de vigilância digital.

O artigo propõe que o Brasil avance com regulações específicas para o uso de IA no universo infantojuvenil. “É preciso impor limites legais claros, obrigações de transparência para as plataformas e mecanismos eficazes de fiscalização.”

Inspirada por Foucault e Zuboff, Luana descreve esse ecossistema digital como um “panóptico moderno”. Ou seja: um lugar onde a vigilância é constante, mas invisível. Onde o comportamento é moldado sem que o usuário, ou os pais, percebam. “Se a liberdade de escolha já é ilusória para adultos, imagine para crianças em fase de desenvolvimento cognitivo.”

Leia outras notícias no Portal RSN.