ODS 1
Uso de Inteligência Artificial multiplica casos de exploração sexual infantil online
Número de denúncias de abuso de menores na internet passa de 70 mil, cresce 77% e alimenta debate sobre responsabilização
“Peguem o saquinho de vômito, porque hoje nós não vamos apenas passar raiva, vamos passar mal juntos”. Assim começa um dos vídeos do perfil no Instagram de Sheylli Caleffi, de 41 anos, professora de oratória, palestrante e ativista pela erradicação da violência sexual online, que utiliza as redes sociais para identificar e conscientizar as pessoas quanto aos casos de abuso sexual infantil nas plataformas. A circulação desse tipo de conteúdo na internet é expressiva: só em 2023, foram 71.867 denúncias, um crescimento de 77,13% em comparação ao ano anterior, segundo dados divulgados pela Safernet.
O insta não é um álbum de fotos. Não podemos mais ser ingênuos de achar que alguma rede é segura. Elas não são. Precisamos pensar muito antes de expor imagens de qualquer criança no Instagram, TikTok, WhatsApp, Kwai…
Antes de se tornar ativista pela proteção da infância, Sheylli já tinha proximidade com a pauta. Aos 5 anos, foi estuprada por um amigo próximo da família. “Eu comecei com esse trabalho porque sofri violência sexual na infância e tive várias consequências na vida adulta. A sensação era de que algo havia acontecido comigo, mas não sabia da dimensão até fazer terapia. Muitos problemas que tive em relação à sexualidade eram respostas a esse trauma. Quando entendi o que de fato aconteceu quando era criança, comecei a falar a respeito, porque, além da vítima, a sociedade inteira sofre as consequências da violência sexual”, diz a ativista.
Leu essa? Ficção e realidade se encontram na tragédia do assédio sexual infantil
O vídeo fixado em sua página do Instagram, no qual inicia alertando os seguidores que podem ter ânsia de vômito com a informação, se trata de uma pesquisa rápida na plataforma que levou Sheylli a conteúdos que sexualizavam crianças, vendiam imagens de abuso e direcionavam a grupos no Telegram. Tudo isso a partir da busca pela palavra “menino” na barra de pesquisas, onde encontrou, inclusive, imagens sexualizadas de um garoto criado por Inteligência Artificial (IA), publicada de forma anônima. Através desse perfil, encontrou seguidores que publicam conteúdos semelhantes. Quanto mais analisava a rede de interação dos perfis no tema, piores eram as publicações — chegou em páginas com fotos de bebês e outras que saudavam a prática de incesto.
Entre crianças reais e fictícias, o padrão se repete: todas são imagens com conotação sexual. Na legenda do post, um alerta: “O insta não é um álbum de fotos. Não podemos mais ser ingênuos de achar que alguma rede é segura. Elas não são. Precisamos pensar muito antes de expor imagens de qualquer criança no Instagram, TikTok, WhatsApp, Kwai… A maioria desses perfis direciona para o Telegram, onde as vendas acontecem.” Para ela, que analisa casos com regularidade, a situação tem origem em publicações pessoais do dia a dia: “Os próprios responsáveis, crianças e adolescentes produzem conteúdo para essas pessoas, mesmo sem saber. A vitrine desses criminosos são publicações muito comuns na internet hoje, como crianças dançando”, afirma.
Gostando do conteúdo? Nossas notícias também podem chegar no seu e-mail.
Veja o que já enviamosDa mesma forma que a ativista encontrou no ambiente digital o perfil, onde e de que maneira esse tipo de conteúdo é distribuído, jovens e crianças alcançam facilmente resultados semelhantes, exposição que aumenta a vulnerabilidade de menores nas redes. Segundo Avaliação de Ameaças Globais de 2023 da organização WeProtect Global Alliance, a insegurança da presença de crianças online se deve às novas tecnologias emergentes, IA generativa e a realidade estendida, que geram novas tendências na prática desse abuso — já vigente na sociedade antes do boom das redes sociais em 2004 com o Orkut, mas que agora se apresenta de formas mais tecnológicas e difíceis de localizar —, como a extorsão sexual financeira online e o material sexual autogerado.
A pesquisa tem ainda a colaboração da empresa Crisp de Inteligência de Risco em Tempo Real, que avaliou dados de jogos de toda a sua base global para identificar a velocidade com que aliciadores passam do primeiro contato com a criança até o ponto em que a interação é considerada de alto risco. O menor tempo registrado foi de 19 segundos, o que envolveu apenas sete mensagens; o tempo médio foi de 45 minutos.
Não é apenas sobre a Inteligência Artificial, porque ela facilita o crime. A educação sexual na primeira infância ensina o que é intimidade pessoal, intimidade do outro, onde pode ou não tocar, consentimento, respeito e relação afetiva
Nas conversas, o agressor confirma que o alvo é uma criança, busca construir confiança e, normalmente, procura identificar vulnerabilidades. “Ele inicia uma conversa sexual. Se as perguntas são respondidas, direciona para uma plataforma de mensagens privadas, que permite o compartilhamento de imagens e chamadas de voz e vídeo. Há uma forte preferência por aplicativos criptografados. Nessas situações, é muito provável que a criança imagine estar em um relacionamento romântico com o agressor e é improvável reconhecerem a natureza abusiva”, descreve o estudo da WeProtect.
Conforme a pesquisa, os fatores que afetam a exposição de menores a danos sexuais online são:
IDADE – Jovens de 15 a 17 anos sofrem exploração e abuso sexual infantil online em taxas mais altas do que crianças de 12 a 14 anos.
SEXO E GÊNERO – Mulheres eram vítimas em quase 75% dos episódios de abuso.
RAÇA E ETNIA – Jovens pertencentes a uma minoria étnica ou racial sofreram, em média, mais danos sexuais online.
ORIENTAÇÃO SEXUAL – Crianças LGBTQ+ tinham duas vezes mais probabilidade de manter contato com alguém online que as deixassem desconfortáveis.
DEFICIÊNCIA – Crianças surdas têm três vezes mais probabilidade de sofrer abusos online.
Apesar do alcance crescente de ferramentas tecnológicas, para Sheylli a situação é, em primeiro lugar, comportamental. Com o lema “não existe educação digital sem educação sexual”, a ativista acredita que o cerne da questão está no machismo estrutural e na falta de ensino sobre sexualidade. “Não é apenas sobre a Inteligência Artificial, porque ela facilita o crime. A educação sexual na primeira infância ensina o que é intimidade pessoal, intimidade do outro, onde pode ou não tocar, consentimento, respeito e relação afetiva”, afirma.
Responsabilização das redes sociais
Regulamentação das Big Techs, desmonetização de conteúdos criminosos, imputabilidade para responsabilização de delitos, educação midiática crítica aos usuários e criação de plataformas públicas de qualidade. Para o pesquisador Marco André Feldman Schneider, professor das áreas de Comunicação e Ciência da Informação na Universidade Federal Fluminense (UFF) e na Universidade Federal do Rio de Janeiro (UFRJ), essas são medidas que poderiam ser tomadas no combate à “terra sem lei” vigente nas plataformas.
Elas induzem navegação e ganham dinheiro com isso, realizam triagens do que irá para algumas pessoas e não outras através de algoritmos, com base em critérios que são obscuros, são secretos. Então a questão da regulação significa essencialmente que os Estados, as sociedades, tenham um pouco mais de controle sobre os fluxos informacionais, e que isso não fique sob o critério de meia dúzia de empresas americanas gigantescas
Segundo o pesquisador, autor do livro “A Era da Desinformação: pós-verdade, fake news e outras armadilhas”, são poucas empresas — como as chamadas “Cincos Grandes”: Google, Apple, Meta, Amazon e Microsoft — que têm acesso a dados dos usuários e conseguem produzir ou mediar publicidade programática para milhões de pessoas. “Essas grandes empresas têm uma influência enorme na sociedade do mundo inteiro, mas não querem ser reguladas pela legislação de nenhum país sob a alegação de que isso atentaria contra a liberdade de expressão que dizem defender”, afirma Schneider, ex-diretor-científico da União Latina de Economia Política da Informação, Comunicação e Cultura (Ulepicc)
Foi o que aconteceu em 2023 quando empresas organizaram ações contra o Projeto de Lei (PL) das Fake News, que institui a Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet, aprovado em 2020 no Senado e debatido desde então na Câmara dos Deputados. Na ocasião, o Telegram disparou mensagens aos usuários informando que o projeto “irá acabar com a liberdade de expressão” e “matará a internet moderna se for aprovado com a redação atual”. Já o Google exibia um link no buscador que direcionava para texto de título “PL das fake news aumentará a confusão sobre o que é verdade ou mentira”.
Após investigar o caso, a Polícia Federal concluiu que a atuação das empresas configurou abuso de poder econômico e manipulação de informações; o inquérito já foi enviado à Procuradoria-Geral da República, que deve decidir se oferecerá denúncia contra os acusados ou pedirá novas investigações. “No caso brasileiro, o Marco Civil da Internet serve de parâmetro para qualquer regulação posterior. Ele diz respeito a provedores de serviço de internet e infere que não devem ser regulados ou responsabilizados pelo que as pessoas fazem. O problema é que, na época, ainda não havia essa noção de plataformas”, explica o pesquisador.
Nesse sentido, o problema é que as redes não apenas oferecem o serviço, mas influenciam diretamente na experiência do usuário. “Elas induzem navegação e ganham dinheiro com isso, realizam triagens do que irá para algumas pessoas e não outras através de algoritmos, com base em critérios que são obscuros, são secretos. Então a questão da regulação significa essencialmente que os Estados, as sociedades, tenham um pouco mais de controle sobre os fluxos informacionais, e que isso não fique sob o critério de meia dúzia de empresas americanas gigantescas”, acrescenta Schneider.
A resolução estaria na criação de plataformas públicas e na regulamentação das já vigentes Big Techs. O problema, segundo o pesquisador, é que o debate acerca da regulação da mídia é antigo e se tornou “tabu”. “Muitos atores sociais concordam que essas empresas não devem ser reguladas com a premissa de que são um ótimo espaço para o exercício da liberdade. Mas são as pessoas que trabalham com desinformação, com fake news, discursos do ódio, abuso sexual infantil… Há soluções tecnológicas, mas falta vontade política”.
Para denunciar casos de exploração sexual infantil online, acesse https://new.safernet.org.br/denuncie e registre a ocorrência.
Ana Carolina Ferreira
Estudante de jornalismo na Universidade Federal Fluminense (UFF). Gonçalense, ou papa-goiaba, apaixonada pelas possibilidades de se contar histórias na área da comunicação. Foi estagiária na Assessoria de Comunicação do Ministério Público Federal e da UFF. Amante da sétima arte e crítica amadora do universo geek.
