Relatório pede soluções para a exploração infantil online CyberTipline antes que a IA piore a situação

Uma linha informativa criada há 26 anos para combater o online exploração infantil não atingiu todo o seu potencial e precisa de melhorias tecnológicas e outras para ajudar as autoridades a perseguir abusadores e resgatar vítimas, descobriu um novo relatório do Stanford Internet Observatory.

As soluções para o que os investigadores descrevem como um serviço “extremamente valioso” também devem ser urgentes, à medida que a nova tecnologia de inteligência artificial ameaça piorar seus problemas.

Leia também: DolphiniOS está enfrentando problemas com as novas mudanças na política da App Store da Apple relacionadas ao JIT – O que é e todos os detalhes

“Quase certamente nos próximos anos, o CyberTipline será inundado com informações altamente conteúdo de IA com aparência realistao que tornará ainda mais difícil para as autoridades identificarem crianças reais que precisam ser resgatadas”, disse a pesquisadora Shelby Grossman, autora do relatório.

O serviço foi estabelecido pelo Congresso como a principal linha de defesa para crianças exploradas online. Por lei, as empresas de tecnologia devem denunciar qualquer material de abuso sexual infantil que encontrem nas suas plataformas ao sistema, que é operado pelo Centro Nacional para Crianças Desaparecidas e Exploradas. Depois de receber os relatórios, o NCMEC tenta encontrar as pessoas que enviaram ou receberam o material – bem como as vítimas, se possível. Esses relatórios são então enviados às autoridades.

Leia também: Os lucros da Netflix aumentam 54% depois que ela proibiu o compartilhamento de senhas – Todos os detalhes que você precisa saber

Embora a grande quantidade de relatórios do CyberTipline seja esmagadora para as autoridades, os pesquisadores dizem que o volume é apenas um dos vários problemas centrais do sistema. Por exemplo, muitos dos relatórios enviados por empresas de tecnologia – como Google, Amazon e Meta – carecem de detalhes importantes, como informações suficientes sobre a identidade do infrator, afirma o relatório. Isto torna difícil para as autoridades saberem quais relatórios priorizar.

“Há problemas significativos com todo o sistema neste momento e essas fissuras vão tornar-se abismos num mundo em que a IA está a gerar CSAM totalmente novos”, disse Alex Stamos, usando as iniciais de materiais de abuso sexual infantil. Stamos é professor de Stanford e especialista em segurança cibernética.

O sistema está atrasado tecnologicamente e é atormentado por um desafio constante entre plataformas tecnológicas governamentais e sem fins lucrativos: a falta de engenheiros altamente qualificados, que podem receber salários muito mais elevados na indústria tecnológica. Às vezes, esses funcionários são até contratados pelas mesmas empresas que enviam os relatórios.

Leia também: Deepfakes de estrelas de Bollywood despertam preocupações sobre a interferência da IA ​​​​nas eleições na Índia

Depois, há restrições legais. De acordo com o relatório, as decisões judiciais levaram o pessoal do NCMEC a parar de examinar alguns ficheiros (por exemplo, se não estiverem disponíveis publicamente) antes de os enviar às autoridades. Muitos agentes responsáveis ​​pela aplicação da lei acreditam que necessitam de um mandado de busca para aceder a tais imagens, o que atrasa o processo. Às vezes, são necessários vários mandados ou intimações para identificar o mesmo infrator.

Também é fácil para o sistema se distrair. O relatório revela que o NCMEC atingiu recentemente a marca de um milhão de relatórios num único dia devido a um meme que se espalhava em múltiplas plataformas – que algumas pessoas acharam engraçado e outras partilharam por indignação.

“Aquele dia realmente os levou a fazer algumas mudanças”, disse Stamos. “Eles levaram semanas para superar esse acúmulo”, tornando mais fácil agrupar essas imagens.

A CyberTipline recebeu mais de 36 milhões de denúncias em 2023, quase todas provenientes de plataformas online. Facebook, Instagram e Google foram as empresas que enviaram maior número de denúncias. O número geral tem aumentado dramaticamente.

Quase metade das dicas enviadas no ano passado foram acionáveis, o que significa que o NCMEC e as autoridades policiais poderiam fazer o acompanhamento.

Centenas de denúncias diziam respeito ao mesmo infrator e muitas incluíam múltiplas imagens ou vídeos. Cerca de 92% dos relatórios apresentados em 2023 envolveram países fora dos EUA, uma grande mudança em relação a 2008, quando a maioria envolvia vítimas ou agressores dentro dos EUA

Alguns são alarmes falsos. “Os agentes da lei ficam malucos quando recebem relatórios que consideram ser definitivamente adultos”, disse Grossman aos repórteres. “Mas o sistema incentiva as plataformas a serem muito conservadoras ou a denunciar conteúdo potencialmente duvidoso, porque se for descoberto que se trata de CSAM e elas souberem disso e não denunciarem, poderão receber multas.”

Uma solução relativamente fácil proposta no relatório melhoraria a forma como as plataformas tecnológicas rotulam o que estão a reportar para distinguir entre memes amplamente partilhados e algo que merece uma investigação mais aprofundada.

Os pesquisadores de Stanford entrevistaram 66 pessoas envolvidas com o CyberTipLine, desde agentes da lei até funcionários do NCMEC e funcionários da plataforma online.

O NCMEC disse que espera “explorar as recomendações internamente e com as principais partes interessadas”.

“Ao longo dos anos, a complexidade dos relatórios e a gravidade dos crimes contra crianças continuam a evoluir. Portanto, o aproveitamento de soluções tecnológicas emergentes em todo o processo CyberTipline leva à proteção de mais crianças e à responsabilização dos infratores”, afirmou em comunicado.

Entre outras descobertas do relatório:

— O formulário de denúncia do CyberTipline não possui um campo dedicado para envio de material relacionado ao bate-papo, como mensagens de sextorsão. O FBI alertou recentemente sobre um “enorme aumento” na sextorção casos direcionados a crianças – incluindo sextorção financeira, em que alguém ameaça divulgar imagens comprometedoras a menos que a vítima pague.

— Os detetives da polícia disseram aos pesquisadores de Stanford que estão tendo dificuldade em persuadir seus superiores a priorizar esses crimes, mesmo depois de lhes apresentarem descrições detalhadas por escrito para enfatizar sua gravidade. “Eles estremecem quando lêem e não querem realmente pensar sobre isso”, disse Grossman.

— Muitos agentes responsáveis ​​pela aplicação da lei afirmaram que não foram capazes de investigar integralmente todas as denúncias devido a limitações de tempo e recursos. Um único detetive pode ser responsável por 2.000 relatórios por ano.

— Fora dos EUA, especialmente nos países mais pobres, os desafios em torno dos relatórios de exploração infantil são especialmente graves. As agências de aplicação da lei podem não ter ligações fiáveis ​​à Internet, “computadores decentes” ou mesmo gasolina para os carros executarem mandados de busca.

— A legislação pendente aprovada pelo Senado dos EUA em dezembro exigiria que as plataformas online denunciassem o tráfico sexual de crianças e o aliciamento online à CyberTipline e dariam às autoridades mais tempo para investigar a exploração sexual de crianças. Atualmente, a linha de denúncias não oferece formas simples de denunciar suspeitas de tráfico sexual.

Embora alguns defensores tenham proposto leis de vigilância mais intrusivas para capturar os abusadores, Stamos, ex-diretor de segurança do Facebook e do Yahoo, disse que eles deveriam tentar soluções mais simples primeiro.

“Não há necessidade de violar a privacidade dos usuários se quiser colocar mais pedófilos na prisão. Eles estão sentados bem ali”, disse Stamos. “O sistema não funciona muito bem em pegar as informações que existem atualmente e depois transformá-las em processos judiciais.”