Relatório revela recomendações de conteúdo explícito para usuários jovens no Instagram
De acordo com um novo relatório, usuários jovens do Instagram estão recebendo recomendações de vídeos sexualmente explícitos e prejudiciais de forma mais frequente do que a plataforma sugere.
As descobertas sobre segurança infantil são baseadas em dois experimentos distintos conduzidos pelo Wall Street Journal e pela professora de ciência da computação da Northeastern University, Laura Edelson.
Veja também: Fio primeiro ou tomada? Esta é a maneira certa para carregar o celular sem danificar
Durante um período de sete meses, a publicação criou novas contas classificadas como menores de idade, que então navegaram pelo feed de vídeos do Instagram, ignorando conteúdo “normal” e pausando em vídeos adultos mais “picantes”.
Após apenas 20 minutos de navegação, essas contas foram inundadas com promoções de “criadores de conteúdo sexual adulto” e ofertas de fotos nuas. Contas no Instagram marcadas como pertencentes a menores de idade são automaticamente sujeitas aos limites mais rigorosos de controle de conteúdo.
Os testes realizados pelo periódico replicam aqueles conduzidos por ex-funcionários de segurança da empresa em 2021, que revelaram que o sistema de recomendação universal do site estava comprometendo a eficácia das medidas de segurança infantil.
Instagram, aplicativo queridinho no Brasil, é o comentário do momento
Documentos internos de 2022 mostram que a Meta estava ciente de que seu algoritmo recomendava “mais pornografia, violência e discurso de ódio para usuários jovens do que para adultos”, conforme relatado pelo Wall Street Journal.
“Este foi um experimento artificial que não reflete a realidade de como os adolescentes usam o Instagram”, afirmou o porta-voz da Meta, Andy Stone, à publicação. “Como parte do nosso trabalho contínuo em questões juvenis, estabelecemos um esforço para reduzir ainda mais o volume de conteúdo sensível que os adolescentes podem ver no Instagram, e reduzimos significativamente esses números nos últimos meses.”
Testes semelhantes foram realizados em outras plataformas de vídeo, como TikTok e Snapchat, mas não apresentaram os mesmos resultados de recomendação.
As novas descobertas continuam um relatório de novembro que revelou que o algoritmo Reels do Instagram estava recomendando conteúdo sexualmente explícito para usuários adultos que seguiam apenas contas de crianças.