Facebook revela que publicações com discurso de ódio organizado cresceram quase 40% no final de 2020

A “cultura do cancelamento” – quando um grupo se volta contra uma pessoa a excluindo ou expulsando de uma posição de influência ou fama devido a atitudes consideradas questionáveis – vem sendo pauta de debate nos últimos meses, seja pelas ocorrências de 2020 (música, política, pandemia..) ou pelo impulsionamento do assunto ocasionado pelo Big Brother Brasil. Diversos artistas da música sofreram ataques virtuais que impactaram em discurso de ódio e acusações fora do comum nas redes sociais, como aconteceu recentemente com Vitão ao postar uma versão da música “Não deixe o samba morrer”, de Alcione.

O cantor se pronunciou e alegou que os usuários das redes “não se preocupam com a saúde psicológica e emocional de ninguém” e completou dizendo que “vocês não sabem porr* nenhuma de música brasileira, vocês precisam de terapia, de remédio, de sexo e estudo. Gente que só faz peso na terra. Graças a Deus eu não sou tão burro para acreditar na verdade de vocês”, postou Vitão.

Baseado em diversos acontecimentos mundiais como este, o Facebook publicou um relatório que mostra o crescimento exponencial de 2,4 milhões de peças com conteúdo de ódio organizado publicadas no último trimestre de 2020 em comparação ao terceiro trimestre do mesmo ano. Foram registrados 6,4 milhões de conteúdos contra os 4 milhões anteriores.

Além disso, foram encontradas 26,9 milhões de peças de conteúdo de discurso de ódio, acima dos 22,1 milhões no terceiro trimestre, que, segundo o Facebook, é devido em parte às atualizações em sua tecnologia em árabe, espanhol e português.

Foto: Reprodução

Porém, o volume de novos registros não quer dizer que isso esteja sendo visto pelos usuários. Segundo a plataforma, as ações de restrição da empresa fizeram com que, no último trimestre de 2020, a prevalência de discurso de ódio tenha caído de 0,10 – 0,11% para 0,07 – 0,08%, ou seja: 7 a 8 visualizações de discurso de ódio para cada 10.000 visualizações de conteúdo. A prevalência de conteúdo violento também caiu de 0,07% para 0,05% e o conteúdo de nudez adulta caiu de 0,05 – 0,06% para 0,03 – 0,04%.

“Essas melhorias estão ligadas às alterações de classificação que fizemos para reduzir o conteúdo problemático no Feed de Notícias. Cada publicação é classificada por meio de processos que levam em consideração uma combinação de sinais de integridade, como a probabilidade de um determinado conteúdo violar nossas políticas, bem como aqueles que recebemos das pessoas em pesquisas ou ações realizadas, como esconder ou denunciar publicações”, revela o Facebook.

Tem mais…

A taxa proativa, que é a porcentagem de conteúdo que a rede aciona e que o Facebook encontra antes de um usuário denunciá-lo, melhorou em certas áreas problemáticas, principalmente bullying e assédio.

“Nossa taxa proativa nessa categoria passou de 26% no terceiro trimestre para 49% no quarto trimestre no Facebook e de 55% para 80% no Instagram. Essas melhorias de IA em áreas em que as nuances e o contexto são essenciais, como discurso de ódio ou bullying e assédio, nos ajudaram a escalar melhor os esforços para que possamos manter mais pessoas seguras”, revelou a rede social.

Porém, segundo eles, a capacidade de revisar conteúdo continua afetada pelo COVID-19 até que uma vacina esteja amplamente disponível. Com capacidade limitada, a empresa revela que prioriza o conteúdo mais nocivo para que as equipes analisem, como conteúdo sobre suicídio e automutilação.

Confira os principais insights do relatório:

No Facebook:

• 6,3 milhões de peças de conteúdo de bullying e assédio, acima dos 3,5 milhões no terceiro trimestre, devido em parte a atualizações em nossa tecnologia para detectar comentários;
• 6,4 milhões de peças de conteúdo de ódio organizado, acima dos 4 milhões no terceiro trimestre
• 26,9 milhões de peças de conteúdo de discurso de ódio, acima dos 22,1 milhões no terceiro trimestre, devido em parte às atualizações em nossa tecnologia em árabe, espanhol e português
• 2,5 milhões de peças de conteúdo de suicídio e automutilação, acima dos 1,3 milhão no terceiro trimestre, devido ao aumento da capacidade de revisão.

No Instagram:

• 5 milhões de peças de conteúdo de bullying e assédio, acima dos 2,6 milhões no terceiro trimestre, em parte devido a atualizações em nossa tecnologia para detectar comentários;
• 308 mil peças de conteúdo de ódio organizado, acima dos 224 mil no terceiro trimestre;
• 6,6 milhões de peças de conteúdo de discurso de ódio, acima dos 6,5 milhões no terceiro trimestre;
• 3,4 milhões de peças de conteúdo de suicídio e automutilação, acima de 1,3 milhão no terceiro trimestre, devido ao aumento da capacidade de revisão.

Planos para 2021

No mesmo relatório, o Facebook anunciou que planeja compartilhar métricas adicionais no Instagram e adicionar novas categorias de políticas no Facebook. “Também estamos trabalhando para tornar nossos dados de aplicação de medidas mais fáceis de entender, com relatórios mais interativos. Nosso objetivo é liderar a indústria de tecnologia em transparência, e continuaremos a compartilhar mais métricas de aplicação de medidas como parte desse esforço”, anunciam.