Os sistemas de moderação de conteúdo do Facebook claramente precisam ser consertados.
Na quinta-feira, o Conselho de Supervisão do Meta informou que reverteu duas decisões do Facebook de excluir conteúdo de sua plataforma. As descobertas do painel independente revelam sérias deficiências nos procedimentos de moderação de conteúdo do Facebook em dois aspectos principais: a utilização de sistemas automatizados para eliminar conteúdo e a exclusão de conteúdo noticioso por moderadores humanos.
O caso inicial tratado pelo Oversight Board envolve um usuário colombiano do Facebook que compartilhou uma imagem de desenho animado representando a brutalidade policial da Polícia Nacional da Colômbia em setembro de 2020. O Facebook excluiu a postagem do usuário 16 meses depois, quando seus sistemas automatizados identificaram uma correspondência entre a imagem do desenho animado e uma armazenada em um banco de dados do Media Matching Service.
O Conselho de Supervisão concluiu que o Facebook errou ao excluir a postagem do usuário, uma vez que a imagem em questão não infringiu as diretrizes da plataforma e não deveria ter sido incluída no banco de dados do Media Matching Service.
Segundo o Oversight Board, várias pessoas foram impactadas além deste usuário. Um total de 215 usuários solicitaram a remoção de um post que continha essa imagem. Destes, 98% tiveram sucesso em seu recurso para a Meta. Apesar disso, a imagem do desenho animado permaneceu no banco de dados, resultando em detecções automatizadas e remoções subsequentes. A Meta só removeu a imagem do banco de dados Media Matching Service quando o Oversight Board interveio nesse caso específico.
No segundo exemplo, o Oversight Board concluiu que Meta cometeu um erro ao retirar um post relacionado ao Taliban. Em janeiro de 2022, um veículo de imprensa indiano compartilhou um link para um artigo em seu site sobre o anúncio do Taliban de reabertura de escolas para mulheres e meninas. Meta havia decidido que o post violava sua política em relação a Indivíduos e Organizações Perigosas, pois interpretava o conteúdo como apoio ao Taliban.
Dessa forma, o Meta excluiu a publicação e restringiu a capacidade do jornal indiano de usar determinadas funcionalidades do Facebook, como a transmissão ao vivo. Apesar de tentar contestar a decisão, o jornal não obteve uma revisão devido à ausência de revisores de urdu na empresa.
Novamente, após o Oversight Board decidir intervir no caso, Meta optou por reverter sua decisão, restabelecer o conteúdo e retirar as restrições da página do Facebook. O simples ato de relatar eventos informativos não constitui uma violação das políticas do Facebook, conforme afirmou o Oversight Board.
- Facebook Oversight Board apoia decisão de suspender Trump.
- O conselho de supervisão do Facebook toma uma decisão surpreendente em sua primeira série de decisões.
- Andrew Tate, um influenciador controverso, foi removido do Facebook e Instagram.
Os casos mencionados podem ter impactado um grupo reduzido de usuários, no entanto, o Oversight Board aproveitou a situação para sugerir alterações abrangentes nos métodos de moderação de conteúdo do Facebook, sejam eles feitos por meio de automação ou por seres humanos.
A Oversight Board foi estabelecida em 2018 com o propósito de atuar como uma espécie de Suprema Corte para as decisões de moderação de conteúdo da Meta. Em janeiro de 2021, a organização divulgou suas primeiras decisões, sendo uma delas bastante criticada por solicitar a restauração de um post removido que ativistas muçulmanos consideraram como discurso de ódio. No entanto, a decisão mais notável da Oversight Board até o momento foi a de apoiar a suspensão de Donald Trump pelo Facebook. O ex-presidente foi suspenso da plataforma após os tumultos violentos no Capitólio em 6 de janeiro.
A determinação do Oversight Board obrigou a Meta a estabelecer um prazo para a suspensão de Trump. Pouco tempo após essa determinação em 2021, a Meta divulgou que estava considerando a possibilidade de permitir o retorno de Trump às suas plataformas em janeiro de 2023. Embora essa ideia possa ter parecido distante em junho de 2021, agora está a apenas alguns meses de distância. Se e quando Trump voltar ao Facebook no próximo ano, não será surpreendente vê-lo envolvido em um ou mais casos do Oversight Board.
Objetivo
