Meta exibe reels violentos no Instagram e diz que corrigiu “erro”

A Meta pediu desculpas pela exibição de conteúdos violentos nas páginas pessoais de usuários do Instagram nesta quinta-feira (27). A plataforma informou que já corrigiu o que chamou de um “erro”, mas não deu mais detalhes.

“Corrigimos um erro que fazia com que alguns usuários vissem conteúdo em seus feeds do Instagram Reels que não deveria ter sido recomendado. Pedimos desculpas pelo erro”, disse um porta-voz da Meta em uma declaração enviada à CNBC. 

A emissora conseguiu visualizar diversas postagens em Reels que pareciam mostrar corpos e agressões violentas rotuladas como “conteúdo sensível”. Esse tipo de material pode ser desabilitado pelo próprio usuário na configuração de moderação mais alta.

De acordo com o site da Meta, uma equipe de 15.000 revisores ajuda a detectar imagens perturbadoras na rede. Além disso, a empresa utiliza inteligência artificial e ferramentas de aprendizado de máquina para remover conteúdos proibidos antes mesmo da denúncia de usuários.

A plataforma diz ainda que trabalha para evitar recomendar conteúdo que possa ser “de baixa qualidade, questionável, sensível ou inapropriado para espectadores mais jovens”.

Leia Mais:

Mudanças na política de moderação

O “erro” mais recente ocorreu em meio às mudanças nas políticas de moderação de redes sociais controladas pela Meta, como informado no início de janeiro. A empresa diz que pretende alterar as regras para “promover melhor a liberdade de expressão”.

A plataforma informou que passaria a focar em “violações ilegais e de alta gravidade, como terrorismo, exploração sexual infantil, drogas, fraudes e golpes”, e não “todas as violações de política”.

Segundo a empresa, seus sistemas estavam rebaixando conteúdos com base em previsões, e não necessariamente violações efetivas — por isso, a rede pretende “se livrar da maioria desses rebaixamentos”.