Ontem, o The Verge informou que, nos últimos seis meses, houve uma “falha maciça de classificação” no algoritmo do Facebook, o que causou potenciais “riscos de integridade” para metade de todas as visualizações do feed de notícias.
A informação vem de um grupo de engenheiros, que encontrou a falha do algoritmo em outubro passado. Eles disseram que quando um lote de desinformação estava fluindo através do Feed de Notícias, em vez de bloquear a disseminação, o sistema os estava promovendo. Com efeito, a desinformação que apareceu no feed de notícias obteve 30% mais visualizações. O que é estranho, o Facebook não conseguiu encontrar a causa raiz. Eles estavam apenas monitorando como essas postagens estavam agindo. Curiosamente, essas notícias não tiveram tantas visualizações depois de algumas semanas no topo. Os engenheiros do Facebook podem corrigir o bug em 11 de março.
A investigação interna do Facebook mostrou que o algoritmo do Facebook não conseguiu impedir que as postagens fossem exibidas, mesmo que consistissem em nudez, violência, etc. internamente, o bug atingiu um nível SEV. SEV significa evento do local. No entanto, isso não é o pior que pode acontecer com o sistema. Embora seja um bug de nível um, há também um SEV de nível zero usado para as emergências mais dramáticas.
O Facebook já admitiu oficialmente que houve um bug. O porta-voz da Meta, Joe Osborne, disse que a empresa “detectou inconsistências na classificação em cinco ocasiões distintas, que se correlacionaram com pequenos aumentos temporários nas métricas internas”.
De acordo com os documentos internos, esse problema técnico foi introduzido pela primeira vez em 2019. No entanto, naquela época, não teve um impacto perceptível até outubro de 2021. “Rastreamos a causa raiz para um bug de software e aplicamos as correções necessárias”, disse Osborne . “O bug não teve nenhum impacto significativo e de longo prazo em nossas métricas.”
Downranking como a melhor maneira de exibir o conteúdo que você precisa
Por enquanto, o Facebook não explicou que tipo de impacto tem no conteúdo exibido no Feed de Notícias. Sabemos apenas que o downranking é a forma que o algoritmo do Facebook usa para melhorar a qualidade do Feed de Notícias. Além disso, o Facebook tem trabalhado ativamente nessa abordagem, tornando-a a principal forma de exibição de conteúdo.
Em certo sentido, esta é uma abordagem lógica. Queremos dizer que postagens sobre guerras e histórias políticas controversas podem ter classificações altas. Mas na maioria dos casos, eles não correspondem aos termos do Facebook e podem ser banidos. Em outras palavras, como Mark Zuckerberg explicou em 2018, o rebaixamento luta contra o instinto de ser obcecado por conteúdo “mais sensacionalista e provocativo”. “Nossa pesquisa sugere que não importa onde traçamos os limites para o que é permitido, à medida que um conteúdo se aproxima dessa linha, as pessoas se envolvem mais com ele em média – mesmo quando nos dizem depois que não gostam do conteúdo ”.
O downranking também “funciona” para o chamado conteúdo “borderline”. Assim, o Facebook não mostra não apenas o conteúdo que está perto de violar suas regras, mas também o conteúdo que é determinado como violador. O sistema de IA do Facebook verifica todas as postagens. No entanto, posteriormente, os funcionários correspondentes verificam o conteúdo “violador”.
Em setembro passado, o Facebook compartilhou uma lista de conteúdo rebaixado. Mas não forneceu nenhuma informação sobre como o rebaixamento afeta a distribuição do conteúdo afetado. Esperamos que, no futuro, o Facebook seja mais transparente quando se trata de conteúdo rebaixado no Feed de Notícias.
Seu feed de notícias mostra conteúdo que você gosta?
Ao mesmo tempo, o Facebook não perde a oportunidade de mostrar como seu sistema de IA funciona. Eles provam que o algoritmo está melhorando a cada ano e luta com sucesso contra conteúdo, incluindo discurso de ódio e afins. O Facebook tem certeza de que a tecnologia é a melhor maneira de moderar o conteúdo dessa forma. Por exemplo, em 2021, anunciou oficialmente o rebaixamento de todo o conteúdo político no Feed de notícias.
Muitos confirmariam que não houve intenção maliciosa por trás desse ranking recente. Mas o relatório do Facebook mostra que qualquer plataforma baseada na web e os algoritmos que eles usam devem ser o mais transparentes possível.
“Em um sistema grande e complexo como esse, os bugs são inevitáveis e compreensíveis”, disse Sahar Massachi, ex-membro da equipe de integridade cívica do Facebook. “Mas o que acontece quando uma plataforma social poderosa tem uma dessas falhas acidentais? Como nós saberíamos? Precisamos de transparência real para construir um sistema sustentável de prestação de contas, para que possamos ajudá-los a resolver esses problemas rapidamente”.
Fonte Adicione ao Google Notícias



