Algoritmos racistas e a midiatização: as lógicas de racialização no motor de buscas do Google
Resumo
Esta comunicação científica tem como objetivo apresentar a discussão teórico-prática que vem sendo desenvolvida em nossa pesquisa, que reúne as relações entre algoritmos, racismo e midiatização. Nosso eixo central busca compreender de que forma as lógicas algorítmicas operam nas plataformas digitais, em especial no motor de buscas do Google, com foco em processos digitais que incorporam vieses racistas.
Localizamos a nossa pesquisa no âmbito da midiatização, pois entendemos que esse processo alterou as práticas comunicacionais já instituídas na sociedade, questionou os fluxos existentes, tirou a centralidade dos meios massivos como detentores da produção e emissão da informação, entre outras características próprias desse novo momento. Perde-se a referência de mediação, ou seja, as estruturas mediadoras até então conhecidas deixam de ser eixo referencial. Esse movimento causa uma produção de sentido desenfreada, construindo um contexto sem previsibilidade alguma dos atores e das instituições, que também absorveram esse novo modo de ser no mundo (Gomes, 2017).
Nesse sentido, a problemática racial, em nossa perspectiva, é uma das chaves para ler a sociedade atual, em mudanças que podem ser observadas “(n) as relações de produção e recepção dos discursos” (FAUSTO NETO, 2010). Além disso, a midiatização ofereceu novas formas para que essa estrutura opressiva, que é o racismo, seguisse violentando sujeitos negros. A partir dela, novos meandros surgiram e o racismo se atualizou. Um exemplo disso são as reproduções racistas que ocorrem nas plataformas digitais. Compreendemos que essas relações podem ser investigadas na interface entre os algoritmos e racismo, considerando também os usos sociais dos meios. Nesta proposta, nos dedicamos em construir um caso de investigação, a partir de inferências preliminares da pesquisa que estão sendo desenvolvidas ao longo da dissertação de mestrado.
A proposta é de investigar as relações entre os sistemas de algoritmos inseridos na cultura e os algoritmos materiais (Ferreira, 2020), para compreender de que forma o racismo algorítmico (Silva, 2020) opera para reforçar estigmas contra afrodescendentes na rede. Além de buscar entender as lógicas algorítmicas da cultura e nos meios materiais (Ferreira, 2020), incluímos também a investigação dos discursos sociais e circuitos (Braga, 2012) em afros de resistências nas redes sócio-digitais.
Para a construção da pesquisa que está em andamento, estabelecemos algumas hipóteses centrais para guiar o andamento do projeto, que surgiram a partir de exercícios preliminares de análises sobre os empíricos e teorias que mobilizamos. As hipóteses são as seguintes:
A análise dos algoritmos se torna mais produtiva quando se considera as relações entre lógicas do sistema de produção e as lógicas sociais do consumo – considerando o consumo como abrangendo os usos sociais dos meios e e a recepção, especialmente quando relacionadas aos discursos sociais nos meios de conteúdo e em redes sócio-digitais.
Existe diferenciação e convergência entre lógicas do motor de buscas do Google e lógicas sociais do consumo conforme observações preliminares dos circuitos e práticas sociais dos afros, em que os discursos sociais em meios jornalísticos são mediação central para busca de inteligibilidade dos agenciamentos algoritmos.
Racismo, algoritmos e plataformas
Entendemos que os algoritmos são um sistema apropriado pelos meios, como um fenômeno inserido primeiramente na cultura. O agenciamento dos sistemas de algoritmos nos processos tecnológicos é parte de um todo, que tem como origem a estrutura algorítmica já como experiência mental (FERREIRA, 2020). Nessa perspectiva, as lógicas de pensamento podem ser consideradas como operações algorítmicas, que guiam as ações dos indivíduos, desde as mais simples, passando para as mais complexas.
“O algoritmo é, antes de tudo, uma experiência mental. Sem essa, a vida seria impossível. Refere-se ao sistema de possibilidades e de decisões alternativas, sequencializadas na execução de operações a serem realizadas. Sempre que há o algoritmo, a vida parece ficar mais fácil. Essa “lógica cognitiva” nos acompanha em todas as atividades perante o ambiente natural e social, em relação aos nossos corpos, afetos, problemas, soluções e projetos. Essa materialização é central nos processos de midiatização” (FERREIRA, 2021, p. 319)
A ideologia racial que é estrutural e estruturante na sociedade brasileira influencia também o “enquadramento da tecnologia, os discursos culturais que moldam nosso uso da tecnologia e as expectativas da sociedade sobre essas práticas tecnoculturais”(Brock, 2020). Além disso, o próprio aparato tecnológico não foge às lógicas de opressão postas em sociedade. O racismo é uma tecnologia de poder que estrutura as relações sociais a partir da cor da pele. A ideia de raça, trazida das ciências biológicas para classificar e criar diferenças entre os indivíduos, predomina na cultura causando uma série de desigualdades.
Essa ideia de dominação a partir da concepção de raça empregada na sociedade oferece privilégios a determinados grupos e desprivilegia a outros. A estrutura cultural, as práticas e as lógicas hegemônicas no Brasil são as importadas da Europa, na proposta cunhada por europeus sobre a existência de um homem universal durante o Iluminismo. Essa visão eurocêntrica imposta, a partir de uma proposta colonial e depois de branqueamento social aqui no Brasil, não reconhece sistemas de pensamento afro-referenciado (Sodré, 2017).
O não reconhecimento do pensamento e das práticas afro-brasileiras causa uma série de disfunções sociais. Para BENJAMIN (2020, p. 16), o racismo é uma tecnologia, “uma lógica, uma razão, uma justificativa e uma maneira de conhecer o mundo e outros seres humanos que é sempre violenta, rotineiramente mortal e brilhantemente codificada na mesma coisa que recorreríamos por justiça”.
A estrutura de desigualdade e violências raciais sistêmicas oferecem espaço às novas tecnologias que vão reproduzir as práticas de discriminação empregradas contra negros. De acordo com o BENJAMIN (2020, p. 17), “a tecnologia não é apenas uma metáfora racial, mas um dos muitos meios pelos quais as formas anteriores de desigualdade são atualizadas”. Esses dispositivos tecnológicos produzem violência e reproduzem violências através de seus algoritmos, que muitas vezes servem para oprimir. Esse signo (Ferreira, 2020) se coloca à favor da manutenção dessa realidade desigual.
A midiatização está transformando o ambiente social. Essa outra ambiência, que segundo Hepp (2020) é aprofundada, apresenta uma nova cultura comunicacional a partir das novas tecnologias que estão surgindo. Fenômenos como o da plataformização (Poell; Nierborg; Van Dijck, 2020), da cultura algorítmica e da dataficação contribuem para o aprofundamento da midiatização no tecido social. Segundo Hepp (2020), as mídias digitais estão colaborando com a aceleração dessa reconfiguração da semiose social.
As elaborações culturais originadas por esse processo de midiatização aprofundada se misturam com o estágio antropológico da sociedade atual. Nesse sentido, essa cultura tecnológica plataformizada é regida também pelos enraizamentos de todos os tipos de opressões presentes na esfera social.
De acordo com HEPP (2020, p. 115):
Neste contexto, a refiguração tem um duplo sentido: por um lado, re-figuração, da perspectiva sobre as figurações, significa sua transformação estrutural, que é, a mudança permanente de constelações de atores, quadros de relevância e práticas. Por outro lado, de uma perspectiva externa, a re-figuração se refere à transformação das figurações das inter-relações. Têm uns com os outros, o que inclui o surgimento de novas configurações e novos arranjos significativos de configurações. (tradução nossa).
Essas reconfigurações comunicacionais (Hepp, 2020) envolvem, entre outras coisas, as infraestruturas midiáticas e discursos sociais. Dois fatores que se somados, podem ser materializados na forma das plataformas tal qual conhecemos hoje. Para Poell; Nierborg; e Van Dijck (2020, p. 4), as plataformas podem ser definidas “como infraestruturas digitais (re)programáveis que facilitam e moldam interações personalizadas entre usuários finais e complementadores, organizadas por meio de coleta sistemática, processamento algorítmico, monetização e circulação de dados”.
As plataformas de mídias digitais deram um outro lugar para as redes de interações sociais, facilitaram o acesso à informação por meio de motores de busca e sistemas de indexação de conteúdo, as plataformas também transformaram práticas básicas do cotidiano, como movimentações financeiras, entre muitas outras mudanças que aprofundam o processo de midiatização. É preciso lembrar que as plataformas também são modelos de negócio geridos por grandes empresas, que têm interesse em lucrar. Dessa forma, desenvolvem seus produtos com foco em usuários finais. Aqui a hipótese é a de que as plataformas, agenciadas por algoritmos, atuam de forma a atender suas audiências. Essas tecnologias de aprofundamento midiático operam reproduzindo os discursos de uma sociedade massificada, capturando dela os elementos que mais circulam.
Nesse sentido, acreditamos que os algoritmos são alimentados por usuários que realizam interações racializadas, que oprimem usuários negros. Portanto, com o aprendizado de máquina, esses algoritmos automatizados passam a entregar conteúdos pelos mais diversos recursos dependentes desses sistemas operatórios da web (reconhecimento facial, indexação de conteúdos, entrega de conteúdos, sugestão de conteúdos, etc.).
“Se a norma social é o preconceito e a incivilidade, esta é a lógica que os meios digitais vão seguir, sem questionamento” (MARTINS, 2021, p. 54). Os usuários das mais diversas plataformas - de buscas (Google), alimentação (iFood), transporte (Uber), interação em rede (Instagram), banco de imagens (Flickr), entre outras - precisam codificar suas práticas para que as estruturas de plataforma consigam ler e realizar as operações desejadas. Ou seja, é um ciclo que é retroalimentado por usuários e por sistemas algoritmos que captam dados e tem uma determinada ‘consciência’ sobre os processos, a partir de um sistema de automação.
Cada plataforma digital tem suas lógicas algorítmicas e operam conforme regras estipuladas. No entanto, essas regras se baseiam na captação de dados dos usuários para relacioná-los com os critérios de funcionamento da plataforma. Esses modos de operação de cada uma dessas plataformas estão ligados à geração de lucro das grandes organizações que estão por trás dessas infraestruturas, mas que também gera valor financeiro para usuários que utilizam as plataformas de forma a monetizar o trabalho online (Poell; Nierborg; e Van Dijck, 2020). De acordo com HEPP (2020, p. 117), “essas plataformas […] são de propriedade de grandes empresas de tecnologia e se baseiam em modelos de negócios de geração de receita a partir dos dados dos usuários, o mito do nós coloca essas empresas com uma imagem da potência emancipatória da tecnologia digital”.
O motor de buscas do Google, objeto central de análise do projeto de dissertação de mestrado a ser desenvolvido e das elaborações iniciais trazidas neste artigo, se ancora nessa ideia cunhada até este momento: entendemos que a ideologia racializada e discriminatória presente nas plataformas digitais, impulsionadas por esse contexto de midiatização profunda, é de responsabilidade de um contexto sociocultural e tecnológico, onde as plataformas, inseridas nestas realidades hegemonicamente preconceituosas, não barram essas estruturas, pois atendem, de certa forma, a necessidade de manutenção destas opressões, socialmente referidas, e a suas audiências - compreendido aqui como usuários das plataformas, que são produtores e receptores de conteúdo - que operam nesta lógica de poder.
O aprofundamento da midiatização na sociedade possibilita que as novas tecnologias resolvam uma série de questões, intensifica as interações, altera modos de operar e diversas estruturas sociais. Contudo, ainda não se encontrou formas definitivas de barrar as violências online. O que falta para que isso aconteça? Quanto mais é necessário que se aprofunde fenômenos como o da midiatização para que se resolva uma questão tão latente como a do racismo e demais opressões nas plataformas? Isso nos mostra que o desenvolvimento tecnológico não significa o desenvolvimento do pensamento humano.
A internet é mediada por um mundo externo. Por isso é necessário que as ideologias dominantes sejam combatidas na sociedade, para que se avance em um processo de tomada de consciência daqueles responsáveis pelas produções dessas novas tecnologias. Uma das nossas hipóteses é a de que as plataformas operam no sentido de atender suas audiências e que o racismo online é um produto disso. Porém, precisa-se cobrar das grandes organizações gestoras de plataformas digitais que se proponham a combater essas violências em rede e a barrar a disseminação de conteúdos discriminatórios por parte dos seus algoritmos.
