A Máquina do Caos – Como as redes sociais reprogramaram nossa mente e nosso mundo
Max Fisher
Todavia, 512 páginas, R$ 99,90. Tradução de Érico Assis.
Um lugar comum repetido por comentaristas e jornalistas nos últimos anos ao reportar crimes cometidos na internet é usar o bordão da internet como “terra de ninguém”. O termo é reducionista, mas ilustra bem o sentimento que motiva praticamente todo plano de negócios no Vale do Silício: é preciso reformatar o mundo à imagem das empresas de tecnologia, da inovação e da liberdade, mesmo que isso esteja, em alguma medida, em desacordo com princípios da democracia. Uma crença de que “a sociedade é um problema de engenharia apenas à espera da solução” e não uma dialética complexa baseada na política e na articulação social.
A Máquina do Caos, do repórter investigativo norte-americano e pesquisador Max Fisher apresenta os bastidores dos negócios bilionários das redes sociais. Em viagens para Sri Lanka, Mianmar, México, Alemanha e Brasil, Fisher recontou como o discurso do ódio e o crescimento do extremismo no mundo está intrinsecamente ligado às estratégias de crescimento de plataformas como Twitter, Facebook, YouTube, Reddit e outras. O autor demonstra que as empresas sabiam que suas ferramentas se aproveitavam de vulnerabilidades psicológicas e que eram um estímulo a comportamentos nocivos.
Na “Terra de Ninguém” da internet, essas empresas se aproveitaram do afrouxo legislativo da maioria dos países em que atuaram e quase nunca eram responsabilizadas em relação ao que era propagado em suas páginas. Elas fizeram uso de tecnologias avançadas como o algoritmo do feed, que escolhia o conteúdo a ser exibido ao usuário, e com isso acabaram influenciando certo tipo de conteúdo em detrimento de outros.
Com o auxílio do trabalho de pesquisadores e delatores, Max Fisher comprovou que as empresas sabiam que essas tecnologias propagavam fake news, ampliavam o preconceito contra minorias e ajudavam a alavancar candidaturas de extrema direita. Como se sabe, a desinformação desenfreada e o discurso de ódio ajudaram a eleger candidatos de índole golpista como Jair Bolsonaro, no Brasil e Donald Trump (nos EUA).
O livro abrange diversos tópicos e é bastante eficaz ao dar contorno e relevo para as redes sociais, sempre imersas em uma aura de impessoalidade. Fisher dá nome e descrição das pessoas que trabalham nas plataformas, de pequenos engenheiros aos executivos. E como bom repórter, ele também deu espaço às histórias humanas de pessoas que foram diretamente atingidas pelas decisões das redes sociais.
A Máquina do Caos pelo mundo
Chega a ser difícil ler os relatos de sobreviventes do genocídio em Mianmar, um caso que ficou conhecido por ter sido impulsionado a partir do Facebook. Em 2012, a violência eclodiu entre a maioria budista e a minoria muçulmana Rohingya, no estado de Rakhine. Um monge extremista e anti-muçulmano, Ashin Wirathu, compartilhou uma postagem mentirosa no Facebook afirmando que uma menina budista havia sido estuprada por homens muçulmanos. A mensagem viralizou e se materializou em uma série de atos violentos que culminaram com a morte de 25 mil pessoas e mais de 700 mil refugiados, segundo a ONU.
A Máquina do Caos relata também como a desinformação levou a assassinatos no Sri Lanka, quando um boato no Facebook afirmava que turistas estariam sequestrando crianças para tráfico de órgãos. Aqui no Brasil, Fisher investigou a influência das redes para o crescimento da extrema-direita no Brasil e a ascensão de um candidato antidemocrático como Jair Bolsonaro. Mas conta também histórias humanas, como o caso de Christine, cujo um vídeo da filha de apenas 10 anos no YouTube acabou sendo oferecido no algoritmo da plataforma como conteúdo de crianças seminuas.
Max Fisher mostra em seu livro que o engajamento e o tempo passado nas redes são altamente lucrativos para as redes, o que leva às diferentes estratégias para aperfeiçoar o algoritmo de seleção de conteúdo. Diferentes estudos mostraram que esses algoritmos, na maior parte do tempo, promovem sistematicamente ideias e teorias da conspiração que se alinham às ideias extremistas e antidemocráticas.
Eles se aproveitam de um sofisticado conhecimento da natureza humana, em que sentimentos de indignação, curiosidade, ódio e medo geram mais e mais engajamento. É o que Fisher chamou de “Teoria da Toca do Coelho”: quanto mais conteúdo violento, extremo e que propague o ódio o usuário consome, mais as redes os oferecem.
O lançamento do livro no Brasil chega em um momento oportuno com a discussão da regulação das redes sociais com o PL 2630, conhecido como PL das Fake News. O projeto de lei busca trazer mais transparência para a moderação de conteúdo, funcionamento dos algoritmos, mas traz uma mudança de paradigma da relação das sociedades com as mídias digitais que é incutir a responsabilização pelo conteúdo trafegado, o que acabaria com a tal “terra de ninguém” falada na abertura desse texto.
“Discussões no Vale do Silício a respeito de como usar seu poder – submeter-se mais ou menos aos governos, enfatizar neutralidade ou assistência social, consistência ou flexibilidade – raramente levavam em conta a possibilidade de que elas não deviam ter poder algum”, diz Fisher.
Leia mais: O Brasil e o pêndulo da democracia, de Leonardo Avritzer
Em maio de 2021, uma funcionária do Facebook que trabalhava na equipe de combate à desinformação, Frances Haugen, copiou milhares de relatórios internos e os enviou para o jornal Wall Street Journal. Neles, ela comprovava que a empresa estava ciente dos males causados pela desinformação, muitas ligadas às vacinas, mas as negligenciava. Os documentos acabaram chegando a uma comissão do Senado americano, onde a funcionária depôs, se insurgindo contra o algoritmo. “Podemos ter mídias sociais que curtimos, que nos conectam, sem rasgar nossa democracia ao meio, sem colocar nossos filhos em risco e sem semear a violência étnica mundo afora”, disse.
Max Fisher sugere que os governos precisam pautar o tema da responsabilização, buscar soluções, tomar as rédeas, enfim. Além da regulação a partir de leis criadas ao redor do mundo ele afirma que a solução passa pelo fim da classificação do conteúdo baseada no engajamento. “Quanto mais tempo alguém passa estudando as plataformas, seja qual for sua área, o mais provável é que chegue à resposta de Haugen: desligue [o algoritmo]”.
Compre o livro com desconto [Amazon].
Este post contém links de afiliados. Comprando através dos links podemos receber comissões pelas vendas. Isto ajuda a manter o site no ar.
