ARTIGO: O dilema (não é só) das redes

Por: Mariana Gomes

Crítica aos algoritmos representa ansiedade ocidental do fim do mundo pelas tecnologias

Neste mês de outubro o filme “O Dilema das Redes”, da Netflix foi lançado. O docudrama estadunidense, tem como proposta mostrar “como os magos da tecnologia possuem o controle sobre a maneira em que pensamos, agimos e vivemos”. Esse artigo não tem a intenção de esgotar as discussões sobre o filme, mas levantar alguns pontos importantes para uma percepção crítica dele, um caminho para exercitarmos nossa autonomia em relação às tecnologias de informação e comunicação sem partir do medo.

A ansiedade do fim do mundo

O Dilema das Redes, dirigido pelo cineasta Jeff Orlowski, não é só um documentário. Tecnicamente falando, nos deparamos com o gênero docudrama, que mistura relatos documentais a dramatizações que servem de suporte ao argumento do filme. De um lado, somos apresentados a Tristan Harris, ex-especialista em ética de design do Google como um dos ‘magos conscientes’ do Vale do Silício, e uma série de outros especialistas que participaram do alto escalão de empresas como Pinterest, Twitter e Facebook. Além disso, atores representam uma família estadunidense formada por um casal heterossexual interracial e três filhos, em situações extremas com as mídias sociais.

Imagens de falência das democracias no mundo, incitação ao ódio, polarização política e vício nas telas são sobrepostas a uma série de explicações sobre autonomia dos algoritmos e inteligência artificial das mídias sociais e suas interferências negativas em nossa sociabilidade. O desenrolar da história argumenta que o desenvolvimento tecnológico pode acabar com o  mundo não só pelas questões ambientais, mas também na produção de conflitos sociais e na materialização da ansiedade em que as máquinas protagonizam a vida humana. Parece que, no mundo todo, finalmente chegamos à realidade de “Eu, robô”.

Tristan Harris, ex-especialista em ética de design do Google
📸: Captura de tela / Netflix

Mas vamos com calma. E é Achille Mbembe, filósofo camaronês, que nos dá régua e compasso para compreender a construção narrativa do filme e os outros dilemas que nos atravessam como sociedades no tempo de agora. Segundo o pesquisador, numa época de escalada tecnológica e conexão planetária, nós conseguimos observar a reatualização de uma ansiedade ocidental sobre tecnologia. Se trata da ansiedade das máquinas substituindo os homens, ancorada na tradição ocidental de separar os humanos de tudo que é não humano, como os artefatos e a natureza. 

Por exemplo, no docudrama, os conflitos raciais como o episódio de Charlottesville nos EUA e da perseguição aos mulçumanos Rohingya em Myanmar são apresentadas como resultado do descontrole dos criadores das plataformas de redes sociais em relação aos algoritmos, aparentemente incontroláveis e que parecem nos encaminhar para o fim dos tempos, começando pelo fim de nossas famílias. É assustador! Em alguns momentos é até difícil separar os relatos documentais das dramatizações. 

Como provoca Mbembe, nessa ansiedade ocidental o homem é compreendido enquanto animal com grande capacidade cognitiva que através da linguagem e da cultura encontra a liberdade do instinto. E onde a tecnologia aparece nisso tudo? Ela faz parte de um plano da vida onde está a verdade e através da compreensão da essência da tecnologia a humanidade pode caminhar para a liberdade. Só que essa ansiedade não é universal!

Achille Mbembe em Joanesburgo, 4 de agosto de 2020. 📸: Marc Schoul para JA

Tomando como exemplo as noções de vida nas sociedades africanas antes da colonização, Mbembe nos lembra que não há uma separação entre seres humanos e não humanos, sejam artefatos, a natureza ou elementos espirituais. Há na verdade uma série de encontros, sobreposições que reconhecem a agência em todos esses elementos. A própria ideia de essência tecnológica não é cabível, muito menos que ela irá ultrapassar a humanidade. As maneiras de lidar com as tecnologias dizem sobre acúmulo de responsabilidade. E já que falamos do lado de cá da Améfrica Ladina, esses conhecimentos perpassam nossa construção como sociedade, apesar de apagamentos sistematicamente.

A falta de responsabilidade da branquitude

O Dilema das Redes estabelece uma espécie de jornada do herói para Tristan Harris, o ex-especialista do Google que ‘sozinho’ percebeu e superou o dilema das redes, depois de uma série de problemas com a empresa, e agora convoca outras pessoas no Vale do Silício e usuários das mídias sociais no mundo inteiro para uma contra-proposta. Para os outros entrevistados do Vale do Silício, que representam a diversidade da branquitude na tecnologia em gênero e sotaques, nós vemos uma série de desculpas com uma autocrítica que empurra a responsabilidade apenas aos modelos de negócio das plataformas, como se fossem imutáveis, e aos algoritmos, como se fossem incontroláveis. 

As únicas soluções são: sair das empresas ou sair das redes, que correspondem à superficialidade de como a obra encara a questão da plataformização da Internet. Apesar de falar coisas que a maioria de nós tem começando a nomear e reconhecer agora em nossas vidas, a ausência de pesquisadoras negras como Safiya Noble, Ruha Benjamim e Joy Buolamiwini, assim como estudiosos de outras etinias, mulheres, pessoas não binárias e demais LGBT’s no filme contribui para uma visão derrotista e simplória da questão.

É necessário também se questionar sobre a noção de manipulação em relação à comunicação mediada pelas redes sociais. Essa ideia de manipulação e alienação surge da crítica aos meios de comunicação de massa (TV, rádio, cinema..), que conseguimos atualmente aprender no dia a dia, na conversa com nossos familiares e amigos, mas também com pesquisadores renomados. Verdade seja dita: realmente não há imparcialidade nos veículos de comunicação. Tudo é produzido estrategicamente e faz parte das políticas comerciais dessas empresas. Mas a ideia de manipulação pressupõe uma massa como um conjunto homogêneo de pessoas que não tem agência nenhuma sobre seus pensamentos. 

No caso da branquitude, isso satisfaz a partir do momento em que a maioria de nós é percebido somente como usuário das tecnologias, sem agência e que necessitam de heróis ou magos para nos salvarem e desvendarem os segredos do fim dos tempos. Ao fim e ao cabo, é um caminho direto para o epistemicídio, o apagamento e extermínio das culturas e das intelectualidades negras, indígenas, de mulheres e de LGBTQIA+.

Sair das redes resolve? 

O medo é um de nossos mecanismos de defesa, mas também pode nos paralisar e isolar. Há um poema da Octavia Butler, célebre autora de ficção científica e mulher afroamericana, que nos ajuda a pensar nisso: 

“[…] Cega, fechada/ desconfiada, com medo/ a Ignorância se protege/ E protegida, / a ignorância cresce.” 

Octavia Butler / 📸: Malcolm Ali/WireImage

Sair das redes é uma alternativa plausível de cuidado, até porque visibilidade é muito mais do que imagem. Mas se há um dilema das redes, com figuras como algoritmos, inteligência artificial, lucro, ameaças democráticas e manutenção da branquitude, precisamos também perguntar: E depois que eu excluir minha conta, para onde irão meus dados? Além da culpa, como cobrar a responsabilidade dos criadores desses mecanismos das redes? Será que aqueles de nós que somos “os outros” teremos a chance de incidir nas decisões sobre o avanço tecnológico?

Hoje com a possibilidade de mesmo sendo audiência, podemos produzir e publicar conteúdo através da Internet. É um ambiente que ficamos expostos a mais influências e referências. É imprescindível que nos atentemos que além dessa abertura, nossa agência está também em escolher não agir pelo medo.

Não há respostas simples para uma situação tão complexa. Há o que faz sentido para nós, como indivíduos, com trajetórias múltiplas e densas, assim como há o desafio de nomear, enquanto coletividades, o que ainda nos é aterrorizante. Numa perspectiva afrodiaspórica, nós já vivemos o fim do mundo, mas ainda sim nossos antepassados foram capazes de criar vida apesar dos pesares coloniais. Termino dizendo, diferente de agir por um medo paralisante, o dilema das redes perpassa também em desfazermos das concepções coloniais. Isso requer coragem, diálogo e compromisso. O bônus? Enquantos amefricanos ladinos, as respostas estão muito mais aqui dentro do que fora.

Para pegar a visão: branquitude e tecnologia

#VIDASNEGRASIMPORTAM: e a branquitude depois da hashtag?

Caminhos contra o hiato digital: Desafios pela igualdade racial nas TIC’S

Artigo: O pacto narcísico da branquitude e o dilema social | Intervozes

O verdadeiro Dilema das Redes por Carla Vieira

Referências:

BUTLER, Octavia. Beware. Parable of talents. 1998. Disponível em <https://www.goodreads.com/quotes/388110-beware-ignorance-protects-itself-ignorance-promotes-suspicion-suspicion-engenders-fear>. Acesso em 07/10/2020 às 10h50.

MBEMBE, Achille. Borders in the Age of Networks. 2019. Disponível em <https://www.youtube.com/watch?v=tFGjzG0lLW8&t=11s>. Acesso em 07/10/2020 às 08h23.
GONZÁLEZ, Lélia. A categoria político cultural de amefricanidade. In: Tempo Brasileiro. Rio de Janeiro, nº 92/93 (jan./jun.). 1988, p. 69-82. Disponível em <https://negrasoulblog.files.wordpress.com/2016/04/a-categoria-polc3adtico-cultural-de-amefricanidade-lelia-gonzales1.pdf>. Acesso em 08/10/2020 às 22h10

* A imagem da chamada é uma captura de tela do documentário da Netflix

3 pensou em “ARTIGO: O dilema (não é só) das redes

Deixe um comentário

O seu endereço de e-mail não será publicado.

Rolar para o topo