Observatório Psicanalítico – 198/2020
Ensaios sobre acontecimentos sociopolíticos, culturais e institucionais do Brasil e do Mundo.
Ensaio sobre o “Dilema das redes”: a subjetividade algorítmica
Eduardo Rocha Zaidhaft (SBPRJ)
Como conta o biólogo evolucionário Terrence Deacon, desde a década de 90, quando o computador da IBM Deep Blue ganhou uma partida de xadrez do campeão mundial Garry Kasparov, temos assistido a uma interface de nossas relações com os dispositivos técnico-eletrônico-informacionais cada vez maior. Esta revolução técnica e cultural, crescente desde a década de 70, impactou a filosofia da mente, especialmente no contexto das ciências cognitivas, influenciando as chamadas teorias computacionais da mente.
Houve, assim, um grande desenvolvimento das neurociências e da inteligência artificial, estimulando a proliferação de correntes que radicalizaram a concepção da mente como muito semelhante a um computador. Este é o caso quando o computacionalismo se converte em um “materialismo eliminativista”, ou seja, a tese de que outros vocabulários, que não aqueles remetidos ao físico, devem ser eliminados da investigação. Sob esta abordagem baseada sobre um reducionismo ontológico, a mente não tem qualquer papel causal em si mesma, sendo nossa experiência em primeira pessoa um mero epifenômeno, uma ilusão. Nosso psiquismo, sob esta acepção, é uma mera projeção do plano neuronal que gera um software, efeito da organização sintática de inputs e outputs.
Elevando em múltiplas vezes as capacidades dos primeiros ábacos, Deep Blue demonstrou (e mais ainda as tecnologias de inteligência artificial atuais) como os computadores são mais inteligentes do que nós em muitas tarefas, principalmente as que envolvem a manipulação algorítmica de símbolos.
Contudo, sob esta acepção absolutamente fisicalista, em que a computação é suficiente para explicar o psiquismo e em que este está eliminado de força causal em si mesmo, sendo, portanto, mero epifenômeno, não restaria a questão ética de que desligar um computador é o mesmo que colocar alguém em coma contra o próprio desejo?
Alguma vez você já considerou que desligar seu celular ou computador é um ato imoral? Entendo isto ser um absurdo, é claro. Afinal, não é apenas por conta da capacidade de manipular símbolos de modo indistinguível em relação a um humano – que é, tecnicamente, o que define a inteligência artificial, segundo o Teste de Turing – que devemos entender que Deep Blue é como um humano, capaz de dotar estes símbolos de sentido. Como a crítica ao computacionalismo aponta: é evidente que a sintaxe não é suficiente para a semântica de um símbolo, ou seja, não é porque uma tecnologia é inteligente que isso a torna uma agência individuada, capaz de sentir afetos e responder a eles de maneira normativa, como nosso psiquismo reivindica ser. A máquina pode saber de tudo, quem sabe, mas cabe dizer que ela não sente nada – mesmo quando o mestre enxadrista é capaz de levá-la a um empate.
Ainda assim, hoje assistimos a uma inversão na ordem das coisas: se o algoritmo de Deep Blue era inteligente devido ao desejo de seus programadores, porém a máquina mesma sem desejo; agora, com os algoritmos altamente sofisticados pela computação – algoritmos que geram outros algoritmos –, presentes no dia a dia de nossa interação com os dispositivos eletrônicos, o que verificamos é um novo fenômeno sociocultural em que são estes algoritmos, mesmo que não sejam eles próprios desejantes, que estão produzindo o desejo, inclusive dos (psico)programadores. Uma questão que entendo ser aí apontada é como, nesta produção específica da contemporaneidade, o desejo tende a se organizar majoritariamente de acordo com o narcisismo e com a compulsão à repetição, negando-se à relação com a alteridade e a diferença.
“O Dilema das Redes” – documentário recentemente oferecido pela bilionária provedora global de streaming, sediada no Vale do Silício, a Netflix – demonstra como, no contexto atual, o mercado é mais guiado pela produção do desejo das pessoas do que pelos produtos desejados, de modo semelhante ao que Guattari falava, de modo algo profético, ainda na década de 80. O silogismo é suficientemente simples, como entendo dos entrevistados do documentário: se usamos um serviço de uma empresa, por exemplo o bilionário Facebook, que não é pago por nós usuários, quem arca com estes valores são os anunciantes. Se quem paga é o anunciante, logo este é o cliente. Se quem recebe o dinheiro é o vendedor, o que é que exatamente está sendo vendido? Esta resposta a propaganda sabe há muito: os usuários são o produto, ou, melhor, a predição sobre a mudança do desejo dos sujeitos que é o produto.
Sob esta argumentação, quem está no foco dos olhares do capitalismo pós-moderno não é a produção veloz do objeto desejado, tampouco apenas os grandes ideais e grandes líderes, mas, justamente, cada um de nós da massa que, mal ou bem, continua a desejar. Existe, como diria Foucault, uma inversão nos regimes de visibilidade – “são os súditos, e não os monarcas, que são vistos”. O que é curioso é que, quando imersos nas mídias sociais, embora estejamos ligados à massa, nossas pulsões, escópicas ou não, estão dirigidas ao próprio Eu, diria o pensamento freudiano.
Considero essa conjectura porque – e aqui vale lembrar que isto se aplica inclusive à Netflix – grande parte das mídias digitais se utiliza de algoritmos que, com base nos conteúdos assistidos ou bem avaliados pelo usuário, geram modelos cuja função é prever quais outros conteúdos devem ser sugeridos pela plataforma. Esses modelos, oriundos de uma quantidade enorme de dados de nossa atividade, codificados em um algoritmo, geram o poder de previsibilidade sobre o comportamento e percepção de cada usuário. A meta final desse circuito é o reforço em feedback – a compulsão à repetição – de conteúdos similares aos já assistidos ou bem-avaliados pelo usuário, mantendo-o aderido ao sistema para gerar a monetização da empresa. Como o documentário denuncia, sem considerar explicitamente que o mesmo vale para a Netflix, é por meio de um sistema de modelização das subjetividades em identidades algoritmicamente formadas, que fenômenos globais como a propagação da desinformação e a polarização política gestaram seu crescimento nos últimos anos. Uma vez que as imagens ofertadas são semelhantes às anteriormente assistidas, existe um processo pelo qual as massas tendem a se afunilar ideologicamente, opondo-se, assim, umas às outras.
Por isso, gostaria de concluir que, de modo interessante, ainda que um tanto trágico, este caráter próprio da pulsão, de buscar sua satisfação pelas vias já conhecidas, tende a se amplificar dada sua presença no contexto das mídias sociais. A incapacidade político-cultural para a relação com a diferença acompanha um processo, vivenciado no setting, em que o Ideal do Eu, em vez de se identificar com a alteridade, é subsumido por um Eu-ideal voraz. Nas mídias, somos nós que fazemos o papel de espelho a nós mesmos. De algum modo, a digitalização da vida cotidiana parece se correlacionar com o que se entende pelas patologias narcísicas e a compulsão à repetição frequentemente apresentadas na clínica psicanalítica hoje.
Por razões como essas, com certeza, não considero ser um ato imoral desligar meu computador e celular, sendo isto, provavelmente, dado o tom distópico do documentário, o oposto do que eu deveria, mas não gostaria, de fazer – afinal, é com meu computador que escrevo este texto. Não compreendo que a pulsão de morte seja apenas isto, uma pulsão à distopia. Embora eu não saiba se foi minha própria compulsão à repetição e meu próprio narcisismo nas mídias digitais – a minha subjetividade algorítmica – que me fez chegar a esse filme e tampouco escrever este ensaio, não tenho dúvidas de que devemos levar a sério de que maneira os modos de subjetivação da contemporaneidade se organizam com e por meio das telas. Igualmente, entendo ser necessária a criação de legislações específicas para o mercado das mídias sociais, dado o potencial disruptivo que ele implica. E à psicanálise, entendo que cabe se posicionar nesse cenário procurando dar foco justamente ao que as máquinas, mesmo as mais inteligentes, não têm: o desejo, o sentido e o afeto.
(Os textos publicados são de responsabilidade de seus autores)
Colega, click no link abaixo para debater o assunto com os leitores da nossa página no Facebook:
https://www.facebook.com/252098498261587/posts/1772309356240486/?extid=PxzV3wjX70gkp6i7&d=n
Os ensaios do OP são postados no site da Febrapsi. Clique no link abaixo: