Algoritmos contra a Sociedade

O tema da regulação da internet perdeu o status de novidade há já bastante tempo, muito embora continue urgente, um tanto graças ao acúmulo de abusos que as sociedades vêm sofrendo por parte de grandes conglomerados de tecnologia, outro tanto devido à inação e inércia da classe política (a brasileira, em especial, perdida entre picuinhas inúteis e migalhas de orçamento). Não se trata de uma discussão simples, porém, haja vista o fato de que o próprio objeto é amplo, difuso e se encontra muito bem entranhado nos mais diversos processos relacionais das sociedades contemporâneas. De tudo que a discussão evoca, o debate sobre limites para as redes sociais virtuais, como Facebook, Instagram, TikTok e outros, é um dos que mais incita reações acaloradas.

Afinal, esses ambientes se integraram nos jeitos como a maior parte das pessoas estabelece relações, quer amizades, relacionamentos amorosos ou mesmo laços familiares. O contato humano hoje é cada vez mais intermediado por aplicativos e sites de relacionamento. Primeiras aproximações, conversas descontraídas, desabafos, quando se pretende espraiar opiniões e posicionamentos, adesões e desagravos, ou mesmo contatos profissionais, comerciais e oficiais, quase tudo circula ali. Algumas gerações nasceram e cresceram se informando, alcançando seus círculos íntimos e o mundo, sonhando em espaços virtuais oferecidos por plataformas de comunicação online. Até mesmo autoridades governamentais informam e alcançam seus públicos-alvo nessas redes.

A questão é que as redes sociais virtuais não são espaços públicos, e sim estruturas privadas com fins lucrativos. As organizações mantenedoras e proprietários se concentram em poucos países, exercem manejo do fluxo de informações por meio de regras e procedimentos secretos — os ditos algoritmos —, protegidos por leis de propriedade intelectual fortes e constrangedoras, mas agraciados com premissas de responsabilização incipientes, quando não ausentes. Ademais, suas estruturas de gestão e organização emergem de contextos sócio-históricos muito particulares, eminentemente machistas, brancos, competitivos, ocidentalizados, dentro uma cultura de trabalho exaustivo, que se enxerga superior e naturalmente herdeira dos confortos da modernidade e dos privilégios que (muito) dinheiro pode comprar.

Não por acaso, essas organizações manuseiam abertamente a maneira por meio da qual a informação circula, é apresentada ou oculta, em sistemas de curadoria cujas premissas foram elaboradas para não serem conhecidas. As relações humanas, que dantes eram travadas face-a-face, ou no máximo, como bem explica Karl Marx, por intermédio de mercadorias que viajavam o mundo nos porões de navios, amálgamas de trabalho abstrato que eram, agora tornaram-se elas mesmas mercadorias. Abriram a barriga da galinha dos ovos de ouro e, pasmem, o animal aparentemente não morreu (ainda). Dali, extraem-se dados de comportamento, preferências, aspirações, opiniões que, depois, são comercializadas para esforço publicitário, manipulação emocional e influência política.

Nesse sentido, substituíram as relações entre pessoas por relações entre mercadorias (Marx, de novo), para depois oferecerem como mercadoria um cardápio de simulacros de relação. A verdadeira conexão que se trava nas redes não é com a lista de contatos, mas com a máquina, com um algoritmo que dita fluxo, velocidade, conteúdo, recorrência e, claro, produtos associados ao perfil. Alguns pelos quais se paga em dinheiro, esses são os mais honestos, requerem que você siga um link e faça uma transação comercial simples. Muitos produtos, porém, retribui-se com pedaços de si em tamanho e proporção desconhecidos, suas convicções, opiniões, voz, atenção, sorriso, emoções entregues em troca de muito pouco, tempo de vida cujo valor é incalculável, mas são consumidos ali mesmo, sem muita cerimônia.

A fábrica da rede social virtual está na cabeça das pessoas; é onde a mágica da transformação ocorre.

Tudo isso se dá às expensas de riscos individuais e coletivos os quais ainda não se pode precisar. Em última instância, o elemento fundamental que constitui a própria individualidade é o relacionamento com outros. Na fricção diária de interesses, desejos, demandas e comprometimentos, cada pessoa forja as dimensões de seu próprio ser, tornando-se quem é a medida em que se percebe no outro. No trabalho, na família, em grupos sociais diversos, oficiais e informais, apreende-se como viver em sociedade, mas mais importante, descobre-se os limites entre as pessoas, as diferenças, as convergências. Na medida em que essas relações passam a ser em grande parte mediadas por aplicativos, coloca-se em risco os mecanismos milenares que produziram as sociedades e as próprias pessoas enquanto indivíduos.

Uma rede social talvez conecte pessoas à distância, gerações diferentes, tribos urbanas diversas, talvez cujos contatos fossem difíceis, impossíveis noutros tempos; nisso há um ganho. Mas, à medida em que essa conexão deixa de ser espontânea e passa por uma curadoria, por um algoritmo que seleciona o que é visto, como é visto, em que contexto, ao mesmo tempo que insere informações e conteúdos artificiais como se parte daqueles contextos, cria-se um ruído que distorce as próprias relações. Esse ruído, que, vamos admitir, não é meramente residual, mas sim quase como um trio elétrico de cacofonia no meio da sala, interfere nos delicados processos de socialização e individuação de maneiras ainda não muito bem compreendidas. 

O ruído comunicacional da rede tem o potencial de modelar como a pessoa enxerga seu corpo em comparação a corpos ideais, muitos produzidos por inteligência artificial. Introduz temas e preocupações que não apareceriam naturalmente, mas que capturam atenção e engajamento. Manipulam o sentido da opinião, ao mesmo tempo reforçando posições ao criar bolhas, mas também por meio de inserções, algumas sutis outras nem tanto, patrocinadas por empresas, grupos políticos e mesmo criminosos. Isso tudo somado aos filtros performáticos, decorrentes de como as pessoas se comportam na rede, tais quais atores que, em buscam de atenção, validação ou respeito, procuram representar uma versão idealizada, artificial, imagética, de si mesmos.

Esse conjunto de processos contribui para que a qualidade das relações mediadas pela rede se deprima em variedade e profundidade. E como cada vez mais as redes sociais virtuais ocupam tempo de vida real, as relações de proximidade significativa perdem tração em relação às conexões ruidosas e inautênticas online. O resultado disso pode ser visto no recrudescimento de condições como ansiedade, depressão, síndrome de pânico ou distúrbios alimentares, num plano individual. Mas também coletivamente, no crescimento de religiões predatórias, ressurgimento dos diferentes matizes de fascismo como força política, nos movimentos ultra-machistas e misóginos como o tal red pill (nunca perdoarei a subversão abjeta que fizeram de um símbolo tão interessante da contracultura) e outras pastiches disfuncionais que ganharam voz e alcance graças as redes sociais digitais.

Não sejamos fatalistas, porém. É justo supor que as sociedades humanas são mais resilientes do que pode parecer a um olhar muito recortado. Afinal, ao longo dos milênios enfrentamos desafios mais físicos e contundentes, doenças, extinções, eras glaciais, guerras… e sobrevivemos.  No entanto, também é lícito assumir que as adaptações necessárias para superar esse revés podem contribuir para atrasar, senão paralisar, o lento e tortuoso caminhar civilizatório da humanidade. A opinião aqui defendida é que os benefícios do (dês)controle privado da internet, das novas tecnologias de informação e comunicação (NITCs) como um todo, das redes sociais virtuais em particular, não compensam os riscos. Sobretudo porque as redes funcionam como um agente duplo de um mundo distorcido, produto da modernidade e ferramenta para amplificação de irracionalidade, ódio, relações tóxicas e violência.

É preciso refletir sobre, advogar em favor, agir para uma maior regulação das redes sociais virtuais, dos grandes conglomerados de tecnologia (Big Techs), da inteligência artificial, enfim, de todo esse dispositivo de informação e vivência digital que emerge a partir do terceiro quartil do século XX e hoje domina o planeta. Seja na forma de limites individuais, restrições a exploração comercial privada desses setores, ou mesmo visando o controle do uso interessado por parte de organizações totalitárias e autoritárias, como igrejas, sindicatos patronais, movimentos sociais tóxicos e mesmo alguns estados nacionais, é preciso fazer algo mais que assistir a tudo passivamente. O que está em jogo é muito precioso: a arbítrio das sociedades humanas sobre si mesmas.