É impressionante como tantos já viram THE SOCIAL DILEMMA, o filme da NETFLIX sobre redes sociais e seus impactos nas pessoas, grupos, famílias e na sociedade em geral. Mas é bom levar em conta que o problema das redes sociais não cabe num filme[1] e que propaganda, bullying e desinformação são problemas bem mais complicados que o filme mostra[2]. As redes sociais e seus algoritmos de recomendação não estão isentas da responsabilidade por alguns dos ambientes mais ácidos que há na internet. Mas não podem ser confundidas com a REDE e, em parte, é o que o filme faz[3], de certa forma desinformando e, aí, sofrendo do mesmo problema das redes.
As redes sociais que usamos no ocidente [Facebook, Instagram, YouTube…] são uma criação de um certo tipo de investimento de risco, aliado a uma visão de mundo onde poucas grandes empresas vencem a disputa pelo mundo em rede e não sobra nada para ninguém. De muitas formas, o capital criou e encontrou o trabalho para tal[4], dentro e fora das empresas: empreendedores, colaboradores e influenciadores criaram um universo, ao redor da atenção digital, que tem pouca relação com qualquer coisa que existia antes das redes.
Remover Facebook do smartphone e apagar contas nas redes sociais não é solução e não acontecerá em escala [dito isto, abandonei Facebook há tempos]. O que precisamos tratar é o conjunto de problemas associados à isenção, transparência e responsabilização de algoritmos e da regulação de certos mercados em rede, e disso pouca gente fala -ou quer falar.
Há uma questão essencial sobre algoritmos de recomendação em redes sociais e outras plataformas digitais: há, neles, papel editorial, escolhendo o que se lê, vê, consome? Se esse é o caso, a plataforma digital em questão deve ser tratada com as mesmas regras de sistemas editoriais como jornais e TV[5]. Em Facebook, este é o caso e não há como -ao contrário de Twitter- o usuário fazer com que não seja.
Para resolver pelo menos uma parte dos problemas apontados no filme, seria necessário discutir uma ética para mediação de qualquer coisa, inclusive interações humanas em redes sociais. Claro que isso não pode ser só uma lista de regras, muito menos para que seja útil como base para uma necessária engenharia de ALGORITMOS, que estão se tornando a BASE dos processos de tomada de decisão em sociedades da informação[6]. O espectro de preocupações aí envolvido é muito mais amplo do que o apresentado no filme, que por sinal, nos é trazido por uma plataforma de mídia digital que usa… e depende de algoritmos de recomendação para ordenar as ofertas de conteúdo aos seus usuários.
Esta mesma classe de algoritmos que recomenda filmes está tomando outras e bem mais graves e profundas decisões sobre as pessoas. No judiciário, por exemplo, decidindo qual é o risco que um cidadão representa[7]. Será que é justo? Depende, de muita coisa, inclusive do sistema social onde ocorre. Mas uma coisa é certa: sem nenhuma transparência que dê ao processo uma razoável possibilidade de ser explicado e sem qualquer mecanismo de responsabilização de algoritmos, não é justo[8], nem está certo.
Estamos vivendo apenas o início de uma era onde código -executável, não o impresso em livros, nas bibliotecas- define contextos, escolhe opções, modifica comportamentos e cria problemas que eram ficção até poucos anos. Seria muito bom se aprendêssemos, com os casos que já temos, a refletir sobre o futuro da sociedade da informação e seus regramentos, sem a pressa e falta de cuidado que vimos, recentemente, na discussão sobre a Lei das “fakenews” no Congresso Nacional. Esta, sim, uma ocasião que um bom algoritmo de recomendação, lá do futuro, não mostrará a ninguém que queira aprender como leis deveriam ser discutidas.
REFERÊNCIAS
[1] A Whistleblower Says Facebook Ignored Global Political Manipulation, BuzzFeed, SET/2020, bit.ly/3ciQ3bW.
[2] Telling people to delete Facebook won’t fix the internet, The Verge, SET/2020, bit.ly/2FSad04.
[3] What ‘The Social Dilemma’ misunderstands about social networks, The Verge, SET/2020, bit.ly/3kyTttN.
[4] The Stanford alum behind Netflix’s “The Social Dilemma” wants you to stop scrolling, THE SIX FIFTY, SET/2020, bit.ly/2FUi0KY.
[5] Radical ideas spread through social media. Are the algorithms to blame? NOVA PBS, MAR/2020, to.pbs.org/3mPeJ0z.
[6] The Ethics of Algorithms: Mapping the Debate. Mittelstadt, BD, et al., CSEeJ, 2016, bit.ly/2D0R9It.
[7] Report on Algorithmic Risk Assessment Tools in the U.S. Criminal Justice System, PAI, 2020: bit.ly/3clbdGa.
[8] An Algorithm That Grants Freedom, or Takes It Away, NYT, FEV/2020, nyti.ms/2vbVE25.
Uma versão editada deste texto foi publicada no ESTADÃO em 23/09/20.
