por Silvio Meira

São Muitos Dilemas, Sociais, Mas Não Só

S

É impressionante como tantos já viram THE SOCIAL DILEMMA, o filme da NETFLIX sobre redes sociais e seus impactos nas pessoas, grupos, famílias e na sociedade em geral. Mas é bom levar em conta que o problema das redes sociais não cabe num filme[1] e que propaganda, bullying e desinformação são problemas bem mais complicados que o filme mostra[2]. As redes sociais e seus algoritmos de recomendação não estão isentas da responsabilidade por alguns dos ambientes mais ácidos que há na internet. Mas não podem ser confundidas com a REDE e, em parte, é o que o filme faz[3], de certa forma desinformando e, aí, sofrendo do mesmo problema das redes.

As redes sociais que usamos no ocidente [Facebook, Instagram, YouTube…] são uma criação de um certo tipo de investimento de risco, aliado a uma visão de mundo onde poucas grandes empresas vencem a disputa pelo mundo em rede e não sobra nada para ninguém. De muitas formas, o capital criou e encontrou o trabalho para tal[4], dentro e fora das empresas: empreendedores, colaboradores e influenciadores criaram um universo, ao redor da atenção digital, que tem pouca relação com qualquer coisa que existia antes das redes.

Remover Facebook do smartphone e apagar contas nas redes sociais não é solução e não acontecerá em escala [dito isto, abandonei Facebook há tempos]. O que precisamos tratar é o conjunto de problemas associados à isenção, transparência e responsabilização de algoritmos e da regulação de certos mercados em rede, e disso pouca gente fala -ou quer falar.

Há uma questão essencial sobre algoritmos de recomendação em redes sociais e outras plataformas digitais: há, neles, papel editorial, escolhendo o que se lê, vê, consome? Se esse é o caso, a plataforma digital em questão deve ser tratada com as mesmas regras de sistemas editoriais como jornais e TV[5]. Em Facebook, este é o caso e não há como -ao contrário de Twitter- o usuário fazer com que não seja.

Para resolver pelo menos uma parte dos problemas apontados no filme, seria necessário discutir uma ética para mediação de qualquer coisa, inclusive interações humanas em redes sociais. Claro que isso não pode ser só uma lista de regras, muito menos para que seja útil como base para uma necessária engenharia de ALGORITMOS, que estão se tornando a BASE dos processos de tomada de decisão em sociedades da informação[6]. O espectro de preocupações aí envolvido é muito mais amplo do que o apresentado no filme, que por sinal, nos é trazido por uma plataforma de mídia digital que usa… e depende de algoritmos de recomendação para ordenar as ofertas de conteúdo aos seus usuários.

Esta mesma classe de algoritmos que recomenda filmes está tomando outras e bem mais graves e profundas decisões sobre as pessoas. No judiciário, por exemplo, decidindo qual é o risco que um cidadão representa[7]. Será que é justo? Depende, de muita coisa, inclusive do sistema social onde ocorre. Mas uma coisa é certa: sem nenhuma transparência que dê ao processo uma razoável possibilidade de ser explicado e sem qualquer mecanismo de responsabilização de algoritmos, não é justo[8], nem está certo.

Estamos vivendo apenas o início de uma era onde código -executável, não o impresso em livros, nas bibliotecas- define contextos, escolhe opções, modifica comportamentos e cria problemas que eram ficção até poucos anos. Seria muito bom se aprendêssemos, com os casos que já temos, a refletir sobre o futuro da sociedade da informação e seus regramentos, sem a pressa e falta de cuidado que vimos, recentemente, na discussão sobre a Lei das “fakenews” no Congresso Nacional. Esta, sim, uma ocasião que um bom algoritmo de recomendação, lá do futuro, não mostrará a ninguém que queira aprender como leis deveriam ser discutidas.

REFERÊNCIAS

[1] A Whistleblower Says Facebook Ignored Global Political Manipulation, BuzzFeed, SET/2020, bit.ly/3ciQ3bW.

[2] Telling people to delete Facebook won’t fix the internet, The Verge, SET/2020, bit.ly/2FSad04.

[3] What ‘The Social Dilemma’ misunderstands about social networks, The Verge, SET/2020, bit.ly/3kyTttN.

[4] The Stanford alum behind Netflix’s “The Social Dilemma” wants you to stop scrolling, THE SIX FIFTY, SET/2020, bit.ly/2FUi0KY.

[5] Radical ideas spread through social media. Are the algorithms to blame? NOVA PBS, MAR/2020, to.pbs.org/3mPeJ0z.

[6] The Ethics of Algorithms: Mapping the Debate. Mittelstadt, BD, et al., CSEeJ, 2016, bit.ly/2D0R9It.

[7] Report on Algorithmic Risk Assessment Tools in the U.S. Criminal Justice System, PAI, 2020: bit.ly/3clbdGa.

[8] An Algorithm That Grants Freedom, or Takes It Away, NYT, FEV/2020, nyti.ms/2vbVE25.


Uma versão editada deste texto foi publicada no ESTADÃO em 23/09/20.

Sobre o autor

Silvio Meira

silvio meira é cientista-chefe da TDS.company, professor extraordinário da CESAR.school e presidente do conselho do portodigital.org

1 comentário

  • Excelente texto e referências. Começamos a ver a ponta do Iceberg. Esse tipo de debate é imprescindível para garantir a sustentabilidade e a sanidade da sociedade na era da informação. Obrigado pelo texto.

por Silvio Meira
por Silvio Meira

Pela Rede

silvio meira é PROFESSOR EXTRAORDINÁRIO da cesar.school, PROFESSOR EMÉRITO do CENTRO DE INFORMÁTICA da UFPE, RECIFE e CIENTISTA-CHEFE, The Digital Strategy Company. é fundador e presidente do conselho de administração do PORTO DIGITAL. silvio é professor titular aposentado do centro de informática da ufpe, fundou [em 1996] e foi cientista-chefe do C.E.S.A.R, centro de estudos e sistemas avançados do recife até 2014. foi fellow e faculty associate do berkman center, harvard university, de 2012 a 2015 e professor associado da escola de direito da FGV-RIO, de 2014 a 2017.

Silvio no Twitter

Arquivo