SILVIO MEIRA

As Três Leis da Era Digital

Há setenta e oito anos, Isaac Asimov publicava a primeira versão do que todos conhecem como as Três Leis da Robótica[1]. A Primeira diz que “Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal”; A segunda reza que “Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei” e a Terceira estabelece que “Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis”.

Parece que ainda não chegamos perto do ponto onde há robôs capazes o suficiente para que as Leis sejam necessárias, apesar de haver sinais de que os primeiros robôs que podem, deliberadamente ferir [e aniquilar] humanos estão sendo oferecidos no mercado[2].

Mas há todo um contexto digital ao nosso redor, sendo estabelecido há mais de cinquenta anos, e talvez -certamente- já seja necessário estabelecer um conjunto básico de Leis para a Infosfera, porque quase tudo o que fazemos depende, de múltiplas formas, de dados e algoritmos e seu uso, na prática, para decidir até -em muitas situações- o que podemos fazer ou não.

Muitas nações estão a escrever e aprovar Leis, qual uma enxurrada de instrumentos que deveria governar o que, em última análise, algoritmos fazem -ou deixam fazer. Os resultados até agora são duvidosos, por falta de princípios fundamentais para guiar ações legislativas que deveriam tratar, ao mesmo tempo, o passado e o futuro. As tecnologias digitais, suporte da informaticidade global, são “de transição”, como foi a eletricidade. Uma vez passando a depender de uma plataforma de transição, não voltamos atrás, passamos a ter suas vantagens e toda uma nova classe de problemas que a sua chegada e permanência criam. Mas há uma diferença fundamental entre informaticidade e eletricidade: a primeira é programável, por muitos milhões de pessoas, e está mudando o tempo todo. Como se não bastasse, as funções que executa -para todos nós- dependem de dados, e muitos, de muita gente, ao mesmo tempo e por muito tempo.

Talvez precisemos de um pequeno conjunto de princípios básicos -que é o que as Leis de Asimov são, para a robótica- para tratar -a nosso favor, e para o presente e o futuro- a Era Digital. E tais princípios deveriam ser tão simples quanto fosse possível, e nem um pouco mais simples do que isso, mesmo que haja, e haverá, imenso debate sobre porque os princípios são esses, tão poucos, e tão simples.

Uma proposta para as Três Leis da Era Digital, que dão conta de tudo o que está acontecendo agora, já aconteceu até aqui e acontecerá daqui para a frente -assim como eram os princípios de Asimov…- é:

Primeira Lei: Deve-se proteger os DADOS das PESSOAS[3];

Segunda Lei: Deve-se proteger as PESSOAS dos ALGORITMOS[4];

Terceira Lei: Deve-se garantir que que a Primeira e Segunda Leis sejam bases para o FUTURO e não caminhos para o PASSADO[5].

Sem um conjunto bem pequeno e de certa forma simples de muita gente entender, fora do discurso jurídico que permeia tudo o que se escreve sobre como regular o futuro de uma sociedade digital, será muito difícil escrever as próprias normas jurídicas desse futuro, que já não é mais opcional, mas certo. Ou incerto, no que tange a suas leis e regras…

 

***********************

Uma versão editada deste texto foi publicada no ESTADÃO em 20/11/19.

 


[1] RUNAROUND, in ASTOUNDING Science Fiction, 03/1942: LUMINIST ARCHIVES, JAN/1930-MAY/1960, bit.ly/2pVyD0E.

[2] SecDef: China Is Exporting Killer Robots to the Mideast; Defense One, NOV/2019: bit.ly/2OreR5Z.

[3] Com instrumentos legais como GDPR, na Europa, e LGPD, no Brasil: pwc.to/2NEC1X8.

[4] Com instrumentos legais como A3, em tramitação nos Estados Unidos: bit.ly/36XwJxC.

[5] Porque é muito complexo regular o presente e o futuro ao mesmo tempo: bit.ly/36YD6Rl.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Outros posts

APRENDER EM VELOCIDADE DE CRISE

TODOS OS NEGÓCIOS estiveram sob gigantesca pressão para fazer DUAS COISAS nas últimas semanas, quando cinco décadas de um processo de transformação digital que vinha,

Efeitos de Rede e Ecossistemas Figitais [ix]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

o voo, decifrado?

uma das cenas mais intrigantes de blade runner, um dos maiores clássicos da ficção científica, é o "vôo da coruja". a coruja, claro, é um

livros? 129.864.880

em tempos de festa literária, a companhia determinada a “organizar” nada menos que “toda” a informação do mundo aparece com um número inusitado: cento e

flusser: o mundo codificado

quem primeiro me falou de vilém flusser foi h. d. mabuse, grande amigo, diretor de arte do c.e.s.a.r e uma das cabeças mais inquietas que

Silvio Meira é cientista-chefe da TDS.company, professor extraordinário da CESAR.school e presidente do conselho do PortoDigital.org

contato@tds.company

Rua da Guia, 217, Porto Digital Recife.

tds.company
somos um negócio de levar negócios para o futuro, nosso objetivo é apoiar a transformação de negócios nascentes e legados nas jornadas de transição entre o presente analógico e o futuro digital.

strateegia
é uma plataforma colaborativa de estratégia digital para adaptação, evolução e transformação de negócios analógicos em plataformas e ecossistemas digitais, desenvolvido ao longo de mais de uma década de experiência no mercado e muitas na academia.