por Silvio Meira

As Três Leis da Era Digital

A

Há setenta e oito anos, Isaac Asimov publicava a primeira versão do que todos conhecem como as Três Leis da Robótica[1]. A Primeira diz que “Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal”; A segunda reza que “Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei” e a Terceira estabelece que “Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis”.

Parece que ainda não chegamos perto do ponto onde há robôs capazes o suficiente para que as Leis sejam necessárias, apesar de haver sinais de que os primeiros robôs que podem, deliberadamente ferir [e aniquilar] humanos estão sendo oferecidos no mercado[2].

Mas há todo um contexto digital ao nosso redor, sendo estabelecido há mais de cinquenta anos, e talvez -certamente- já seja necessário estabelecer um conjunto básico de Leis para a Infosfera, porque quase tudo o que fazemos depende, de múltiplas formas, de dados e algoritmos e seu uso, na prática, para decidir até -em muitas situações- o que podemos fazer ou não.

Muitas nações estão a escrever e aprovar Leis, qual uma enxurrada de instrumentos que deveria governar o que, em última análise, algoritmos fazem -ou deixam fazer. Os resultados até agora são duvidosos, por falta de princípios fundamentais para guiar ações legislativas que deveriam tratar, ao mesmo tempo, o passado e o futuro. As tecnologias digitais, suporte da informaticidade global, são “de transição”, como foi a eletricidade. Uma vez passando a depender de uma plataforma de transição, não voltamos atrás, passamos a ter suas vantagens e toda uma nova classe de problemas que a sua chegada e permanência criam. Mas há uma diferença fundamental entre informaticidade e eletricidade: a primeira é programável, por muitos milhões de pessoas, e está mudando o tempo todo. Como se não bastasse, as funções que executa -para todos nós- dependem de dados, e muitos, de muita gente, ao mesmo tempo e por muito tempo.

Talvez precisemos de um pequeno conjunto de princípios básicos -que é o que as Leis de Asimov são, para a robótica- para tratar -a nosso favor, e para o presente e o futuro- a Era Digital. E tais princípios deveriam ser tão simples quanto fosse possível, e nem um pouco mais simples do que isso, mesmo que haja, e haverá, imenso debate sobre porque os princípios são esses, tão poucos, e tão simples.

Uma proposta para as Três Leis da Era Digital, que dão conta de tudo o que está acontecendo agora, já aconteceu até aqui e acontecerá daqui para a frente -assim como eram os princípios de Asimov…- é:

Primeira Lei: Deve-se proteger os DADOS das PESSOAS[3];

Segunda Lei: Deve-se proteger as PESSOAS dos ALGORITMOS[4];

Terceira Lei: Deve-se garantir que que a Primeira e Segunda Leis sejam bases para o FUTURO e não caminhos para o PASSADO[5].

Sem um conjunto bem pequeno e de certa forma simples de muita gente entender, fora do discurso jurídico que permeia tudo o que se escreve sobre como regular o futuro de uma sociedade digital, será muito difícil escrever as próprias normas jurídicas desse futuro, que já não é mais opcional, mas certo. Ou incerto, no que tange a suas leis e regras…

 

***********************

Uma versão editada deste texto foi publicada no ESTADÃO em 20/11/19.

 


[1] RUNAROUND, in ASTOUNDING Science Fiction, 03/1942: LUMINIST ARCHIVES, JAN/1930-MAY/1960, bit.ly/2pVyD0E.

[2] SecDef: China Is Exporting Killer Robots to the Mideast; Defense One, NOV/2019: bit.ly/2OreR5Z.

[3] Com instrumentos legais como GDPR, na Europa, e LGPD, no Brasil: pwc.to/2NEC1X8.

[4] Com instrumentos legais como A3, em tramitação nos Estados Unidos: bit.ly/36XwJxC.

[5] Porque é muito complexo regular o presente e o futuro ao mesmo tempo: bit.ly/36YD6Rl.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Sobre o autor

Silvio Meira

silvio meira é cientista-chefe da TDS.company, professor extraordinário da CESAR.school e presidente do conselho do portodigital.org

por Silvio Meira
por Silvio Meira

Pela Rede

silvio meira é PROFESSOR EXTRAORDINÁRIO da cesar.school, PROFESSOR EMÉRITO do CENTRO DE INFORMÁTICA da UFPE, RECIFE e CIENTISTA-CHEFE, The Digital Strategy Company. é fundador e presidente do conselho de administração do PORTO DIGITAL. silvio é professor titular aposentado do centro de informática da ufpe, fundou [em 1996] e foi cientista-chefe do C.E.S.A.R, centro de estudos e sistemas avançados do recife até 2014. foi fellow e faculty associate do berkman center, harvard university, de 2012 a 2015 e professor associado da escola de direito da FGV-RIO, de 2014 a 2017.

Silvio no Twitter

Arquivo