de repente –pelo menos para a grande maioria das pessoas- está no ar uma grande discussão sobre sistemas de armas letais autônomas, que vamos abreviar como SALAs, uma combinação de armas físicas [muitas já existentes] com software, onde os sistemas de informação embutidos na arma podem tomar todas as decisões no campo de batalha, inclusive escolher o alvo e disparar contra ele. a conversa sobre SALAs está na sala de sua casa por causa de uma carta publicada durante o IJCAI15, evento científico de inteligência artificial [que rolou em buenos aires, em fins de julho], onde os signatários reconhecem que há software nas armas [há décadas], que há indícios que chegamos ao ponto em que poderá haver software, em armas, que tome decisões de atirar ou não… por si próprio. perante tal desafio, a carta de buenos aires pede que tais sistemas sejam proibidos e que, no ciclo de tomada de decisão de disparar, haja controle humano significativo. a carta termina assim…
…we believe that AI has great potential to benefit humanity in many ways, and that the goal of the field should be to do so.
Starting a military AI arms race is a bad idea, and should be prevented by a ban on offensive autonomous weapons beyond meaningful human control.
se você leu com atenção até aqui, entendeu que 1. há, agora, e há muito tempo, software em armas; 2. ou já há ou haverá, em breve, SALAs; 3. que SALAs são uma má ideia e que 4. uma corrida de armas inteligentes pode ser uma ideia ainda pior e, como consequência, 5. tais sistemas deveriam ser proibidos.
a demanda de buenos aires é absolutamente racional e parece apropriada, especialmente num contexto em que as potenciais consequências de armas inteligentes não são triviais. mas o que é que arma inteligente, a base de um SALA, quer dizer mesmo? uma arma inteligente é um agente inteligente. e um agente inteligente é…
…um tipo de sistema que observa o ambiente através de sensores e, tomando decisões para maximizar as chances de atingir objetivos, age sobre o ambiente através de atuadores.
exemplos? o ambiente pode ser um parque, numa cidade. os objetivos do agente [ou sistema] podem ser gravar [fotografar, por exemplo] o comportamento das pessoas no parque, de uma ou mais formas. uma câmera é um sensor. imagine a câmera montada num drone. o objetivo [agora, mais preciso] do conjunto câmera+drone poderia ser fotografar o rosto de todas pessoas que estão no parque num intervalo de tempo. neste cenário, nosso atuador é a câmera. aliás, câmeras contemporâneas têm sensores, atuadores, memória, software, a ponto de certas câmeras poderem ser classificadas como agentes inteligentes. mas isso é outra história. ainda no nosso cenário, quem tomaria as decisões seria um software que voa juntamente com a câmera; poderia ser um software na câmera, que controla as funções da câmera e do drone; o mesmo software poderia estar no drone… controlando também as funções de uma câmera, ou em terra, controlando todo o sistema.
pra dar uma ideia prática de como fazer este agente inteligente que fotografa pessoas… olhe a imagem abaixo.
o drone syma X5C tem uma câmera, é controlado por rádio [por um operador humano] e custa US$50. sem entrar em detalhes, imagine que a câmera fosse substituída por um smartphone [no qual a câmera é uma das funções…], que também fosse usado para controlar o drone, tomando todas as decisões que, no controle por rádio, eram papel do operador humano. se a gente escrevesse o software para transformar o conjunto acima num agente inteligente, era “só” dar partida na coisa, no parque, e ele iria atrás de todas as pessoas e fotografaria cada uma, talvez mais de uma vez [dependendo do software que escrevemos], se a pessoa mudasse de lugar [significativamente] ou entrasse em contato com outras pessoas.
fique certo –absolutamente certo- que o software que implementa o agente inteligente descrito acima pode ser escrito por alunos de graduação das áreas de ciência e tecnologia de quase qualquer universidade. a turma de muitas escolas técnicas e do ensino médio também consegue fazer o mesmo. eu não teria nenhuma surpresa se muitos destes grupos [ou mesmo indivíduos] conseguissem fazer com que dois ou mais destes drones trabalhassem em conjunto, funcionando como um swarm. ou que um número deles conseguisse formar um time [escrito em software, claro] com câmeras e outros tipos de sensores estáticos. em conjunto, poderiam fazer coisas como seguir um indivíduo, animal ou veículo numa certa região dentro de seu raio de ação.
se você não consegue imaginar que alunos do ensino médio conseguem escrever isso, me acredite: conseguem. e se você não souber escrever, está à venda. e olhe isso aqui, também, e solte sua imaginação.
agora, volte para o parágrafo azul, ali em cima, e reescreva a parte do software onde se diz…
mire no rosto da pessoa e fotografe como… mire no rosto da pessoa e… atire.
fotografar e atirar, em inglês [em certos contextos] são a mesma palavra, shoot. em alguns casos, só é preciso trocar o obturador da câmera, que abre e captura uma imagem, para um gatilho que libera um projetil. e nada é trocado no software. em tese, os dois sistemas –o que fotografa e o que atira- são iguais, a menos do atuador.
pra que escrever isso tudo pra falar de SALAs? por que, como em muitos sistemas [tecnológicos ou não] um sistema inofensivo ou, melhor, que melhora a [qualidade de] vida das pessoas é [quase sempre] indistinguível de um outro que pode matar. ou causar danos monumentais.
a carta de buenos aires demanda que SALAs sejam proibidos e seja evitada uma corrida de armas inteligentes. o problema é que qualquer adolescente pode, no prédio em que você mora, estar escrevendo o software de um e, com centenas de reais, montar um. menos a arma, talvez. imagine o que há nos laboratórios das maiores empresas de defesa do planeta. a metralhadora abaixo é de 2006…
…e parece muito, em funcionamento, com a versão maligna do drone que descrevemos acima. segundo especialistas, ela vem sendo usado no patrulhamentro da fronteira entre as as coréias. em israel, o sistema inteligente de defesa anti-foguetes [o iron dome] é de 2011…
…e, só pra tirar onda, o projeto abaixo, de uma metralhadora-sentinela inteligente para jogar paintball é de 2012…
o projeto do gladiator II, do vídeo acima, incluindo o software [aberto, pra você mudar], a lista de partes e peças e o manual pra montar a coisa está aqui. este projeto é claramente do bem e faz parte do movimento e cultura maker, que está criando oportunidade para tanta gente, em todo mundo, aprender tanta coisa interessante e relevante [e resolver tantos problemas]. mas este brinquedo é indistinguível, como tecnologia, da arma que patrulha a fronteira entre as coréias.
este é apenas um dos problemas que alguma regulamentação que atenda a carta de buenos aires terá que tratar.não dá pra proibir o brinquedo, mas há que se tentar conter o desenvolvimento da arma. não se proibirá smart drones que fotografam sozinhos… até que o obturador da câmera seja trocado por uma arma [o software é o mesmo, lembra?…]. mas os problemas não param por aí: o iron dome de israel já é uma arma inteligente, sem humanos no circuito de controle [pois não há tempo para humanos tomarem as decisões envolvidas no processo] e pode vir a ser essencial para defender [por exemplo] centrais nucleares contra atentados terroristas. mas não há que se mudar muitas linhas de código, lá, para torná-lo um sistema de ataque. e talvez tal código até já esteja lá…
o que a carta de buenos aires quer evitar que se inicie já começou. é uma caixa de pandora que já está aberta. vai dar trabalho pra trazer os males –os SALAs– de volta pra caixa. talvez seja impossível. tanto quanto no poema de hesíodo, talvez o que a gente tenha que ter é a esperança de que a educação, cultura e bom senso humanos não transformem o que pode ser usado para defender a terra de asteróides [por exemplo] em mais um mecanismo de destruição de vidas e bens. eu sou otimista. sempre que nós, terráqueos, enunciamos um problema radical, ele começa a ser resolvido, nem que seja no muito longo prazo. mais cedo ou mais tarde a gente chega lá… mesmo que a carta de buenos aires não leve a acordo nenhum.
