SILVIO MEIRA

robôs [2]: máquinas –autônomas- de guerra?

asilomar, califórnia, fevereiro de 2009: um seminário de alto nível, reunindo alguns dos principais especialistas em inteligência artificial do planeta, discute se deveríamos impor limites às pesquisas que podem levar à perda de controle humano sobre sistemas computacionais autônomos. estamos falando de sistemas que começam a realizar um conjunto cada vez maior de funções que nos acostumamos a pensar privativas de pessoas como nós, tipo conversar ao telefone, dirigir veículos, realizar funções sofisticadas como acompanhante, assistente ou secretária e… ir à guerra.

neste último quesito, o grupo de asilomar concluiu querobots that can kill autonomously are either already here or will be soon: já existem ou existirão, muito em breve, robôs que capazes matar de forma autônoma. isso significa, em português bem claro, máquinas capazes de selecionar um alvo que atenda seus objetivos [supostamente definidos por humanos] e eliminá-lo, sem que para isso seja preciso intervenção humana.

no fim de 2007, o departamento de defesa dos estados unidos publicou um documento [Unmanned Systems Roadmap: 2007-2032] que define a estratégia americana para “guerra sem gente”, que não é pura e simples aventura dos generais no campo de tecnologia. a lei 106-398, aprovada pelo congresso em 2001, define na seção 220 que, a partir de 2010, um terço das aeronaves em operações “deep strike” [sem cobertura, em território hostil] sejam não tripuladas e, para 2015, determina que um terço de todos os veículos de combate terrestre sejam não tripulados.

em 2007, uma nova lei [a 109-364] passou a exigir [na seção 941.2] que os comandantes militares, ao contratar o desenvolvimento de um sistema tripulado, se certifiquem que as demandas do programa correspondente não podem ser atingidas por sistemas não tripulados. o plano de longo prazo para sistemas militares não tripulados é uma exigência legal que, talvez nos EUA mais do que por aqui, mandada pelo legislativo, deve ser cumprida pelo executivo.

algum problema nisso? o “roadmap” original e sua revisão, de 2009 [cuja capa você vê na figura abaixo] não mencionam a palavra ética uma vez sequer. mas, você diria, guerra tem ética? tem sim. a guerra tem leis e regras de engajamento, e deixar de cumpri-las torna os marginais criminosos de guerra, como foi o caso de slobodan milošević.

image

um estudo da calPoly [Autonomous Military Robotics: Risk, Ethics, and Design], preparado para a marinha americana, começa…

Imagine the face of warfare with autonomous robotics: Instead of our soldiers returning home in flag‐draped caskets to heartbroken families, autonomous robots—mobile machines that can make decisions, such as to fire upon a target, without human intervention—can replace the human soldier in an increasing range of dangerous missions: from tunneling through dark caves in search of terrorists, to securing urban streets rife with sniper fire, to patrolling the skies and waterways where there is little cover from attacks, to clearing roads and seas of improvised explosive devices (IEDs), to surveying damage from biochemical weapons, to guarding borders and buildings, to controlling potentially‐hostile crowds, and even as the infantry frontlines.

…criando um cenário de guerra cada vez mais sem seres humanos e, em parte, sem intervenção humana em sua condução. um pouco mais na frente, o relatório alerta para os problemas embutidos no cenário…

Technology, however, is a double‐edge sword with both benefits and risks, critics and advocates; and autonomous military robotics is no exception, no matter how compelling the case may be to pursue such research. The worries include: where responsibility would fall in cases of unintended or unlawful harm, which could range from the manufacturer to the field commander to even the machine itself; the possibility of serious malfunction and robots gone wild; capturing and hacking of military robots that are then unleashed against us; lowering the threshold for entering conflicts and wars, since fewer US military lives would then be at stake; the effect of such robots on squad cohesion, e.g., if robots recorded and reported back the soldier’s every action; refusing an otherwise‐legitimate order; and other possible harms.

…incluindo responsabilidades das partes envolvidas [inclusive as das máquinas, claro], captura e hacking de robôs, possivelmente convertidos em inimigos de seus donos originais, o efeito de robôs em grupos de batalha mistos [humanos e máquinas] e a maior “facilidade” de entrar em guerra, devido ao menor número de vidas [e risco, inclusive político] envolvido.

o estudo da calPoly não é mero exercício acadêmico. as máquinas estão indo à guerra: não estamos discutindo se deveríamos usar robôs em conflitos, qual santos dumont refletindo sobre usos militares de uma de suas invenções. precisamos discutir e avaliar, rápida e profundamente, quais são as consequências dos sistemas autônomos e robôs na guerra, realidade que nos afeta agora.

o orçamento americano para sistemas de defesa “não tripulados” é de pelo menos US$20B para o período 2009-2013. os americanos têm centenas de UAV e milhares de outras máquinas de todos os tipos. mas, se o orçamento americano é, disparado, o maior do mundo para tais sistemas, estima-se que outros quarenta países e organizações [como o hezbollah, há anos] tenham acesso, hoje, a UAVs, veículos aéreos de ataque não tripulados como os que mostramos no primeiro texto da série.

ao contrário de artefatos nucleares, de dificílima obtenção e alvo de severa fiscalização e controle, sistemas autônomos e inteligentes podem ser construídos e programados por muita gente, em qualquer lugar e para quase qualquer tipo de situação. o conhecimento correspondente está publicado em livros, jornais e revistas, existe em muito larga escala na internet e os sub-sistemas e componentes necessários para construir um UAV de ataque podem ser adquiridos com facilidade. exagerando, é como construir um aeromodelo [muito] sofisticado. qualquer dia destes, pode esperar, vamos vê-los em ação no maior conflito urbano brasileiro, a guerra pelo controle do tráfico no rio de janeiro. e nas mãos de vários lados.

voltando a asilomar, e se máquinas capazes de matar estiverem mesmo soltas por aí… e não forem maluquices situadas em distopias datadas em um futuro remoto?… você já ouviu falar de um certo robô [fixo] de patrulha de fronteira da coréia do sul? o país gasta 120.000 homens-ano para patrulhar sua fronteira com a belicosa coréia do norte e a taxa de natalidade local está caindo. daí pra alguém pensar em automatizar o processo, foi um pulo. veja o vídeo abaixo.

 

pelo que se sabia, o robô seria produzido pela samsung e já deveria estar sendo usado na fronteira entre as coréias. mas, de repente, não se falou mais disso e a informação sobre o “produto” deixou de constar da página da subsidiária da samsung que, em tese, o produz. será que este é um daqueles sistemas que o grupo de asilomar diz que “já existe”?…

Outros posts

E AÍ… IA [II]

Trabalho, Emprego e IA   Há uma transformação profunda do trabalho e da produção, como parte da transformação figital dos mercados, da economia e da

EFEITOS DE REDE E ECOSSISTEMAS FIGITAIS [XV]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

E AÍ, IA… [I]

IA fará com que todos sejam iguais em sua capacidade de serem desiguais. É o maior paradoxo desde que Yogi Berra disse… ‘Ninguém mais vai

Efeitos de Rede e Ecossistemas Figitais [XII]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

Efeitos de Rede e Ecossistemas Figitais [xi]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

Efeitos de Rede e Ecossistemas Figitais [x]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

Efeitos de Rede e Ecossistemas Figitais [ix]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

Efeitos de Rede e Ecossistemas Figitais [vi]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

Efeitos de Rede e Ecossistemas Figitais [v]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

Efeitos de Rede e Ecossistemas Figitais [iv]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

chatGPT: cria ou destrói trabalho?

O potencial de relevância e impacto inovador de transformadores [veja A Grande Transformação dos Transformadores, em bit.ly/3iou4aO e ChatGPT is everywhere. Here’s where it came

A Grande Transformação dos Transformadores

Um transformador, na lembrança popular, era [ainda é] a série de filmes [Transformers, bit.ly/3Qp97cu] onde objetos inanimados, inconscientes e -só por acaso- alienígenas, que existiam

Começou o Governo. Cadê a Estratégia?

Estamos em 02/01/2023. Ontem foram as posses e os discursos. Hoje começam a trabalhar um novo Presidente da República, dezenas de ministros e ainda serão

23 anotações sobre 2023 [xxiii]

Este é o 23° de uma série de textos sobre o que pode acontecer, ou se tornar digno de nota, nos próximos meses e poucos

23 anotações sobre 2023 [xxii]

Este é o 22° de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [xxi]

Este é o 21° de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [xx]

Este é o 20° de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [xix]

Este é o 19° de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [xviii]

Este é o 18° de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [xvii]

Este é o 17° de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [xvi]

Este é o 16° de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [xv]

Este é o 15° de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [xiv]

Este é o décimo quarto de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se

23 anotações sobre 2023 [xiii]

Este é o décimo terceiro de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se

23 anotações sobre 2023 [xii]

Este é o décimo segundo de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se

23 anotações sobre 2023 [xi]

Este é o décimo primeiro de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se

23 anotações sobre 2023 [x]

Este é o décimo de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [ix]

Este é o nono de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [viii]

Este é o oitavo de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [vii]

Este é o sétimo de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [vi]

Este é o sexto de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [v]

Este é o quinto de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [iv]

Este é o quarto de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [iii]

Este é o terceiro de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [ii]

Este é o segundo de uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar

23 anotações sobre 2023 [i]

Esta é uma série de textos curtos, de uns poucos parágrafos e alguns links, sobre o que pode acontecer, ou se tornar digno de nota,

Efeitos de Rede e Ecossistemas Figitais [ii]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

Efeitos de Rede e Ecossistemas Figitais [i]

Uma série, aqui no blog [o primeiro texto está em… bit.ly/3zkj5EE, o segundo em bit.ly/3sWWI4E, o terceiro em bit.ly/3ycYbX6, o quarto em… bit.ly/3ycyDtd, o quinto

O Metaverso, Discado [4]

Este é o quarto post de uma série dedicada ao metaverso. É muito melhor começar lendo o primeiro [aqui: bit.ly/3yTWa3g], que tem um link pro

O Metaverso, Discado [3]

Este é o terceiro post de uma série dedicada ao metaverso. É muito melhor começar lendo o primeiro [aqui: bit.ly/3yTWa3g], que tem um link pro

O Metaverso, Discado [2]

Este é o segundo post de uma série dedicada ao metaverso. É muito melhor ler o primeiro [aqui: bit.ly/3yTWa3g] antes de começar a ler este aqui. Se puder, vá lá, e volte aqui.

O Metaverso, Discado [1]

O metaverso vai começar “discado”. E isso é bom. Porque significa que vai ser criado e acontecer paulatinamente. Não vai rolar um big bang vindo

chega de reuniões

um ESTUDO de 20 empresas dos setores automotivo, metalúrgico, elétrico, químico e embalagens mostra que comportamentos disfuncionais em REUNIÕES [como fugir do tema, reclamar, criticar…

Definindo “o” Metaverso

Imagine o FUTEBOL no METAVERSO: dois times, A e B, jogam nos SEUS estádios, com SUAS bolas e SUAS torcidas. As BOLAS, cada uma num

Rupturas, atuais e futuras,
no Ensino Superior

Comparando as faculdades com outras organizações na sociedade,percebe-se que sua peculiaridade mais notável não é seu produto,mas a extensão em que são operadas por amadores.

O que é Estratégia?

A primeira edição do Tractatus Logico-Philosophicus [TLP] foi publicada há exatos 100 anos, no Annalen der Naturphilosophie, Leipzig, em 1921. Foi o único livro de

O Brasil Tem Futuro?

Uma das fases mais perigosas e certamente mais danosas para analisar e|ou entender o nosso país é a de que “O Brasil é o país

Os Velhos Envelopes, Digitais

Acho que o último envelope que eu recebi e não era um boleto data da década de 1990, salvo uma ou outra exceção, de alguém

Houston, nós temos um problema…

Este texto é uma transcrição editada de uma intervenção no debate “De 1822 a 2022 passando por 1922 e imaginando 2122: o salto [?] da

Pessoas, Games, Gamers, Cavalos…

Cartas de Pokémon voltaram à moda na pandemia e os preços foram para a estratosfera. Uma Charizard holográfica, da primeira edição, vale dezenas de milhares

As Redes e os Currais Algorítmicos

Estudos ainda limitados[1] sobre política e sociedade mostram que a cisão entre centro [ou equilíbrio] e anarquia [ou caos] é tão relevante quanto a divisão

O Trabalho, em Transição

Trabalho e emprego globais estão sob grande impacto da pandemia e da transformação digital da economia, em que a primeira é o contexto indesejado que

O ano do Carnaval que não houve

Dois mil e vinte e um será, para sempre, o ano do Carnaval que não houve. Quem sentirá na alma são os brincantes para quem

Rede, Agentes Intermediários e Democracia

Imagine um provedor de infraestrutura e serviços de informação tomando a decisão de não trabalhar para “um cliente incapaz de identificar e remover conteúdo que

21 anotações sobre 2021

1 pode até aparecer, no seu calendário, que o ano que vem é 2021. mas não: é 2025. a aceleração causada por covid19, segundo múltiplas

A Humanidade, em Rede

Redes. Pessoas, do mundo inteiro, colaborando. Dados, de milhares de laboratórios, hospitais, centros de pesquisa e sistemas de saúde, online, abertos, analisados por sistemas escritos

tecnologia e[m] crises

tecnologia, no discurso e entendimento contemporâneo, é o mesmo que tecnologias da informação e comunicação, TICs. não deveria ser, até porque uma ponte de concreto

o que aconteceu
no TSE ontem?

PELA PRIMEIRA VEZ em muitos anos, o BRASIL teve a impressão de que alguma coisa poderia estar errada no seu processo eleitoral, e isso aconteceu

CRIAR um TEMPO
para o FUTURO

em tempos de troca de era, há uma clara percepção de que o tempo se torna mais escasso. porque além de tudo o que fazíamos

Duas Tendências Irreversíveis, Agora

O futuro não acontece de repente, todo de uma vez. O futuro é criado, paulatinamente, por sinais vindos de lá mesmo, do futuro, por caminhos

futuro: negócios e
pessoas, figitais

em tempos de grandes crises, o futuro, às vezes mais do que o presente, é o centro das preocupações das pessoas, famílias, grupos, empresas e

bom senso & saber

uma pergunta que já deve ter passado pela cabeça de muita gente é… o que é o bom senso, e como é que a gente

uma TESE são “só” 5 coisas…

…e uma dissertação e um trabalho de conclusão de curso, também. este post nasceu de um thread no meu twitter, sumarizando perguntas que, durante a

os novos NORMAIS serão FIGITAIS

há muitas empresas achando que… “agora que COVID19 está passando, bora esquecer essa coisa de DIGITAL e trazer os clientes de volta pras lojas”… enquanto

Novas Formas de Pensar em Tempos Incertos

O HOMO SAPIENS anatomicamente moderno tem ceca de 200.000 anos. Há provas de que tínhamos amplo controle do fogo -talvez “a” tecnologia fundadora da humanidade-

Efeitos não biológicos de COVID19

A PARTIR do que já sabemos, quais os impactos e efeitos de médio e longo prazo da pandemia?… O que dizem as pesquisas, não sobre

APRENDER EM VELOCIDADE DE CRISE

TODOS OS NEGÓCIOS estiveram sob gigantesca pressão para fazer DUAS COISAS nas últimas semanas, quando cinco décadas de um processo de transformação digital que vinha,

UM ANTIVÍRUS para a HUMANIDADE

SARS-COV-2 é só um dos milhares de coronavírus que a ciência estima existir, ínfima parte dos 1,7 milhões de vírus desconhecidos que os modelos matemáticos

Mundo Injusto, Algoritmos Justos?

Se um sistema afeta a vida das pessoas, exige-se que seu comportamento seja justo. Pelo menos no que costumamos chamar de civilização. Ser justo é

Das nuvens, também chovem dados

Há uns meses, falamos de Três Leis da Era Digital, inspiradas nos princípios de Asimov para a Robótica. As Leis eram… 1ª: Deve-se proteger os

As Três Leis da Era Digital

Há setenta e oito anos, Isaac Asimov publicava a primeira versão do que todos conhecem como as Três Leis da Robótica[1]. A Primeira diz que

o apocalipse digital…

…segundo silvio meira, capítulo 55, versículo 2019, parágrafos 1 a 8. escrito em plena sexta-feira 13, num dos grupos de inovação [corporativa] mais animados e

por uma educação
“sem” distância

Uma versão editada do texto abaixo foi publicada no ESTADÃO em 28/08/2019, quando ninguém tinha a menor ideia de que toda a educação do país

uma classe para o brasil

este texto tem origem numa discussão [em grupos de zap, que depois se tornaram mesas de bar…] sobre o protagonismo do brasil em um particular cenário

Silvio Meira é cientista-chefe da TDS.company, professor extraordinário da CESAR.school e presidente do conselho do PortoDigital.org

contato@tds.company

Rua da Guia, 217, Porto Digital Recife.

tds.company
somos um negócio de levar negócios para o futuro, nosso objetivo é apoiar a transformação de negócios nascentes e legados nas jornadas de transição entre o presente analógico e o futuro digital.

strateegia
é uma plataforma colaborativa de estratégia digital para adaptação, evolução e transformação de negócios analógicos em plataformas e ecossistemas digitais, desenvolvido ao longo de mais de uma década de experiência no mercado e muitas na academia.