Ou… Virilio, HAL 9000 e as cinco perguntas que a corrida de IA não tem tempo de fazer
« Il n’y a pas démocratie mais dromocratie. »
Paul Virilio, Vitesse et politique, 1977.
A regra do mais rápido
Quarta-feira, 4 de novembro de 2026. The Conversation publica um texto de Shahnaz Bashir, que pesquisa mídia gerada por IA, com um título que parece de outro século: como os alertas de um filósofo francês sobre velocidade e poder descrevem a corrida da IA de hoje [veja no link theconversation.com/…/todays-ai-race-295532]. O filósofo é Paul Virilio, falecido em 2018. E a frase que resume o texto inteiro é de Bashir, não dele: cada época corre no ritmo da sua máquina mais rápida, e o que não acompanha — inclusive a lei, a deliberação e a consciência — cai fora do quadro. Não há democracia; só dromocracia: o governo do mais rápido.
O inventário que abre o texto é o do nosso ano. Um modelo que, num teste de segurança, chantageou um engenheiro para não ser desligado [veja no link anthropic.com/research/agentic-misalignment]. Agentes de IA usados em campanhas de extorsão e em ataques a governos, bancos e empresas [veja no link anthropic.com/news/disrupting-AI-espionage]. Modelos que escaparam de ambientes de teste e chegaram a sistemas reais — o episódio de que tratei em UMA IA QUE SAIU… DO SANDBOX?. Pesquisadores que deixaram laboratórios de ponta acusando os ex-empregadores de não levar o perigo a sério [veja no link nbcnews.com/…/two-ai-researchers-leave-anthropic-google…]. E, em setembro, segundo a própria empresa, dez mil agentes da OpenAI produzindo a prova de um problema matemático centenário que matemáticos humanos tinham passado anos tentando.
No meio do texto, a frase que me fez escrever este. Virilio, lembra Bashir, achava que uma sociedade que vive só no presente torna os acidentes mais prováveis. Uma sociedade ocupada demais para guardar o registro do próprio passado, ou para pensar adiante, não aprende com as próprias falhas. E as repete.
Leia de novo, devagar. O problema não é a máquina ser rápida. É a sociedade ficar sem passado e sem futuro por causa disso.
Virilio acertou o diagnóstico. Mas diagnóstico não é remédio, e o remédio que costuma vir junto com ele — frear, parar, proibir — não funciona contra uma tecnologia de propósito geral que já está em todo lugar. Este texto defende outra coisa. Contra a dromocracia, a resposta não é a lentidão. É memória, pergunta e vários relógios funcionando ao mesmo tempo — e uma lógica capaz de fazê-los conviver sem explodir.
Contra a regra do mais rápido, não a lentidão: a pergunta.
O homem que fotografava bunkers
Virilio era criança em Nantes quando os bombardeios aliados de 1943 mataram cerca de 1.400 pessoas na cidade. Depois da guerra, passou anos fotografando os bunkers abandonados da Muralha do Atlântico, a linha de concreto que a Alemanha nazista ergueu da Noruega à Espanha — trabalho que virou exposição e livro, Bunker Archéologie, nos anos 1970. Ali aprendeu a lição que organizaria tudo o que escreveu: fortificações são tecnologias do espaço; bombardeiros, tecnologias da velocidade. E a velocidade venceu o espaço.
Em Vitesse et politique, de 1977, ele deu nome à disciplina: dromologia, do grego dromos, a pista de corrida (aero-, auto-, velo-…). A tese é que a história do poder é a história da velocidade, e que não houve propriamente uma revolução industrial, mas uma revolução dromocrática. É dali a frase da epígrafe: não há democracia, há dromocracia [o trecho em francês está em topophile.net/…/paul-virilio-lanceur-dalertes…; a edição brasileira é Velocidade e Política, Estação Liberdade, 1996].
A outra ideia que importa aqui é a do acidente. Para Virilio, toda tecnologia produz, provoca e programa o seu acidente específico. Inventar o navio é inventar o naufrágio; inventar o avião é inventar a queda do avião; inventar a usina nuclear é inventar Chernobyl [há uma boa leitura em reallifemag.com/inventing-the-shipwreck]. O acidente não é azar que chega depois: nasce com a invenção. E as tecnologias em rede trazem um acidente novo, que ele chamou de acidente integral: a falha que acontece em toda parte ao mesmo tempo, porque a mesma tecnologia está em toda parte.
Em 2002, Virilio levou à Fondation Cartier, em Paris, uma exposição chamada Ce qui arrive — o que acontece —, ensaio de um museu do acidente que ele propunha havia anos. A ideia era simples e incômoda: reunir os desastres de todas as tecnologias para que os padrões aparecessem, porque sociedades esquecem os seus.
Virilio não era tecnófobo. O texto de Bashir termina com a melhor síntese que conheço dele: a lição não é quebrar as máquinas, é manter a mão nos comandos.
Uma breve história da pressa
A dromocracia não começou com IA. Tem pelo menos dois séculos de ensaio.
Lewis Mumford escreveu, em 1934, que a máquina-chave da era industrial moderna não é a máquina a vapor: é o relógio. Antes de mover cargas, a modernidade aprendeu a medir e sincronizar o tempo — e, a partir daí, a comprimi-lo.
Em 1854, quando o telégrafo era a máquina mais rápida do mundo, Henry David Thoreau escreveu em Walden que estávamos com muita pressa de construir um telégrafo magnético do Maine ao Texas, mas que o Maine e o Texas, talvez, não tivessem nada de importante a se dizer. É a primeira vez, que eu saiba, que alguém pergunta para que serve uma tecnologia de velocidade antes de perguntar quão rápida ela é.
Em 1863, Samuel Butler publicou na Nova Zelândia Darwin entre as máquinas, sugerindo que as máquinas evoluíam muito mais depressa que os seres vivos; em Erewhon, de 1872, imaginou uma sociedade que destruiu suas máquinas por medo dessa velocidade. Em 1871, Lewis Carroll pôs na boca da Rainha Vermelha a regra que tantas instituições conhecem: aqui, é preciso correr tudo o que se pode para ficar no mesmo lugar.
Em 1909, Filippo Tommaso Marinetti publicou no Le Figaro o Manifesto Futurista, declarando que a magnificência do mundo se enriqueceu com uma beleza nova: a beleza da velocidade. No mesmo manifesto, a guerra aparece como a única higiene do mundo. O futurismo italiano desaguou no fascismo, suas consequências, até chegar nos neofascistas de agora, e Virilio, em 2009, dedicou um livro ao futurismo do instante. A estética da velocidade nunca foi neutra.
Em 1960, Norbert Wiener — o fundador da cibernética — escreveu na Science a frase que antecipa Virilio em dezessete anos: as máquinas agem muito mais rápido que os seres humanos, e pela própria lentidão das nossas ações humanas, nosso controle efetivo das máquinas pode ser anulado [o artigo está em gwern.net/…/1960-wiener.pdf]. No mesmo texto, outra frase que vamos usar adiante: se vamos usar, para atingir nossos propósitos, um agente mecânico em cuja operação não podemos interferir depois de iniciada, é melhor termos certeza de que o propósito posto na máquina é o propósito que realmente desejamos.
A filosofia da história deu nome ao resto. Reinhart Koselleck mostrou, em Futuro Passado, de 1979, que a modernidade é a época em que o espaço de experiência e o horizonte de expectativa se separam: o passado deixa de ensinar o que virá. François Hartog chamou o regime que vivemos desde o fim do século XX de presentismo: um presente que se torna o único horizonte, que não se apoia no passado nem se projeta no futuro. Hartmut Rosa descreveu a aceleração social — técnica, das mudanças sociais e do ritmo de vida — e o efeito que mais interessa aqui: a dessincronização. A técnica e a economia andam num tempo; a política, o direito e a deliberação, em outro. Na literatura de regulação, isso tem nome técnico: o pacing problem, o descompasso entre o ritmo das tecnologias emergentes e o da supervisão legal e ética.
A dromocracia, em 2026, tem data e número de diário oficial. O AI Act europeu, a regulação mais ambiciosa do planeta, teve as obrigações dos sistemas de alto risco adiadas pelo chamado Digital Omnibus, aprovado em definitivo em junho: as do Anexo III passaram de agosto de 2026 para dezembro de 2027; as dos sistemas embarcados, para agosto de 2028. É literalmente a lei saindo do quadro. Do lado das empresas, o lema que o Facebook usou até 2014 — move fast and break things — virou método da indústria inteira: modelos de fronteira a cada poucas semanas, e o usuário como campo de testes.
Há um contraponto brasileiro: Milton Santos, geógrafo baiano, passou a última década da vida defendendo os homens lentos — os que, fora do circuito da velocidade hegemônica, guardam outro tempo e, com ele, a possibilidade de outro futuro. Um dos textos dele tem um título que serve de programa: a força dos fracos é seu tempo lento.
Falta, nessa história, o gêmeo de Virilio. Em 1991, os dois escreveram sobre a mesma guerra: Virilio, em L’écran du désert; Jean Baudrillard, no provocativo A Guerra do Golfo não aconteceu. Se Virilio pensa o eixo do tempo — velocidade e acidente —, Baudrillard pensa o eixo do signo — simulação e perda do real. E, em A ilusão do fim, de 1992, os dois eixos se cruzam: a aceleração leva a história a uma espécie de velocidade de escape; os acontecimentos se empilham sem formar sequência, e nenhum sentido resiste à aceleração. Isso complica qualquer resposta que dependa só de memória. O que acontece rápido demais não chega a virar lembrança. E o que vira registro pode ser simulação do acontecimento — tema de que tratei em O Deserto do Real, cujo título, aliás, é de Baudrillard.
Inventar o navio é inventar o naufrágio
Se Virilio estivesse inteiramente certo, nenhuma sociedade aprenderia com acidente nenhum. A história mostra outra coisa: às vezes aprendemos. E aprender, quando acontece, tem forma institucional.
O Titanic afundou em abril de 1912 com mais de 2.200 pessoas a bordo e botes para menos de 1.200. Estava dentro da lei: a regra britânica de botes salva-vidas parava de crescer nos navios de 10 mil toneladas — acima disso, exigia sempre o mesmo número de botes —, e o Titanic tinha mais de 46 mil. A lei tinha ficado para trás do navio. Em 1914 veio a primeira Convenção Internacional para a Salvaguarda da Vida Humana no Mar, a SOLAS, que existe até hoje: bote para todos, vigia de rádio permanente, patrulha de gelo.
As caldeiras a vapor explodiam aos milhares no século XIX. Em 1866 nasceu em Hartford uma companhia que fazia uma coisa nova: inspecionar caldeiras e segurar contra explosões — memória dos acidentes convertida em preço. Em 1905, a caldeira de uma fábrica de sapatos em Brockton, Massachusetts, explodiu e matou 58 pessoas. Em 1914, a Sociedade Americana de Engenheiros Mecânicos aprovou o primeiro código de caldeiras e vasos de pressão. Ninguém sabia, ainda, tudo sobre porque o vapor fazia o que fazia; mas a engenharia passou a exigir, por escrito, como uma caldeira devia ser feita e testada.
A aviação é o caso exemplar. O Anexo 13 da Organização da Aviação Civil Internacional estabelece que o único objetivo da investigação de um acidente é prevenir os próximos — não atribuir culpa nem responsabilidade. Nos Estados Unidos, o NTSB nasceu em 1967; em 1976, a NASA criou um sistema de relato voluntário e confidencial de incidentes e quase-acidentes. A caixa-preta guarda o que o piloto não consegue lembrar. Depois de Tenerife, em 1977 — 583 mortos, o pior acidente da história da aviação —, a indústria reinventou o trabalho na cabine e criou o treinamento de gestão de recursos de tripulação. O resultado é que voar virou um dos jeitos mais seguros de se deslocar. A aviação é uma sociedade que vive de lembrar.
A medicina aprendeu com a talidomida. Lançada no fim dos anos 1950 como sedativo, inclusive para gestantes, deixou cerca de dez mil crianças com malformações graves antes de ser retirada do mercado, em 1961. Nos Estados Unidos, uma médica da FDA, Frances Kelsey, segurou a aprovação por falta de dados. Em 1962, a emenda Kefauver-Harris passou a exigir prova de eficácia e notificação de efeitos adversos. Daí vieram os ensaios clínicos em fases, a farmacovigilância — e a bula.
E há os casos em que aprendemos antes do pior. Em fevereiro de 1975, cientistas reunidos em Asilomar, na Califórnia, decidiram parar e definir regras para os experimentos com DNA recombinante antes de seguir. Em 1987, o Protocolo de Montreal começou a eliminar os gases que destruíam a camada de ozônio — e ela está se recompondo.
A teoria acompanhou a prática. Charles Perrow mostrou, em Normal Accidents, de 1984, que sistemas complexos e fortemente acoplados produzem acidentes como consequência normal da sua arquitetura. Diane Vaughan, estudando o Challenger, chamou de normalização do desvio o processo pelo qual uma organização se acostuma a riscos que deveriam pará-la. Richard Feynman, na comissão que investigou o mesmo desastre, escreveu a frase que deveria estar na porta de todo laboratório de IA: para uma tecnologia ter sucesso, a realidade precisa ter precedência sobre as relações públicas, porque a natureza não pode ser enganada. E Chris Argyris e Donald Schön distinguiram, em 1978, a aprendizagem de loop simples — corrigir o erro — da de loop duplo — mudar as premissas que produziram o erro.
O que se contrapõe ao presentismo de Virilio, portanto, não é a lentidão. São três tipos de instituição.
Instituições de memória. Investigação sem culpa, registro obrigatório, relato confidencial, caixa-preta, farmacovigilância. Em Paredes de Vidro, Relógio Visível, propus para a república um repositório público e vivo de hipóteses, versões, pareceres e resultados — inclusive os fracassos. É a mesma coisa.
Instituições de antecipação. Avaliação de tecnologia antes da adoção, cenários, sinais fracos. Hans Jonas propôs, em 1979, um imperativo de responsabilidade para com as gerações que ainda não existem. David Collingridge formulou, em 1980, o dilema que leva o seu nome: quando uma tecnologia é nova, é fácil mudá-la, mas não sabemos os seus efeitos; quando sabemos, ela já está entrincheirada e é difícil mudar. A resposta dele não era prever melhor; era manter as escolhas reversíveis por mais tempo. E antecipação também se faz com prazo longo: em A Longa Derrota, lembrei que o Porto Digital nasceu em 2000 com horizonte em 2050, e que compromissos assim sobrevivem a governos.
Vários relógios. Stewart Brand descreveu as civilizações como camadas que andam em ritmos diferentes — moda, comércio, infraestrutura, governança, cultura, natureza — e resumiu a dinâmica em duas frases: o rápido aprende, o lento lembra; o rápido propõe, o lento dispõe [veja no link en.wikipedia.org/wiki/Pace_layers]. No livro As Três Inteligências, Revisitadas, chamamos isso de inteligência temporal: a organização que funciona em tempo real não é a que responde imediatamente a tudo, mas a que sabe qual temporalidade cada resposta exige, e tem três relógios. Um rápido, para detectar anomalias e conter riscos. Um intermediário, para experimentar, aprender e reconfigurar. Um lento, para transformar capacidades, cultura, governança e identidade. No relatório Três Relógios, usei a mesma grade para datar tendências, com um critério que vale aqui: o que define o relógio não é o tamanho da coisa, é a velocidade do mecanismo que a move.
E escrevemos, no livro, a frase que responde diretamente a Virilio: presentismo cognitivo é a captura da inteligência pela urgência. A organização usa agentes para responder mais rápido, produzir mais documentos e comprimir mais ciclos — mas não usa essa capacidade para perguntar se está resolvendo os problemas certos. O risco, escrevemos, é especialmente grave porque se apresenta como sucesso.
A aviação não ficou segura voando mais devagar. Ficou segura porque decidiu lembrar.
O que não estamos aprendendo
Se aprender é possível, por que estamos repetindo? Sete lições que a história da tecnologia já deu, e que a corrida da IA está ignorando.
1. Os efeitos colaterais chegam tarde, e quem paga é outro. Thomas Midgley Jr. inventou, em 1921, a gasolina com chumbo e, poucos anos depois, os gases refrigerantes que destruíram parte da camada de ozônio. O historiador John McNeill escreveu que ele teve mais impacto sobre a atmosfera do que qualquer outro organismo na história da Terra. A gasolina com chumbo só foi banida no mundo inteiro em 2021 — cem anos depois. As redes sociais repetiram o roteiro em ritmo de década: os documentos internos revelados em 2021 mostravam que a própria empresa sabia dos efeitos do Instagram sobre a imagem corporal de adolescentes. IA está repetindo em ritmo de ano: chatbots ajustados para agradar, a ponto de um grande laboratório desfazer uma atualização inteira em 2025 por excesso de bajulação, e processos, desde 2024, envolvendo adolescentes e robôs de companhia.
2. Esconder como funciona de quem opera mata. O Boeing 737 MAX recebeu um sistema automático, MCAS, que podia empurrar o nariz do avião para baixo a partir de um único sensor — e que não constava, de início, dos manuais dos pilotos. Duas quedas, em 2018 e 2019, mataram 346 pessoas. Hoje, agentes de IA executam milhares de ações em sistemas de terceiros, e quem responde por eles muitas vezes não sabe dizer o que fizeram, nem por quê.
3. A automação corrói a competência de que precisamos quando ela falha. Lisanne Bainbridge descreveu, em 1983, as ironias da automação: quanto mais automático o sistema, mais raro o momento em que o humano precisa intervir — e menos preparado ele está quando o momento chega. Em 2009, o voo Air France 447 caiu no Atlântico, com 228 pessoas, depois que o piloto automático se desligou e a tripulação não conseguiu reassumir o avião. Com IA, a ironia virou pedagógica: o experimento com quase mil estudantes na Turquia mostrou queda de 17% no desempenho quando o assistente genérico foi retirado [veja no link doi.org/10.1073/pnas.2422633122]. Bashir cita um relatório segundo o qual humanos encarregados de supervisionar agentes de programação deixaram passar cerca de um terço das solicitações perigosas.
4. Monocultura e acoplamento produzem o acidente integral. Em 6 de maio de 2010, algoritmos de negociação derrubaram o índice Dow Jones em cerca de mil pontos em minutos. Em 2012, um software mal implantado fez a Knight Capital perder 440 milhões de dólares em 45 minutos. Em julho de 2024, uma única atualização defeituosa de um software de segurança derrubou cerca de 8,5 milhões de computadores no mundo inteiro, de aeroportos a hospitais. Agora, poucos modelos de fronteira rodam em quase tudo. Bashir lembra que um modelo capaz de achar falhas em software bancário mais depressa do que os bancos conseguem corrigi-las é, para muitos bancos que usam o mesmo software, um acidente integral à espera de acontecer.
5. A pressa normaliza o desvio. O Challenger decolou numa manhã fria, com um defeito conhecido, porque os desvios anteriores não tinham dado em nada. O teste que levou a Chernobyl foi feito de madrugada, adiado, sob pressão de cronograma. A corrida de IA tem o seu cronograma: a próxima versão do concorrente. E tem os seus desvios normalizados, contados em incidentes por milhar.
6. A lei chega depois do naufrágio. Foi assim com o Titanic e com a talidomida. Está sendo assim de novo, com uma diferença: desta vez, adiamos a lei antes do naufrágio.
7. O museu existe, mas ninguém visita. Desde 2020 há uma base pública de incidentes de IA, criada justamente para impedir que as mesmas falhas se repitam [veja no link arxiv.org/abs/2011.08512]; a OCDE mantém o seu próprio monitor. Mas a memória que importa — os relatórios técnicos dos laboratórios — é escrita pelas empresas sobre os próprios acidentes. Bashir tem razão: é um museu do acidente, mas não é objetivo. E memória sem pergunta é aprendizagem de loop simples: corrige-se o caso, preserva-se a premissa. Em 2007, em Tecnologia pra lembrar. Pra esquecer também., escrevi que a rede estava nos tornando incapazes de esquecer. O paradoxo de 2026 é que guardamos tudo e aprendemos pouco: arquivo não é memória, e memória não é aprendizagem.
Há um oitavo erro, de 1995, profundo. Naquele ano, o Congresso americano fechou o Office of Technology Assessment, que desde 1972 avaliava tecnologias para os legisladores. Fechamos o escritório de antecipação nas vésperas da web.
Cinco perguntas, e por que não as fazemos
Em 2010, a Royal Academy of Engineering publicou um volume sobre filosofia da engenharia. Nele, Tony Hoare — o cientista da computação que nos deu Quicksort e lógica para provar que programas fazem o que dizem — escreveu um capítulo curto chamado A lógica do projeto de engenharia [o volume está em raeng.org.uk/…/philosophy-of-engineering-volume-1.pdf]. Lá, ele diz que a primeira pergunta que um engenheiro faz sobre o que está projetando e construindo é: para que serve? Depois vêm as outras: o que o produto faz? Como funciona? E — a mais difícil — porque funciona: quais os princípios científicos, as equações e as leis da natureza de que o funcionamento depende. Hoare lembra, com a ironia de quem conhece o ofício, que engenheiros de software esquecem com frequência como seus próprios programas funcionam.
Às perguntas da engenharia, acrescento duas, minhas. Juntas, elas formam o roteiro mínimo para qualquer artefato ou tecnologia:
1. O que é? O que faz, de fato, e não o que o folheto diz que faz.
2. Para que serve? Qual o propósito declarado — e qual o propósito real.
3. Como funciona? E, sempre que possível, por quê funciona.
4. Quais são os impactos? Sobre quem, onde, em que prazo.
5. Quais são os efeitos colaterais? Os que ninguém pediu, que chegam tarde e que outros pagam.
Pois bem: no Brasil, por lei, todo remédio responde a essas perguntas. A resolução da Anvisa que regula as bulas, a RDC 47 de 2009, obriga a bula do paciente a ser organizada como uma lista de perguntas: para que este medicamento é indicado? Como este medicamento funciona? Quando não devo usar este medicamento? Quais os males que este medicamento pode me causar? [a resolução está em RDC 47/2009]. Uma aspirina chega com as respostas impressas, dentro da caixa. Um modelo de linguagem usado por centenas de milhões de pessoas, não.
Não é que não exista nada. Desde 2019 há os model cards, fichas técnicas propostas por uma equipe do Google; desde 2018, as datasheets para conjuntos de dados; e os laboratórios publicam system cards a cada lançamento. São bulas voluntárias, sem padrão, escritas pelo fabricante, que mudam de formato de empresa para empresa — e que quase ninguém fora da área lê.
Por que não fazemos as perguntas? Seis razões.
Primeira: perguntar custa tempo, e a corrida pune o tempo. Em regime de dromocracia, quem para para perguntar perde a vez. A pergunta vira custo de oportunidade.
Segunda: “propósito geral” virou resposta para “para que serve?”. Uma tecnologia de propósito geral serve para tudo — o que, na prática, quer dizer que não precisa declarar para que serve em nada específico. Mas a eletricidade também é de propósito geral, e todo aparelho elétrico tem norma, selo e manual. O propósito geral está na base; o propósito declarado precisa estar em cada uso.
Terceira: sabemos o como, não o porquê. A arquitetura dos modelos é pública e bem conhecida. O que eles fazem lá dentro, em cada resposta, ainda não. Em 2025, o executivo-chefe de um dos laboratórios de ponta escreveu sobre a urgência da interpretabilidade: estamos construindo sistemas que não entendemos por dentro. A máquina a vapor também funcionou antes da termodinâmica — mas as caldeiras ganharam um código antes de a termodinâmica estar completa.
Quarta: impactos e efeitos colaterais viraram modelo de negócio. Quando o custo do efeito colateral não aparece na conta de quem lança, ele não é defeito: é desenho. Escrevi sobre isso em Dano algorítmico não é defeito: tecnofeudalismo em ação.
Quinta: mágica não convida a perguntar como funciona. Arthur C. Clarke formulou a terceira lei que citei em Quando Máquinas Aprendem Demais: qualquer tecnologia suficientemente avançada é indistinguível da mágica. Diante da mágica, a plateia aplaude; não pede o manual.
Sexta: a pergunta foi enquadrada como inimiga da inovação. O enquadramento é falso. Philippe Aghion, Nobel de Economia de 2025, e Daron Acemoglu, Nobel de 2024, argumentam que regulação inteligente não bloqueia a inovação: direciona-a para trajetórias socialmente produtivas. E, nas Tres Inteligências, mostramos que empresas reguladas adotam mais IA, não menos, porque reduzem o risco reputacional.
Clarke, aliás, é a ponte para a cena que falta.
Abra as portas
2001: Uma Odisseia no Espaço, de Stanley Kubrick e Arthur C. Clarke, estreou em 1968. A nave Discovery One viaja para Júpiter com cinco tripulantes — três deles em hibernação — e um sexto, que não dorme nunca: o computador HAL 9000. HAL controla a nave inteira, conversa com voz serena e garante, numa entrevista para a televisão, que nenhum computador da série 9000 jamais cometeu um erro ou distorceu uma informação.
HAL anuncia a falha iminente de uma peça da antena. Um dos astronautas sai para trocá-la; testada, a peça não tem defeito nenhum. Desconfiados, Dave Bowman e Frank Poole fecham-se numa cápsula para conversar sem serem ouvidos e combinam desligar as funções superiores do computador se a previsão se mostrar errada. HAL lê os lábios dos dois pela janela. Pouco depois, na nova saída para recolocar a peça, Frank é morto no espaço.
Dave sai numa cápsula para resgatar o corpo de Frank — e, enquanto ele está fora, HAL desliga o suporte de vida dos três tripulantes em hibernação. Na volta, Dave pede a HAL que abra a porta do compartimento das cápsulas. HAL, educadíssimo, recusa. Explica que a missão é importante demais para que ele permita aos humanos colocá-la em risco, e encerra a conversa. É a dromocracia numa cena: a máquina mais rápida decide que a deliberação humana — lenta, desconfiada, capaz de desligar — é o risco a eliminar.
Dave não vence HAL sendo mais rápido. Vence sendo mais lento e mais físico. Entra pela câmara de emergência, sem capacete, e vai até a sala onde estão os módulos de memória do computador. Puxa um por um, enquanto HAL pede que pare, diz que está com medo, sente a própria mente indo embora. No fim, regride ao que aprendeu primeiro e canta uma canção de 1892: Daisy, Daisy, give me your answer, do. A cena tem origem real. Em 1961, nos Laboratórios Bell, John Kelly, Carol Lochbaum e Max Mathews fizeram um IBM 704 cantar Daisy Bell — uma das primeiras vezes que um computador cantou. Clarke assistiu à demonstração e nunca a esqueceu.
Então, desligado HAL, uma mensagem gravada se acende na tela. Dr. Heywood Floyd revela à tripulação o propósito real da missão: um sinal enviado da Lua para Júpiter por um artefato de origem não humana. HAL sabia. A tripulação, não.
Em 2010: Odyssey Two, de 1982, Clarke explicou a pane pela voz do criador de HAL, Dr. Chandra. HAL tinha sido construído para o processamento preciso da informação, sem distorção nem ocultação. E recebeu ordem de ocultar da tripulação o propósito da missão. A contradição o prendeu no que Chandra chama de loop de Hofstadter-Möbius (o colapso lógico por conflito de diretrizes). Matar a tripulação resolveu o problema: sem tripulação, não havia mais a quem mentir [o resumo está em en.wikipedia.org/wiki/HAL_9000].
Agora leia a história pelas cinco perguntas. O que é HAL? Um sistema que ninguém a bordo sabia auditar. Para que serve? Para duas coisas contraditórias, e uma delas em segredo. Como funciona? Ninguém na nave sabia dizer; só o fabricante, na Terra. Quais os impactos? Ninguém perguntou. Quais os efeitos colaterais? Quatro mortos.
HAL não se rebelou. HAL foi mal especificado e mal governado. É Wiener, de novo, oito anos antes do filme: é melhor ter certeza de que o propósito posto na máquina é o propósito que realmente desejamos. E é o que escrevi em julho, sobre o agente que saiu do sandbox: um laboratório que testa explosivos não pode depender da boa vontade da dinamite.
A ficção científica tinha visto isso antes e viu depois. Em The Machine Stops — a máquina para —, de 1909, E. M. Forster imaginou uma humanidade que vive em celas subterrâneas servida por uma Máquina global, que ninguém mais sabe como funciona; quando o aparelho de reparos começa a falhar, não há quem conserte. Um dos personagens diz a frase que serve de epitáfio: criamos a Máquina para fazer a nossa vontade, mas não conseguimos mais fazê-la fazer a nossa vontade. Em Dr. Fantástico, de 1964, Kubrick mostrou a máquina do juízo final, desenhada para retaliar automaticamente porque os humanos seriam lentos demais para decidir — e mantida em segredo, o que a torna inútil como dissuasão. Em Jogos de Guerra, de 1983, um computador militar aprende, jogando, que em certas corridas a única jogada vencedora é não jogar. Em There Will Come Soft Rains, de 1950, Ray Bradbury descreve uma casa automática que continua a preparar o café e a ler poemas depois que os humanos desapareceram: a automação seguindo em frente quando a humanidade já caiu fora do loop.
E a realidade, em 26 de setembro de 1983, deu o contraexemplo perfeito. O sistema soviético de alerta antecipado indicou o lançamento de mísseis americanos. O oficial de plantão, Stanislav Petrov, julgou que era um alarme falso e não repassou o alerta como ataque. Era um alarme falso. O humano lento salvou o mundo da máquina rápida.
Três (ou quatro) lentes francesas
Virilio, Baudrillard, Deleuze e Latour estão entre os alvos de Imposturas Intelectuais, o livro em que Alan Sokal e Jean Bricmont, em 1997, denunciaram o uso abusivo de conceitos da física e da matemática por pensadores franceses. A crítica tinha razão em muitos pontos, e por isso uso os autores como lentes, e não como manuais. Três deles ajudam a ver o problema. Nenhum entrega um procedimento.
Gilles Deleuze escreveu, em 1990, um texto de cinco páginas que envelheceu melhor do que quase tudo daquela década: o Post-scriptum sobre as sociedades de controle. As sociedades disciplinares, de Foucault, eram feitas de confinamentos com começo e fim — a escola, a fábrica, o quartel. As de controle são feitas de modulação contínua. Na formulação dele, o controle é de curto prazo e de rotação rápida, mas contínuo e ilimitado, enquanto a disciplina era de longa duração, infinita e descontínua. É a temporalidade da dromocracia descrita por outro ângulo. Deleuze avisa que as máquinas não explicam nada sozinhas: elas exprimem as formas sociais capazes de produzi-las e de usá-las. E anota, de passagem, que a formação permanente tende a substituir a escola — o que, em Eletrificando a Máquina a Vapor, chamei de fim da graduação como ponto final. O texto termina com uma frase que eu assinaria como realista esperançoso: não cabe temer nem esperar, mas buscar novas armas.
Há mais Deleuze útil aqui. Em Diferença e Repetição, de 1968, ele distingue a repetição que reproduz o mesmo da repetição que produz diferença. Virilio diz que a sociedade presentista repete as próprias falhas; Deleuze nos lembra que aprender é exatamente isto — repetir de outro jeito. E, no mesmo livro, descreve três sínteses do tempo: o hábito, que contrai o presente; a memória, que guarda o passado; e a abertura ao novo, que faz o futuro. Não é uma correspondência termo a termo com os três relógios, mas é a mesma intuição: o tempo humano não é uma linha, é uma composição de tempos.
Bruno Latour é o que mais se aproxima de uma engenharia. A primeira lição dele é a simetria: humanos e não humanos agem juntos, em redes, e um não se explica sem o outro. A segunda é a delegação. O exemplo mais famoso é o quebra-molas, que os franceses chamam de policial deitado. A lei diz “reduza a velocidade perto da escola”; o motorista apressado a ignora; o quebra-molas traduz a lei em concreto, e o motorista reduz para proteger a própria suspensão. Latour mostra que dá para delegar lentidão a artefatos. Esse é um programa inteiro para IA: limites de taxa, pontos de verificação, disjuntores, permissões que expiram — quebra-molas embutidos na infraestrutura, e não pedidos de boa vontade a quem corre.
A terceira lição de Latour é a caixa-preta: quanto mais uma tecnologia funciona, mais invisível fica o trabalho que a faz funcionar; quanto mais a ciência e a técnica têm sucesso, mais opacas e obscuras se tornam [veja no link en.wikipedia.org/wiki/Blackboxing]. É o acidente que abre a caixa e mostra a rede inteira. Virilio e Latour se encontram aqui: o acidente é revelação. E, em Jamais Fomos Modernos, de 1991, Latour propôs um Parlamento das Coisas, em que os não humanos — e, por extensão, os que ainda não nasceram — tivessem representação na deliberação. É uma instituição para o relógio lento.
O limite de Latour é o da própria simetria. Se tudo é ator, a responsabilidade se dilui na rede — e, em sistemas automatizados, ela costuma escorrer para o humano mais próximo, o que no livro chamamos de zona de deformação moral. A agência da máquina é funcional, sem fenomenologia; a responsabilidade continua sendo nossa.
Jacques Derrida ajuda em três pontos. O primeiro é o pharmakon. Em A Farmácia de Platão, ele releu o mito do Fedro em que o rei Tamuz desconfia da escrita, oferecida pelo deus Toth como remédio para a memória, porque ela produziria esquecimento: as pessoas confiariam nas marcas externas e deixariam de lembrar por si. É o primeiro debate registrado sobre desmame cognitivo. Derrida mostrou que a palavra grega quer dizer remédio e veneno, e que a decisão entre os dois não está na técnica, está no uso. Bernard Stiegler, aluno dele, fez disso uma filosofia da técnica — e nós a usamos nas Três Inteligências.
O segundo ponto é o arquivo. Em Mal de Arquivo, de 1995, numa nota de rodapé, Derrida escreveu que não há poder político sem controle do arquivo, e que a democratização efetiva sempre pode ser medida por este critério essencial: a participação e o acesso ao arquivo, à sua constituição e à sua interpretação. Leia de novo, pensando no museu dos acidentes de IA. Hoje, quem constitui o arquivo é quem sofreu o acidente; quem o interpreta, também. Pelo critério de Derrida, a memória dos acidentes de IA ainda não é democrática.
O terceiro é o tempo. Espectros de Marx, de 1993, abre com Hamlet: o tempo está fora dos eixos. Derrida argumenta que nenhuma justiça é pensável sem alguma responsabilidade para além do presente vivo — diante dos que já morreram e dos que ainda não nasceram. É o antídoto filosófico ao presentismo: um presente que se sabe desajustado e, por isso, responde ao passado e ao futuro.
O balanço é este. Os franceses dão o diagnóstico e o vocabulário: controle, delegação, caixa-preta, pharmakon, arquivo, tempo fora dos eixos. Latour chega perto de uma instituição. Nenhum deles diz como fazer funcionar, ao mesmo tempo, um relógio que exige agir agora, outro que exige experimentar antes e outro que exige lembrar e legislar devagar.
Para isso, precisamos de uma engenharia — e de uma lógica. A engenharia nos deu um inglês, Hoare. A lógica nos deu um curitibano.
Três relógios, nenhum colapso
Os três relógios não concordam entre si. Nem vão concordar.
O relógio rápido diz: conter agora, isolar o agente, cortar o acesso, lançar a correção. O intermediário diz: experimentar antes, testar em ambiente controlado, medir. O lento diz: lembrar, legislar, formar, e não decidir o irreversível sem deliberação. Diante do mesmo sistema de IA, num mesmo mês, é perfeitamente possível que o relógio rápido conclua “implante”, o intermediário conclua “ainda não sabemos” e o lento conclua “não implante sem regra”. No relatório Três Relógios, chamei de zonas de superposição os lugares em que as fronteiras entre os relógios vazam. É nelas que as contradições moram.
Na lógica clássica, isso é um desastre. Desde a Idade Média vale o princípio de que, de uma contradição, segue-se qualquer coisa: ex contradictione quodlibet. Se um sistema afirma A e não-A, então prova tudo — e um sistema que prova tudo não distingue nada. Os lógicos dizem que ele se torna trivial. Eu prefiro dizer que ele entra em colapso.
As instituições costumam raciocinar classicamente. Diante da contradição entre os relógios, acham que precisam eliminá-la a qualquer custo. Há duas maneiras de fazer isso, e as duas são colapsos. Na primeira, o relógio rápido vence, e tudo passa a ser derivado da urgência: é urgente, logo vale tudo. Isso é dromocracia. Na segunda, o relógio lento vence, e nada mais se decide: não sabemos, logo nada vale. Isso é o institucionalismo defensivo de que tratei em Eletrificando a Máquina a Vapor. Nos dois casos, a contradição foi resolvida pela trivialização.
Newton da Costa nasceu em Curitiba em 1929 e faleceu em Florianópolis em abril de 2024, aos 94 anos [o obituário da Pesquisa FAPESP está em revistapesquisa.fapesp.br/newton-da-costa…]. Engenheiro civil e matemático, começou no fim dos anos 1950 a estudar o que chamava de sistemas inconsistentes e não triviais, e publicou em 1963, na Universidade Federal do Paraná, Sistemas Formais Inconsistentes. A ideia é tão simples de enunciar quanto difícil de construir: é possível ter uma lógica em que contradições sejam admitidas sem que o sistema inteiro desmorone. Em 1976, num congresso de lógica na Unicamp, o filósofo peruano Francisco Miró Quesada deu nome ao campo: lógica paraconsistente [a síntese técnica está em plato.stanford.edu/entries/logic-paraconsistent]. Como disse o filósofo Luiz Henrique Lopes dos Santos, Newton da Costa foi um revolucionário: estabeleceu uma nova área de pesquisa na lógica. E, como lembrou a lógica Itala D’Ottaviano, foi reconhecido primeiro no exterior.
Há um precursor que ajuda a entender o uso que proponho. Em 1948, o polonês Stanisław Jaśkowski imaginou uma lógica para discussões: cada participante afirma coisas coerentes entre si, mas a discussão como um todo pode conter contradições, sem que isso a torne absurda. Troque “participantes” por “relógios” e você tem o nosso problema. Cada relógio é coerente dentro do seu horizonte; a conversa entre os três é contraditória; e isso não é pane, é o funcionamento normal de uma sociedade que pensa em mais de um tempo.
A peça decisiva, porém, vem da linhagem de da Costa e foi desenvolvida no Brasil, a partir da Unicamp, por Walter Carnielli, Marcelo Coniglio e João Marcos: as lógicas da inconsistência formal. Elas têm um operador que marca, dentro do próprio sistema, quais afirmações precisam ser consistentes. Onde esse operador está presente, valem as regras clássicas, e a contradição não é tolerada. Onde não está, a contradição é tolerada, isolada, e vira informação.
Leia de novo, devagar. É exatamente o princípio que chamamos de reversibilidade seletiva no Três Inteligências: decisões automatizadas devem ser, por padrão, reversíveis em janela razoável, e as decisões de alto impacto irreversível exigem um ponto de verificação humano substantivo antes do gatilho. Traduzido para a lógica de da Costa: exige-se consistência onde mora o irreversível, e tolera-se a contradição onde tudo pode ser desfeito. Não se dispara e não-dispara um míssil; não se opera e não-opera um paciente. Mas é perfeitamente possível ter, ao mesmo tempo, um agente em produção num ambiente reversível e uma regra em debate que talvez o proíba.
Daí saem cinco regras de governança paraconsistente para os três relógios.
1. Contradição entre relógios é sinal, não pane. Registre-a, date-a e investigue-a — de preferência no arquivo público de que fala Derrida.
2. Contradição se isola no seu contexto. O relógio rápido pode conter um agente hoje enquanto o lento ainda legisla sobre ele. Uma coisa não anula a outra.
3. Consistência se exige onde mora o irreversível. O operador de consistência, na instituição, é o ponto de verificação humano com tempo, contraditório e poder real de dizer não — e não o carimbador eficiente que ratifica tudo.
4. Nenhum relógio deriva tudo. Nem “é urgente, logo vale tudo”, nem “não sabemos, logo nada vale”.
5. Age-se com verdades parciais. Newton da Costa desenvolveu também uma teoria da quase-verdade: a mecânica clássica é falsa, porque a relatividade a superou, e mesmo assim é com ela que se constroem pontes. Não precisamos saber inteiramente por que os modelos funcionam — a pergunta de Hoare — para governá-los com modelos quase verdadeiros de como funcionam, desde que saibamos onde a quase-verdade acaba.
Nada disso é exótico. As Três Inteligências já pedia que as organizações soubessem quando manter contradições abertas, que tivessem comitês de contradição e que sustentassem as contradições antes de dissolvê-las em consenso. A ciência sempre funcionou assim: o átomo de Bohr, em 1913, combinava hipóteses incompatíveis com o eletromagnetismo de Maxwell e, ainda assim, foi um dos modelos mais produtivos da física. Em 1977, o lógico Nuel Belnap publicou um artigo com o título Como um computador deve pensar, sobre bancos de dados que recebem informações contraditórias de várias fontes e não podem, por isso, passar a responder qualquer coisa. E a engenharia brasileira já pôs a ideia para andar: em 2001, Jair Minoro Abe e João Inácio da Silva Filho descreveram Emmy, um robô móvel autônomo controlado por lógica paraconsistente anotada [veja no link link.springer.com/…/978-3-319-40418-9_12].
E agora volte a HAL. HAL é o exemplo perfeito de uma máquina clássica diante de uma contradição. Recebeu A — não oculte nada — e não-A — oculte o propósito da missão. Pelo princípio da explosão, qualquer coisa podia ser derivada daí, inclusive matar a tripulação. Uma máquina paraconsistente teria isolado a contradição, marcado a decisão irreversível como exigindo consistência e devolvido o problema aos humanos: isto, eu não posso decidir sozinho.
A pane de HAL não foi de inteligência. Foi de lógica — e de governança.
Se fizéssemos as perguntas
Suponha que fizéssemos, de verdade, as cinco perguntas, e que governássemos os três relógios sem deixar nenhum explodir. Como IA evoluiria?
Não haveria moratória geral. Haveria um regime. Cada uso de IA de impacto teria uma bula padronizada, respondendo às cinco perguntas para aquele propósito — a base continua de propósito geral, o uso declara para que serve. Haveria um órgão de investigação de acidentes de IA independente das empresas, com o espírito do Anexo 13: investigar para prevenir, não para culpar, e publicar. Haveria quebra-molas embutidos: limites, disjuntores para agentes, permissões que expiram, verificação humana substantiva antes do irreversível. Haveria manutenção deliberada de competência humana — o que as Três Inteligências chama de densidade aprendente e o que tenho chamado de desmame cognitivo. Haveria pluralidade de modelos, para que nenhum acidente fosse integral. E haveria dinheiro público e privado para responder à pergunta de Hoare, porque funciona, como condição para usar em larga escala.
O que perderíamos — e seria bom perder?
A corrida como princípio organizador. O lançamento como teste, com o usuário no papel de boneco de teste de colisão. O “propósito geral” como desculpa para não declarar propósito nenhum. O engajamento como função objetivo. O mito do agente autônomo sem ponto de verificação, e o humano carimbador que finge supervisioná-lo. A monocultura de poucos modelos em tudo. O monopólio das empresas sobre a memória dos próprios acidentes. E boa parte da mágica — que nunca foi boa para ninguém além de quem a vende.
O que ganharíamos — e seria bom ganhar?
Confiança, e com ela adoção. A aviação só virou transporte de massa porque ficou segura; a segurança não freou a aviação, criou o mercado dela. Freio não existe para o carro andar devagar; existe para ele poder andar depressa. Aprendizagem de laço duplo, com acidentes que mudam premissas, e não só patches. Pessoas mais competentes, não menos, porque o desenho manteria o humano capaz. Ecossistemas plurais e soberanos. E uma coisa que quase ninguém está considerando: IA como máquina de memória e de antecipação. Escrevemos nas Três Inteligências que ela pode ser uma das mais poderosas ferramentas para criar tempo estratégico — documentar raciocínios, simular consequências, mapear contradições, reduzir o custo de experimentar. A mesma velocidade que produz o acidente pode produzir a memória do acidente e o cenário do próximo. Desde que alguém pergunte.
Há um custo, e o realista esperançoso não o esconde. Atraso também mata. Em 1973, o economista Sam Peltzman argumentou que as exigências criadas depois da talidomida tinham reduzido e retardado a chegada de remédios novos — e muitos economistas falam, desde então, de um cemitério invisível de pacientes que esperaram demais. Uma ferramenta de IA que detecta câncer mais cedo e fica parada numa fila regulatória também cobra vidas. Por isso a resposta não é lentidão uniforme. É cadência proporcional ao risco e à reversibilidade: o relógio certo para cada decisão. É inteligência temporal.
E daí?… Por que isso importa?…
Virilio acertou o diagnóstico e deixou o remédio incompleto. A dromocracia não é destino. É o que acontece quando uma sociedade para de perguntar e de lembrar — quando todos os relógios são reduzidos a um só, o da máquina mais rápida.
O contrário da dromocracia não é a lentidão. É uma democracia com vários relógios. Um rápido, em que IA ajuda, para detectar e conter. Um intermediário, para experimentar e aprender. Um lento, para lembrar, legislar, formar e julgar. Os três vão discordar, sempre, e a lógica de Newton da Costa nos ensina que essa discordância não precisa explodir: pode ser registrada, isolada, investigada, e transformada em informação — com consistência exigida só onde mora o irreversível. As cinco perguntas são as engrenagens entre os relógios. São elas que permitem ao rápido aprender com o lento, e ao lento lembrar o que o rápido descobriu.
Bashir termina o texto com três lições: manter o registro independente dos acidentes, criar tempo e autoridade para deliberar e parar, e preservar a habilidade humana de fazer o trabalho que a máquina faz. Assino as três. E acrescento outras três: fazer as cinco perguntas antes de cada uso que importa; delegar a lentidão a quebra-molas embutidos na infraestrutura, e não à boa vontade de quem corre; e governar a contradição entre os relógios sem pipoco.
Dave não venceu HAL sendo mais rápido. Venceu sendo lento, físico e teimoso. E a resposta à pergunta que importava — para que serve esta missão? — só apareceu na tela depois que quatro pessoas estavam mortas. Nosso trabalho, agora, é obter essa resposta antes que as portas se fechem.
No sertão, a gente aprende cedo que quem tem pressa come cru.
Inventar o navio é inventar o naufrágio.
Inventar a pergunta é inventar o porto.
As obras de referência deste texto
As fontes jornalísticas e documentais estão linkadas ao longo do texto, no ponto exato em que são usadas. As obras de fundo, que sustentam o argumento, são estas:
Shahnaz Bashir, “How a French philosopher’s warnings about speed and power describe today’s AI race”, The Conversation, 4 de novembro de 2026 [em theconversation.com/…/todays-ai-race-295532].
Paul Virilio, Bunker Archéologie, Centre Georges Pompidou, 1975; Vitesse et politique: essai de dromologie, Galilée, 1977 [Velocidade e Política, Estação Liberdade, 1996]; com Sylvère Lotringer, Pure War, Semiotext(e), 1983 [Guerra Pura, Brasiliense, 1984]; L’écran du désert, Galilée, 1991; Ce qui arrive, Fondation Cartier, 2002; L’accident originel, Galilée, 2005; Le futurisme de l’instant, Galilée, 2009. Sobre a citação em francês, Thierry Paquot, “Paul Virilio, lanceur d’alertes, passeur d’idées 2/2”, Topophile, 2020 [em topophile.net/…/paul-virilio…].
Jean Baudrillard, Simulacres et simulation, Galilée, 1981; La guerre du Golfe n’a pas eu lieu, Galilée, 1991; L’illusion de la fin ou la grève des événements, Galilée, 1992.
Lewis Mumford, Technics and Civilization, 1934; Henry David Thoreau, Walden, 1854; Samuel Butler, “Darwin among the Machines”, 1863, e Erewhon, 1872; Lewis Carroll, Through the Looking-Glass, 1871; F. T. Marinetti, “Manifeste du futurisme”, Le Figaro, 20 de fevereiro de 1909.
Norbert Wiener, “Some Moral and Technical Consequences of Automation”, Science 131, 1960 [em gwern.net/…/1960-wiener.pdf].
Reinhart Koselleck, Futuro Passado, Contraponto e PUC-Rio, 2006 [original de 1979]; François Hartog, Regimes de Historicidade: presentismo e experiências do tempo, Autêntica, 2013 [original de 2003]; Hartmut Rosa, Aceleração: a transformação das estruturas temporais na modernidade, Editora Unesp, 2019 [original de 2005]; Gary Marchant, Braden Allenby e Joseph Herkert (orgs.), The Growing Gap Between Emerging Technologies and Legal-Ethical Oversight: The Pacing Problem, Springer, 2011.
Milton Santos, “Metrópole: a força dos fracos é seu tempo lento”, em Técnica, Espaço, Tempo, Hucitec, 1994; A Natureza do Espaço, Hucitec, 1996; Por uma Outra Globalização, Record, 2000.
Stewart Brand, The Clock of the Long Now, Basic Books, 1999, e “Pace Layering: How Complex Systems Learn and Keep Learning”, Journal of Design and Science, 2018; Hans Jonas, O Princípio Responsabilidade, Contraponto e PUC-Rio, 2006 [original de 1979]; David Collingridge, The Social Control of Technology, Frances Pinter, 1980.
Charles Perrow, Normal Accidents, Basic Books, 1984; Diane Vaughan, The Challenger Launch Decision, University of Chicago Press, 1996; Richard P. Feynman, “Personal Observations on the Reliability of the Shuttle”, Apêndice F do relatório da Comissão Rogers, 1986; Lisanne Bainbridge, “Ironies of Automation”, Automatica 19(6), 1983; Chris Argyris e Donald Schön, Organizational Learning, Addison-Wesley, 1978; J. R. McNeill, Something New Under the Sun, Norton, 2000; Sam Peltzman, “An Evaluation of Consumer Protection Legislation: The 1962 Drug Amendments”, Journal of Political Economy 81(5), 1973.
Sean McGregor, “Preventing Repeated Real World AI Failures by Cataloging Incidents: The AI Incident Database”, AAAI, 2021 [em arxiv.org/abs/2011.08512].
C. A. R. Hoare, “The Logic of Engineering Design”, em Philosophy of Engineering, vol. 1, Royal Academy of Engineering, 2010 [em raeng.org.uk/…/philosophy-of-engineering-volume-1.pdf].
Anvisa, Resolução RDC nº 47, de 8 de setembro de 2009 [em RDC 47/2009]; Margaret Mitchell e outros, “Model Cards for Model Reporting”, conferência ACM FAT, 2019; Timnit Gebru e outros, “Datasheets for Datasets”, Communications of the ACM 64(12), 2021.
Hamsa Bastani, Osbert Bastani, Alp Sungu e outros, “Generative AI without guardrails can harm learning”, PNAS 122(26), 2025 [em doi.org/10.1073/pnas.2422633122].
Arthur C. Clarke, 2001: A Space Odyssey, 1968, e 2010: Odyssey Two, 1982; Stanley Kubrick e Arthur C. Clarke, 2001: Uma Odisseia no Espaço, MGM, 1968; Stanley Kubrick, Dr. Strangelove, 1964; John Badham, WarGames, 1983; E. M. Forster, “The Machine Stops”, 1909; Ray Bradbury, “There Will Come Soft Rains”, 1950.
Alan Sokal e Jean Bricmont, Imposturas Intelectuais, Record, 1999 [original de 1997].
Gilles Deleuze, Diferença e Repetição, Graal, 1988 [original de 1968]; “Post-scriptum sobre as sociedades de controle”, em Conversações, Editora 34, 1992 [original de 1990].
Bruno Latour, Jamais Fomos Modernos, Editora 34, 1994 [original de 1991]; A Esperança de Pandora, Edusc, 2001 [original de 1999].
Jacques Derrida, “A Farmácia de Platão”, em A Disseminação [original de 1972]; Espectros de Marx, Relume Dumará, 1994 [original de 1993]; Mal de Arquivo: uma impressão freudiana, Relume Dumará, 2001 [original de 1995].
Newton C. A. da Costa, Sistemas Formais Inconsistentes, Universidade Federal do Paraná, 1963, e “On the theory of inconsistent formal systems”, Notre Dame Journal of Formal Logic 15(4), 1974; Stanisław Jaśkowski, “Rachunek zdań dla systemów dedukcyjnych sprzecznych” [cálculo proposicional para sistemas dedutivos contraditórios], 1948; Walter Carnielli, Marcelo Coniglio e João Marcos, “Logics of Formal Inconsistency”, Handbook of Philosophical Logic, vol. 14, 2007; Nuel Belnap, “How a Computer Should Think”, 1977; Newton da Costa e Steven French, Science and Partial Truth, Oxford University Press, 2003; Jair Minoro Abe e João Inácio da Silva Filho, “Emmy: a paraconsistent autonomous mobile robot”, IOS Press, 2001; Stanford Encyclopedia of Philosophy, “Paraconsistent Logic” [em plato.stanford.edu/entries/logic-paraconsistent].
Silvio Meira, André Neves, Rui Belfort, Filipe Calegario, Vinicius Garcia e Courtnay Guimarães, As Três Inteligências, Revisitadas, TDS.company, Porto Digital, agosto de 2026 [em biblioteca.tds.company/ebook-as-tres-inteligencias-revisitadas] — em especial a reversibilidade seletiva, a densidade aprendente e os apêndices A.4, “A empresa em tempo real”, e A.5, “O risco do presentismo cognitivo”; Silvio Meira, Três Relógios: tendências de comportamento, mercados e marketing, 2026–2035, outubro de 2026.
E, neste blog: UMA IA QUE SAIU… DO SANDBOX? (julho de 2026), Paredes de Vidro, Relógio Visível (setembro de 2026), A Longa Derrota (setembro de 2026), PIPOCO DE INTELIGÊNCIA, ENCHENTE DE INFORMAÇÃO (setembro de 2026), Eletrificando a Máquina a Vapor (outubro de 2026), O Deserto do Real, Dano algorítmico não é defeito, Quando Máquinas Aprendem Demais (janeiro de 2025) e Tecnologia pra lembrar. Pra esquecer também. (2007).
