Autor: Toby Ord
Tradução: Luan Rafael Marques
[Esta é a introdução do livro The Precipice de Toby Ord, traduzida e publicada aqui com a autorização do autor. A obra é um marco sobre o tema dos riscos existenciais, perigos de catástrofes que ameaçam o potencial da humanidade no longo prazo, como uma guerra nuclear total, pandemias feitas pelo homem e IAs avançadas.]
Se tudo correr bem, a história da humanidade está apenas começando. A humanidade tem cerca de duzentos mil anos de idade. Mas a Terra permanecerá habitável por mais centenas de milhões de anos — tempo o bastante para milhões de gerações futuras; o bastante para pôr fim à doença, à pobreza e à injustiça para sempre; o bastante para criar patamares de florescimento inimagináveis nos dias atuais. E, se conseguíssemos aprender a alcançar maiores distâncias dentro do cosmos, poderíamos ter mais tempo ainda: trilhões de anos, para explorar bilhões de mundos. Tal longevidade situa a humanidade dos dias de hoje na sua infância mais imatura. Uma vida adulta vasta e extraordinária nos aguarda.
A nossa visão desse potencial é obscurecida facilmente. O escândalo mais recente atrai a nossa indignação; a tragédia mais recente, a nossa empatia. O tempo e o espaço encolhem. Esquecemos a escala da narrativa da qual fazemos parte. Mas há momentos em que nos lembramos — quando a nossa visão muda, e as nossas prioridades se realinham. Enxergamos uma espécie precariamente próxima da autodestruição, com um futuro de imensa promessa na corda bamba. E mantê-lo em equilíbrio se torna a nossa mais urgente preocupação pública.
Este livro argumenta que resguardar o futuro da humanidade é o desafio definidor da nossa época. Pois nos encontramos num momento crucial na história da nossa espécie. Alimentado pelo progresso tecnológico, o nosso poder aumentou tanto que, pela primeira vez na longa história da humanidade, temos a capacidade de destruirmos a nós mesmos — rompendo o nosso futuro inteiro e tudo o que poderíamos nos tornar.
Não obstante, a sabedoria da humanidade aumentou apenas de um modo titubeante (se aumentou), e ela está ficando periculosamente para trás. A humanidade carece da maturidade, da coordenação e da previdência necessárias para evitar cometer erros dos quais jamais poderíamos nos recuperar. Conforme vai crescendo a lacuna entre o nosso poder e a nossa sabedoria, o nosso futuro fica sujeito a um nível de risco que cresce constantemente. Essa situação é insustentável. Portanto, durante os séculos mais próximos, a humanidade será testada: ou ela agirá decisivamente para proteger a si mesma e o seu potencial de longo prazo, ou, com toda a probabilidade, tudo será perdido para sempre.
Para sobreviver a esses desafios e assegurar o futuro, devemos agir agora: gerindo os riscos de hoje, evitando os de amanhã e tornando-nos o tipo de sociedade que jamais se colocará tais riscos novamente.
Foi somente no século passado que se tornou aparente o poder da humanidade de ameaçar o seu futuro inteiro. Um dos episódios mais angustiantes veio à tona recentemente. No sábado de 27 de outubro de 1962, um único oficial num submarino soviético quase deu início a uma guerra nuclear. Seu nome era Valentin Savitsky. Era o capitão do submarino B-59 — um dos quatro submarinos que a União Soviética havia enviado para dar suporte às suas operações militares em Cuba. Cada um deles estava armado com uma arma secreta: um torpedo nuclear com poder explosivo comparável à bomba de Hiroshima.
Era o auge da Crise dos Mísseis de Cuba. Duas semanas antes, o reconhecimento aéreo dos EUA havia produzido evidências fotográficas de que a União Soviética estava instalando mísseis nucleares em Cuba, com os quais poderia atacar diretamente a área continental dos Estados Unidos. Em resposta, os EUA impuseram um bloqueio sobre os mares em torno de Cuba, elaboraram planos para uma invasão e trouxeram suas forças nucleares para um nível de alerta sem precedentes de DEFCON 2 (“Próximo passo para guerra nuclear”).
Naquele sábado, um dos navios de guerra dos EUA que participavam do bloqueio detectou o submarino de Savitsky e tentou forçá-lo à superfície largando cargas de profundidade de baixa explosão como tiros de advertência. O submarino vinha-se escondendo profundamente submerso havia dias. As condições a bordo estavam extremamente más. O submarino era feito para o Ártico e seu ventilador havia quebrado em águas tropicais. O calor lá dentro estava insuportável, variando de 45 ºC perto dos tubos de torpedo a 60 ºC na casa das máquinas. O dióxido de carbono havia-se acumulado em concentrações perigosas, e os membros da tripulação haviam começado a cair inconscientes. Cargas de profundidade estavam explodindo bem ao lado do casco. Um dos tripulantes recordou-se posteriormente: “Parecia que estávamos sentados num barril de metal, que alguém está constantemente a rebentar com uma marreta.”
Cada vez mais desesperado, o Capitão Savitsky ordenou que sua tripulação preparasse a sua arma secreta:
Talvez a guerra já se tenha iniciado lá em cima, enquanto estamos dando piruetas aqui. Vamos explodi-los agora! Morreremos, mas faremos afundar todos eles — não deixaremos a nossa Marinha em desgraça!1
Para disparar a arma nuclear era necessária a aceitação do comissário político do submarino, que tinha a outra metade da chave de disparo. Apesar da falta de autorização de Moscou, o comissário político deu seu consentimento.
Em qualquer um dos outros submarinos, isso bastaria para lançar a sua arma nuclear. Mas, pela mais pura sorte, o submarino B-59 transportava o comandante da flotilha inteira, o Capitão Vasili Arkhipov, e assim exigia adicionalmente o seu consentimento. Arkhipov se recusou a dá-lo. Ele antes fez com que o Capitão Savitsky se acalmasse da sua ira e o convenceu a desistir: a vir à tona em meio aos navios de guerra dos EUA e aguardar ordens adicionais de Moscou. 2
Não sabemos precisamente o que teria acontecido caso Arkhipov tivesse dado o seu consentimento — ou caso ele simplesmente tivesse sido postado em qualquer um dos outros três submarinos. Talvez Savitsky não tivesse dado prosseguimento à sua própria ordem. O que está claro é que chegamos precariamente perto de um ataque nuclear sobre a frota do bloqueio — um ataque que teria, com a maior probabilidade, resultado em retaliação nuclear, daí numa escalada para uma guerra nuclear de escala total (o único tipo para o qual os EUA tinham planos). Anos depois, Robert McNamara, o Secretário de Defesa durante a crise, chegou à mesma conclusão:
Ninguém deveria acreditar que, tivessem as tropas americanas sido atacadas por ogivas nucleares, os EUA teriam-se contido de responder com ogivas nucleares. Onde isso teria acabado? Num desastre total.3
Desde o advento das armas nucleares, os humanos vêm fazendo escolhas com tais riscos. O nosso é um mundo de tomadores de decisões falhos, trabalhando com informações incrivelmente incompletas, controlando tecnologias que ameaçam o futuro inteiro da espécie. Tivemos sorte, naquele sábado de 1962, e temos evitado a catástrofe até o momento. Mas as nossas capacidades destrutivas continuam a crescer, e não podemos confiar na sorte para sempre.
Precisamos dar passos decisivos para pôr fim a este período de riscos em escalada e resguardar o nosso futuro. Felizmente, está ao nosso alcance fazê-lo. Os maiores riscos são causados pela ação humana e podem ser tratados pela ação humana. Se a humanidade sobreviverá ou não a esta era é, assim, uma escolha que a humanidade fará. Mas ela não é fácil. Tudo depende de quão rápido podemos chegar a compreender e aceitar as novas responsabilidades que acompanham o nosso poder sem precedentes.
Este livro trata de riscos existenciais: riscos que ameaçam a destruição do potencial de longo prazo da humanidade. A extinção é o modo mais óbvio como todo o potencial da humanidade poderia ser destruído, mas há outros. Se a civilização em torno do globo inteiro sofresse um colapso verdadeiramente irrecuperável, isso também destruiria o nosso potencial de longo prazo. E veremos que há possibilidades distópicas também: modos como poderíamos ficar presos num mundo falido sem volta.
Embora esse conjunto de riscos seja diverso, ele também é exclusivo. Assim, terei de pôr de lado muitos riscos importantes que ficam aquém desse nível: nosso tópico não é uma nova era das trevas para a humanidade ou para o mundo natural (por mais terrível que fosse), mas a destruição permanente do potencial da humanidade.
Riscos existenciais apresentam novos tipos de desafio. Requerem que nos coordenemos de modo global e intergeracional, de maneiras que vão além do que atingimos até o presente. E requerem previdência em vez de tentativa e erro. Visto que não permitem segundas chances, precisamos construir instituições que garantam que, ao longo de todo o nosso futuro, jamais, nem sequer uma vez, sejamos vítimas de tal catástrofe.
Para fazer justiça a este tópico, teremos de cobrir um bocado de terreno. Compreender os riscos requer adentrar a física, a biologia, as ciências da Terra e a ciência da computação; situar isso na narrativa mais ampla da humanidade requer história e antropologia; discernir quanto exatamente está em jogo requer filosofia moral e economia; e descobrir as soluções requer relações internacionais e ciência política. Fazer isso adequadamente requer um envolvimento profundo com cada uma dessas disciplinas, não simplesmente selecionarmos citações de especialistas ou estudos que apoiam as nossas preconcepções. Essa seria uma tarefa impossível para qualquer indivíduo, de modo que sou extremamente grato pelos conselhos e críticas extensivas de dezenas dos principais pesquisadores do mundo vindos de todas essas áreas.4
Este livro é ambicioso em suas metas. Por meio de análises cuidadosas do potencial da humanidade e dos riscos que encaramos, ele defende que vivemos durante a era mais importante da história humana. Riscos sérios para o nosso futuro inteiro são um problema novo, e o nosso pensamento não se atualizou ainda. Assim, O Precipício apresenta uma perspectiva ética nova: uma importante reorientação na maneira como vemos o mundo e o nosso papel dentro dele. Ao fazê-lo, o livro aspira a começar a fechar a lacuna entre a nossa sabedoria e o nosso poder, permitindo à humanidade ter uma visão clara do que está em jogo, de modo que façamos as escolhas necessárias para resguardar o nosso futuro.
Nem sempre estive focado na proteção do nosso futuro de longo prazo, chegando ao tópico apenas relutantemente. Sou filósofo, da Universidade de Oxford, especializando-me em ética. Meu trabalho anterior se enraizava nas preocupações mais tangíveis sobre a saúde global e a pobreza global — em como poderíamos ajudar da melhor forma aqueles em pior situação. Ao enfrentar essas questões, senti a necessidade de levar meu trabalho na ética para além da torre de marfim. Comecei a dar aconselhamento à Organização Mundial de Saúde, ao Banco Mundial e ao governo do Reino Unido sobre a ética da saúde global. E descobrindo que meu próprio dinheiro poderia fazer centenas de vezes mais bem para aqueles na pobreza do que para mim, fiz um juramento para a vida toda de doar pelo menos um décimo de tudo o que eu ganhar para ajudá-los.5 Fundei uma sociedade, a Giving What We Can [Doando O Que Podemos], para aqueles que queriam unir-se a mim, e me animou ver milhares de pessoas6 se juntarem para jurar doar mais de £ 1 bilhão ao longo de suas vidas para as instituições de caridade mais eficazes de que temos conhecimento, trabalhando nas causas mais importantes. Juntos, já fomos capazes de transformar as vidas de dezenas de milhares de pessoas. E, porque há muitas outras maneiras, além das nossas doações, de que podemos ajudar a formar um mundo melhor, ajudei a iniciar um movimento mais amplo, conhecido como altruísmo eficaz, no qual as pessoas aspiram a fazer uso da razão e evidências para fazerem tanto bem quanto possível.
Visto que há tanto trabalho a ser feito para sarar o sofrimento desnecessário em nosso presente, fui lento em me voltar para o futuro. Ele era muito menos visceral; tão mais abstrato. Poderia ele ser mesmo um problema tão urgente quanto o sofrimento do agora? Conforme refletia sobre as evidências e as ideias que culminariam neste livro, fui me dando conta de que os riscos ao futuro da humanidade são tão reais e tão urgentes quanto — não obstante, ainda mais negligenciados. E que as pessoas do futuro podem ser ainda mais impotentes para protegerem a si mesmas dos riscos que impomos do que os necessitados do nosso tempo.
Tratar esses riscos tornou-se agora o foco central do meu trabalho: tanto pesquisar os desafios que encaramos quanto aconselhar grupos como o gabinete do Primeiro Ministro do Reino Unido, o Fórum Econômico Mundial e a DeepMind sobre como tatar da melhor forma esses desafios. Ao longo do tempo, vi um reconhecimento crescente desses riscos e da necessidade de uma ação coordenada.
Para que esse livro atingisse uma audiência diversa, fui implacável ao eliminar o jargão, detalhes técnicos desnecessários e qualificações defensivas, típicos da escrita acadêmica (a minha própria inclusa). Os leitores famintos por detalhes ou qualificações técnicas adicionais podem adentrar as várias notas finais e apêndices, escritos com os próprios em mente.7
Tentei com especial afinco examinar as evidência e argumentos com cuidado e imparcialidade, certificando-me de apresentar os pontos cruciais mesmo quando iam de encontro à minha narrativa. Pois é da maior importância chegar à verdade sobre essas questões — a atenção da humanidade é escassa e preciosa, e não deve ser desperdiçada em narrativas ou ideias falhas.8
Cada capítulo de O Precipício ilumina as questões centrais de um ângulo diferente. A Parte Um (O que Está em Jogo) começa com um panorama geral do nosso momento singular na história, daí examina porque ele justifica uma preocupação moral tão urgente. A Parte Dois (Os Riscos) adentra a ciência dos riscos diante da humanidade, advindos tanto da natureza quanto de nós mesmos, mostrando que, embora alguns sejam exagerados, há riscos genuínos e que estão aumentando. Logo, a Parte Três (O Caminho Adiante) desenvolve ferramentas para compreendermos como esses riscos se comparam e combinam entre si, e novos estratagemas para tratar deles. Encerro com uma visão do nosso futuro: do que poderíamos atingir, caso tenhamos sucesso.
Isto não é só mais uma narrativa familiar sobre os perigos das mudanças climáticas ou da guerra nuclear. Esses riscos que nos despertaram primeiro para a possibilidade de destruirmos a nós mesmos são apenas o começo. Há riscos emergentes, como aqueles que surgem da biotecnologia e de inteligências artificiais avançadas, que colocam riscos muito maiores à humanidade no século que vem.
Finalmente, este não é um livro pessimista. Não apresenta um inevitável arco da história culminando na nossa destruição. Não é um conto com uma moral sobre a nossa húbris tecnológica e a nossa queda resultante. Longe disso. A afirmação central é que há riscos genuínos para o nosso futuro, mas que nossas escolhas ainda podem fazer toda a diferença. Creio que estamos a altura da tarefa: que por meio de nossas escolhas podemos recuar do precipício e, a tempo, criar um futuro de extraordinário valor — com uma riqueza com a qual mal podemos sonhar, possibilitada por inovações que ainda temos de conceber. De fato, o meu profundo otimismo sobre o futuro da humanidade é crucial para a minha motivação ao escrever este livro. O nosso potencial é vasto. Temos tanto para proteger.
NOTAS:
1. Blanton, Burr & Savranskaya (2012). The Underwater Cuban Missile Crisis: Soviet Submarines and the Risk of Nuclear War. National Security Archive, Electronic Briefing Book No. 399. National Security Archive.
2. Ellsberg, D (2017). The Doomsday Machine: Confessions of Nuclear War Planner. Bloomsburry Publishing. pp. 215–17.
3. McNamara, R. S. (14 de outubro de 1992). ‘One Minute to Doomesday’. The New York Times.
4. Quaisquer erros, claro, são meus. Você pode encontrar uma lista atualizada de quaisquer erros conhecidos em theprecipice.com/errata. Agradeço pelos conselhos especializados vindos de Fred Adams, Richard Alley, Tatsuya Amano, Seth Baum, Niel Bowerman, Miles Brundage, Catalina Cangea, Paulo Ceppi, Clark Chapman, David Christian, Allan Dafoe, Richard Danzig, Ben Day, David Denkenberger, Daniel Dewey, Eric Drexler, Daniel Ellsberg, Owain Evans, Sebastian Farquhar, Vlad Firoiu, Ben Garfinkel, Tim Genewein, Goodwin Gibbons, Thore Graepel, Joanna Haigh, Alan Harris, Hiski Haukkala, Ira Helfand, Howard Herzog, Michael Janner, Ria Kalluri, Jim Kasting, Jan Leike, Robert Lempert, Andrew Levan, Gregory Lewis, Marc Lipsitch, Rosaly Lopes, Stephen Luby, Enxhell Luzhnica, David Manheim, Jochem Marotzke, Jason Matheny, Piers Millet, Michael Montague, David Morrison, Cassidy Nelson, Clive Oppenheimer, Raymond Pierrehumbert, Max Popp, David Pyle, Michael Rampino, Georgia Ray, Catherine Rhodes, Richard Rhodes, Carl Robichaud, Tyler Robinson, Alan Robock, Luisa Rodriguez, Max Roser, Jonathan Rougier, Andrew Rushby, Stuart Russell, Scott Sagan, Anders Sandberg, Hauke Schmidt, Rohin Shah, Steve Sherwood, Lewis Smith, Jacob Steinhardt, Sheldon Stern, Brian Thomas, Brian Toon, Phil Torres, Martin Weitzman, Brian Wilcox, Alex Wong, Lily Xia e Donald Yeomans.
5. Também fiz um juramento adicional para deixar apenas £ 18.000 por ano para mim mesmo e doar todo o excedente. Esse piso é ajustado conforme a inflação (atualmente é £ 21.868) e não inclui os gastos com a minha filha (alguns milhares de libras a cada ano). Até o momento, fui capaz de doar mais do que um quarto de tudo que já ganhei na vida.
6. No momento em que escrevo, os membros da Giving What We Can já doaram £ 100 milhões para instituições de caridade eficazes (Giving What We Can, 2019. https://www.givingwhatwecan.org/). Isso está distribuído por muitas organizações diferentes, de modo que é impossível fazer uma contagem simples do impacto. Mas mesmo apenas dando uma olhada nos £ 6 milhões em doações para fornecer redes mosquiteiras contra a malária, isso proveu mais de 3 milhões de anos-pessoa de proteção, salvando mais de 2.000 vidas (GiveWell, 2019. 2019 GiveWell Cost-effectiveness Analysis — Version 3. https://docs.google.com/spreadsheets/d/1McptF0GVGvQBlhWx_IoNVstWvt1z-RwVSu16ciypgs/).
7. Efetivamente, há outros conteúdos que mereceriam seu próprio livro escondidos nas notas para os leitores que estão ávidos para saber mais. Se você faz parte deles, sugiro utilizar um outro marcador de livro para lhe permitir virar e desvirar ao seu bel-prazer. Esforcei-me para manter alta a qualidade média das notas para fazê-las valer o seu tempo (raramente são meras citações). Tentei me disciplinar para manter o texto principal num caminho direto ao seu destino, de modo que os desvios cênicos estejam todos escondidos nas notas. Você pode também interessar-se pelos apêndices, a lista de leituras adicionais (p. 285) ou o site do livro, theprecipice.com, para ainda mais informação e discussão.
8. Claro que mesmo após verificações de fato extensivas, seria ingenuidade pensar que nenhum viés ou erro tenha escapado; assim, espero que os leitores ajudem a apanhar e corrigir tais fraquezas que permanecerem.