O Precipício - Capítulo 2 - Risco Existencial - 80.000 Horas: Como fazer a diferença com sua carreira

Esse é o segundo Capítulo do Livro The Precipice de Toby Ord; a tradução é de Luan Marques, feita com permissão do autor.

O papel crucial que representamos, enquanto seres morais, é como membros de uma comunidade transgeracional, uma comunidade de seres que olham para trás e adiante, que interpretam o passado à luz do presente, que veem o futuro como algo que cresce a partir do passado, que veem a si mesmos como membros de famílias, nações, culturas e tradições que perduram.

—Annette Baier^[1]

Vimos como o longo arco da história humana nos trouxe até um tempo singularmente importante em nossa narrativa — um período no qual o nosso futuro inteiro se encontra na corda bamba. E vimos um pouco do que pode encontrar-se além, se ao menos pudermos superar os riscos.

Agora é hora de pensar com mais profundidade sobre o que está em jogo; por que resguardar a humanidade durante este tempo é tão importante. Para fazer isso, precisamos primeiro esclarecer a ideia de risco existencial. O que exatamente é risco existencial? Como ele se relaciona com ideias mais familiares de extinção ou colapso da civilização?

Podemos daí perguntar o que a respeito desses riscos compele a nossa urgente preocupação. A principal razão, na minha opinião, é que perderíamos o nosso futuro inteiro: tudo que a humanidade poderia ser e tudo que poderíamos realizar. Mas isso não é tudo. A defesa da ideia de que é crucial resguardar o nosso futuro recebe apoio de uma ampla gama de tradições e fundamentos morais. Riscos existenciais também ameaçam destruir o nosso presente e trair o nosso passado. Eles testam as virtudes da civilização e ameaçam remover o que pode ser a parte mais complexa e significativa do universo.

Se levarmos qualquer dessas razões a sério, teremos muito trabalho a fazer para proteger o nosso futuro. Pois riscos existenciais são enormemente negligenciados: pelo governo, pela academia, pela sociedade civil. Veremos por que tem sido assim e por que há boas razões para suspeitar que isso vá mudar.

Índice

Entendendo o Risco Existencial

O futuro da humanidade se encontra repleto de possibilidades. Alcançamos um rico entendimento do mundo que habitamos e um nível de saúde e prosperidade com o qual nossos ancestrais só poderiam sonhar. Começamos a explorar os outros mundos nos céus acima de nós e a criar mundos virtuais completamente além da compreensão dos nossos ancestrais. Conhecemos quase nenhum limite ao que poderíamos realizar em última instância.

A extinção humana encerraria o nosso futuro. Destruiria o nosso potencial. Eliminaria todas as possibilidades além de uma: um mundo desprovido de florescimento humano. A extinção geraria esse mundo falido e nos trancaria nele para sempre — seria sem volta.

O filósofo Nick Bostrom mostrou que a extinção não é a única maneira como isso poderia acontecer: há outros resultados catastróficos nos quais perdemos não só o presente como todo o nosso potencial para o futuro.^[2]

Considere um mundo em ruínas: uma imensa catástrofe engatilhou um colapso global da civilização, reduzindo a humanidade a um estado pré-agrícola. Durante essa catástrofe, o ambiente da Terra foi danificado tão severamente que se tornou impossível para os sobreviventes restabelecerem a civilização. Ainda que tal catástrofe não causasse a nossa extinção, ela teria um efeito semelhante sobre o nosso futuro. O vasto domínio de futuros abertos a nós teria sido reduzido a uma gama estreita de opções escassas. Teríamos um mundo falido sem volta.

Ou considere um mundo em grilhões: num futuro reminiscente de Mil Novecentos e Oitenta e Quatro de George Orwell, o mundo inteiro foi trancado sob o governo de um regime totalitário opressivo, determinado a perpetuar-se. Por meio de doutrinação, vigilância e imposição potentes viabilizadas pela tecnologia, tornou-se impossível até para um punhado de dissidentes encontrarem uns aos outros, muito menos organizarem uma rebelião. Com todos na Terra vivendo sob tal governo, o regime é estável com relação a ameaças, tanto internas quanto externas. Se tal regime pudesse ser mantido indefinidamente, a descida a esse futuro totalitário também teria muito em comum com a extinção: somente uma gama estreita de terríveis futuros remanescentes, e nenhuma saída.

FIGURA 2.1 Uma classificação de catástrofes existenciais com base no tipo de resultado em que somos trancados.

Seguindo Bostrom, irei chamar esses cenários “catástrofes existenciais”, definindo-as da seguinte forma:^[3]

Uma catástrofe existencial é a destruição do potencial da humanidade no longo prazo.

Um risco existencial é um risco que ameaça a destruição do potencial da humanidade no longo prazo.

Essas definições capturam a ideia de que o resultado de uma catástrofe é tanto deplorável quanto irreversível. Não só falharemos na tentativa de realizar o nosso potencial como esse próprio potencial será perdido permanentemente. Embora eu queira manter as definições oficiais sucintas, há várias áreas que justificam um esclarecimento.

Primeiro, entendo o potencial da humanidade no longo prazo em termos do conjunto de todos os futuros possíveis que continuam abertos a nós.^[4]Essa é uma ideia expansiva de possibilidade, que inclui tudo que a humanidade poderia finalmente alcançar, ainda que não tenhamos ainda inventado os meios de alcancá-lo.^[5]Mas decorre disso que, embora as nossas escolhas possam trancar as coisas, excluindo possibilidades, elas não podem abrir novas. Logo, qualquer redução do potencial da humanidade deve ser entendida como permanente. O desafio da nossa época é preservar o nosso vasto potencial e protegê-lo dos riscos de destruição futura. O propósito supremo é permitir que os nossos descendentes concretizem o nosso potencial, realizando um dos melhores futuros possíveis abertos a nós.

Embora possa parecer abstrata nesta escala, esta é uma ideia muito familiar que encontramos todo dia. Considere uma criança com um alto potencial no longo prazo: com futuros abertos a ela nos quais ela leva uma ótima vida. É importante que o seu potencial seja preservado: que os seus melhores futuros não sejam decepados devido a um acidente, a um trauma ou à ausência de uma educação. É importante que o seu potencial seja protegido: que incorporemos salvaguardas para tornar tal perda potencial extremamente improvável. E é importante que ela finalmente concretize o seu potencial: que acabe tomando um dos melhores caminhos abertos a ela. O mesmo se aplica à humanidade.

Riscos existenciais ameaçam a destruição do potencial da humanidade. Isso inclui casos em que essa destruição é completa (como a extinção) e em que é quase completa, como um colapso permanente da civilização no qual a possibilidade de alguns tipos inferiores de florescimento permanecem, ou em que permanece alguma chance remota de recuperação.^[6] Deixo os limiares vagos, mas deve-se entender que em qualquer catástrofe existencial a maior parte do nosso potencial se vai e muito pouco fica.^[7]

Segundo, meu foco na humanidade nas definições não deve excluir considerações sobre o valor do meio ambiente, de outros animais, de sucessores do Homo sapiens ou de criaturas em outros lugares no cosmos. Não é que eu pense que somente os humanos contam. Antes é que os humanos são os únicos seres que sabemos que são responsivos a razões morais e argumentos morais — os seres que podem examinar o mundo e decidir fazer o que é melhor. Se falharmos, essa força ascendente, essa capacidade de impulsionar em direção ao que é melhor ou ao que é justo, irá desaparecer do mundo.

O nosso potencial se trata do que a humanidade pode realizar por meio das ações combinadas de cada e todo ser humano. O valor das nossas ações terá origem em parte no que fazemos aos humanos, bem como por eles, mas irá depender dos efeitos das nossas ações nos não humanos também. Se, de alguma forma, dermos origem a novos tipos de agentes morais no futuro, o termo “humanidade” na minha definição deverá ser interpretado de modo a incluí-los.

Meu foco na humanidade impede que ameaças a um único país ou cultura contem como riscos existenciais. Há uma expressão semelhante que é usada assim: quando as pessoas dizem que algo é “uma ameaça existencial a este país”. Pondo de lado o fato de que essas alegações geralmente são hipérboles, elas expressam uma ideia semelhante: que algo ameaça destruir permanentemente o potencial de um país ou cultura no longo prazo.^[8]No entanto, é muito importante manter a conversa sobre um “risco existencial” (sem nenhuma restrição explícita a um grupo) de modo que ela se aplique somente a ameaças contra a totalidade da humanidade.

Terceiro, qualquer noção de risco deve envolver algum tipo de probabilidade. Qual tipo está envolvido no risco existencial? Entender probabilidade em termos de frequências objetivas no longo prazo não vai funcionar, visto que as catástrofes existenciais com que estamos preocupados só podem ocorrer uma vez e sempre serão sem precedentes até o momento em que for tarde demais. Não podemos dizer que a probabilidade de uma catástrofe existencial é exatamente zero simplesmente porque ela não ocorreu ainda.

Situações como essas requerem um sentido evidencial de probabilidade, que descreve o grau apropriado de crença que devemos ter com base na informação disponível. Esse é um tipo de probabilidade semelhante ao utilizado em tribunais, bancos e casas de apostas. Quando falo da probabilidade de uma catástrofe existencial, quero dizer o nível de confiança que a humanidade deve ter de que ela ocorrerá, à luz das nossas melhores evidências.^[9]

Há muitos resultados completamente terríveis que não contam como catástrofes existenciais.

Um modo de isso acontecer é se não houvesse nenhum evento abrupto, mas uma multidão de fracassos menores. Isso é porque tomo o sentido comum de catástrofe, como um evento único e decisivo, em vez de qualquer combinação de eventos que sejam ruins em conjunto. Caso desperdicemos o nosso futuro simplesmente maltratando continuamente uns aos outros, ou jamais conseguindo fazer nada de grandioso, isso poderia ser um resultado tão ruim quanto, mas não ocorreria por meio de uma catástrofe.

Alternativamente, pode haver uma única catástrofe, mas que deixa aberto algum caminho para a humanidade finalmente recuperar-se. Da nossa própria perspectiva, zelando pelas próximas gerações, isso pode parecer igualmente lúgubre. Mas mil anos a partir daí, ela poderia ser considerada apenas um entre vários períodos sombrios na história humana. Uma verdadeira catástrofe existencial deve, por natureza, ser o momento decisivo da história humana — o ponto em que fracassamos.

Até catástrofes grandes o bastante para gerar o colapso global da civilização podem ficar aquém de ser catástrofes existenciais. Embora sejam chamadas coloquialmente “o fim do mundo”, um colapso global da civilização não precisa ser o fim da narrativa humana. Tem a severidade necessária, mas pode não ser permanente ou irreversível.

Neste livro, utilizarei o termo colapso civilizacional bem ao pé da letra, para referir-me a um resultado em que a humanidade perpassando o globo perde a civilização (pelo menos temporariamente), sendo reduzida a um estilo de vida pré-agrícola. O termo é utilizado com frequência de modo impreciso para referir-se meramente a uma gigantesca quebra de ordem, a perda da tecnologia moderna ou a um fim da nossa cultura. Mas estou falando de um mundo sem escrita, cidades, lei ou nenhum outro arreio da civilização.

Esse seria um desastre muito severo e extremamente difícil de engatilhar. Apesar de todas as pressões históricas sobre civilizações, jamais isso ocorreu — nem sequer na escala de um continente.^[10]O fato de que a Europa sobreviveu ao perder de 25 a 50 por cento da sua população na Peste Negra, enquanto manteve a civilização firmemente intacta, sugere que engatilhar o colapso da civilização exigiria mais que uma fatalidade de mais de 50 por cento em toda região do mundo.^[11]

Mesmo se a civilização de fato entrasse em colapso, é provável que ela fosse restabelecida. Como vimos, a civilização já foi estabelecida independentemente pelo menos sete vezes por povos isolados.^[12]Embora possamos pensar que o esgotamento de recursos poderia tornar isso mais difícil, é mais provável que se tenha tornado substancialmente mais fácil. A maioria dos desastres aquém da extinção humana deixariam os nossos animais domesticados e plantas, assim como recursos materiais abundantes nas ruínas das nossas cidades — é muito mais fácil forjar ferro novamente a partir de velhas grades do que fundi-lo a partir do minério. Até recursos descartáveis como o carvão seriam muito mais fáceis de acessar, por meio de reservas e minas abandonadas, do que eram no século XVIII.^[13]Além disso, evidências de que a civilização é possível, e ferramentas e conhecimento para ajudar a reconstruir, estariam dispersas pelo mundo.

No entanto, há duas ligações estreitas entre o colapso da civilização e o risco existencial. Primeiro, um colapso contaria como uma catástrofe existencial se fosse irrecuperável. Por exemplo, é concebível que alguma forma de mudança climática extrema ou praga projetada possa tornar o planeta tão inóspito que a humanidade seria irreversivelmente reduzida a forrageadores dispersos.^[14]E segundo, um colapso global da civilização poderia aumentar as chances de extinção, ao deixar-nos mais vulneráveis a uma catástrofe seguinte.

Um modo como um colapso poderia levar à extinção é se a população do maior grupo remanescente caísse para abaixo da população viável mínima: o nível necessário para uma população sobreviver. Não há números precisos para isso, visto que geralmente é definido em termos de probabilidade e depende de muitos detalhes da situação: onde a população se encontra, a que tecnologia ela tem acesso, o tipo de catástrofe que sofreu. As estimativas variam de centenas de pessoas até dezenas de milhares.^[15]Se uma catástrofe reduzir diretamente a população humana para abaixo desses níveis, será mais útil classificá-la como um evento de extinção direto, em vez de um colapso irrecuperável. E prevejo que esse vá ser um dos caminhos mais comuns para a extinção.

Raramente pensamos a sério sobre riscos ao potencial inteiro da humanidade. Nós os encontramos predominantemente em filmes de ação, nos quais as nossas reações emocionais são entorpecidas pelo seu uso excessivo como um modo fácil de intensificar o drama.^[16]Ou os vemos em listas on-line de “dez maneiras como o mundo poderia acabar”, que visam principalmente empolgar e entreter. Desde o fim da Guerra Fria, raramente encontramos discussões sóbrias de nossos principais pensadores sobre o que a extinção significa para nós, nossas culturas ou a humanidade.^[17]E assim, em contextos casuais, as pessoas às vezes são levianas quanto ao prospecto da extinção humana.

Mas quando um risco se torna vívido e crível — quando é claro que bilhões de vidas e todas as gerações futuras estão realmente em perigo —, a importância de protegermos o potencial da humanidade no longo prazo não é, para a maioria das pessoas, controversa. Se descobríssemos que uma asteroide de grande porte está vindo em direção à Terra, impondo uma chance de mais de 10 por cento de extinção humana posteriormente este século, pouco debate haveria sobre se devemos fazer esforços sérios para construir um sistema de desvio ou ignorar o assunto e correr o risco. Muito pelo contrário, responder à ameaça se tornaria imediatamente uma das principais prioridades mundiais. Assim, a nossa falta de preocupação com essas ameaças tem muito mais a ver com não cremos ainda que tais ameaças existem do que tem a ver com duvidarmos seriamente da imensidão do que está em jogo.

Ainda assim, é importante passar um bocado de tempo tentando entender mais claramente as diferentes fontes dessa importância. Tal entendimento pode reforçar sentimentos e inspirar ações; pode trazer à luz novas considerações; e pode auxiliar em decisões sobre como estabelecer prioridades.

Olhando para o Presente

Nem todas as catástrofes existenciais envolvem a extinção humana, e nem todos os métodos de extinção envolvem dor ou morte prematura. Por exemplo, é teoricamente possível que todos simplesmente decidamos não nos reproduzir. Isso poderia destruir o nosso potencial sem, suponhamos, causar sofrimento algum. Mas os riscos existenciais que realmente encaramos não são tão pacíficos. Eles antes são obviamente horríveis segundo a maioria dos padrões morais familiares.

Se, durante o século que vem, a humanidade for destruída num inverno nuclear, ou numa pandemia projetada, ou numa guerra catastrófica envolvendo alguma nova tecnologia, sete bilhões de vidas seriam encurtadas — incluindo, talvez a sua própria vida ou as vidas daqueles que você ama. Muitos provavelmente morreriam em agonia — passando fome, queimando-se ou assolados por doenças.

A defesa moral para prevenir tal horror carece de pouca elaboração. A humanidade já viu catástrofes, em escalas menores: milhares, ou milhões, de vidas humanas destruídas. Sabemos como é tremendamente importante prevenir tais desastres. Em tal escala, perdemos a nossa capacidade de compreender plenamente a grandeza do que é perdido, mas até aqui os números provêm uma orientação sobre o que está em jogo, moralmente falando.^[18]Outras coisas estando iguais, milhões de mortes devem ser muito piores que milhares de mortes; e bilhões, muito piores que milhões. Mesmo medida somente em termos de vidas encurtadas, a extinção humana facilmente seria o pior evento em nossa longa história.

Olhando para o Nosso Futuro

Mas uma catástrofe existencial não é só uma catástrofe que destrói um número particularmente grande de vidas. Ela destrói o nosso potencial.

Meu mentor, Derek Parfit, nos pediu para imaginar uma guerra nuclear devastadora que mata 99 por cento das pessoas no mundo.^[19]Uma guerra que deixaria em seu rastro uma era das trevas que dura séculos, antes que os sobreviventes pudessem acabar reconstruindo a civilização até as suas alturas anteriores; humilhados, assustados — porém não derrotados.

Agora compare isso com uma guerra que mata plenos 100 por cento da população mundial. Esta segunda guerra seria pior, claro, mas quão pior? As duas guerras seriam a pior catástrofe na história. As duas matariam bilhões. A segunda guerra envolveria dez milhões de mortes a mais, e assim seria pior por essa razão. Mas há outra diferença, muito mais significativa, entre as duas guerras. Ambas as guerras destroem o nosso presente; mas a segunda guerra destrói o nosso futuro.

É essa diferença qualitativa no que é perdido com a última porcentagem que torna catástrofes existenciais singulares e que torna a redução do risco de catástrofe existencial singularmente importante.^[20]

Em expectativa, quase todos os humanos que viverão ainda têm de nascer. Ausente uma catástrofe, a maioria das gerações são gerações futuras. Como o escritor Jonathan Schell colocou:

A procissão de gerações que se estende adiante a partir do nosso presente leva muito, muito além da linha da nossa vista e, em comparação com esses trechos de tempo humano, que excedem a totalidade da história da Terra até a atualidade, o nosso breve momento civilizado é quase infinitésimo. Ainda assim, ameaçamos, em nome das nossas metas transitórias e convicções falíveis, tudo encerrar. Se a nossa espécie de fato se destruir, será uma morte no berço — um caso de mortalidade infantil.^[21]

E porque, em expectativa, quase toda a vida da humanidade se encontra no futuro, quase tudo de valor se encontra no futuro também: quase todo o florescimento; quase toda a beleza; nossas maiores realizações; nossas sociedades mais justas; as nossas descobertas mais profundas.^[22] Podemos continuar o nosso progresso com relação à prosperidade, a saúde, a justiça, a liberdade e o pensamento moral. Podemos criar um mundo de bem-estar e florescimento que desafia a nossa capacidade de imaginar. E se protegermos esse mundo da catástrofe, ele poderia durar milhões de séculos. Esse é o nosso potencial — o que poderíamos realizar se passássemos do Precipício e continuássemos a empenhar-nos por um mundo melhor.

É essa visão do futuro — o imenso valor do potencial da humanidade — que mais me persuade a focar minhas energias na redução do risco existencial. Quando penso nos milhões de gerações futuras ainda por vir, a importância de proteger o futuro da humanidade me é clara. Arriscar destruir esse futuro, por alguma vantagem limitada somente ao presente, parece-me profundamente provinciano e periculosamente míope. Tal negligência privilegia uma ínfima fatia da nossa história em detrimento da grande envergadura da totalidade; privilegia uma ínfima minoria de humanos em detrimento da esmagadora maioria ainda por nascer; privilegia este século particular em detrimento dos milhões, ou talvez bilhões, ainda por vir.^[23]

Para enxergar por que isso seria errado, considere uma analogia com a distância. Uma pessoa não importa menos quanto mais distante no espaço ela está de você. Se a minha mulher fica doente enquanto está longe numa conferência no Quênia, isso importa tanto quanto se ela fica doente em casa comigo em Oxford. E o bem-estar de estranhos no Quênia importa tanto quanto o bem-estar de estranhos em Oxford. Claro que podemos ter deveres especiais com relação a alguns indivíduos — à família; a membros da mesma comunidade —, mas nunca é a distância espacial, em si mesma, que determina essas diferenças em nossas obrigações. Reconhecer que as pessoas importam igualmente, não importa a sua localização geográfica, é uma forma crucial de progresso moral, que poderíamos fazer muito mais para integrar com as nossas políticas e a nossa filantropia.

As pessoas importam igualmente, não importa a sua localização temporal também. As nossas vidas importam tanto quanto aquelas vividas milhares de anos atrás ou aquelas mil anos adiante.^[24]Assim como seria errado pensar que outras pessoas importam menos quanto mais longe elas estão de você no espaço, é errado pensar que elas importam menos quanto mais distantes elas estão de você no tempo. O valor da sua felicidade, e o horror do seu sofrimento, não é diminuído.

Reconhecer que as pessoas importam igualmente, onde quer que estejam no tempo, é um próximo passo crucial na narrativa em curso do progresso moral da humanidade. Muitos de nós já reconhecemos essa igualdade em certa medida. Sabemos que é errado deixar gerações futuras em pior situação a fim de garantir benefícios menores para nós próprios. E se questionados, iríamos concordar que as pessoas no presente não importam objetivamente mais do que as pessoas no futuro. Mas presumimos que isso deixe a maioria das nossas prioridades inalteradas. Por exemplo, ao pensarmos que os efeitos das nossas ações no longo prazo rapidamente desaparecem; que eles são tão incertos que o bom neutraliza o ruim; ou que as pessoas no futuro estarão muito melhor situadas para ajudarem a si mesmas.^[25]

Mas a possibilidade de riscos existenciais evitáveis em nossos tempos de vida mostra que há problemas nos quais nossas ações podem ter efeitos positivos prolongados durante todo o futuro no longo prazo e nos quais somos a única geração em posição de produzir esses efeitos.^[26]Logo, a visão de que as pessoas no futuro importam tanto quanto nós tem implicações práticas profundas. Temos um longo caminho a seguir para entendê-las e integrá-las plenamente ao nosso pensamento moral.

Considerações como essas sugerem uma ética que podemos denominar longotermismo, que se preocupa especialmente com os impactos das nossas ações no futuro no longo prazo.^[27]Ela leva a sério o fato de que a nossa própria geração não passa de uma página numa história muito mais longa e que o nosso papel mais importante pode ser o modo como determinamos — ou não determinamos — essa história. Trabalhar para resguardar o potencial da humanidade é um caminho para tal impacto duradouro e pode haver outros também.^[28]

Não temos de abordar o risco existencial dessa direção — já existe uma forte defesa moral apenas a partir dos efeitos imediatos —, mas uma ética longotermista, não obstante, é especialmente adequada a enfrentar o risco existencial. Pois o longotermismo é animado por uma reorientação moral em direção ao vasto futuro que os riscos existenciais ameaçam encerrar.

Claro, há complexidades.

Quando os economistas avaliam benefícios futuros, eles usam um método chamado desconto, que atenua (“desconta”) benefícios com base em quão distantes estão no tempo. Se tomássemos uma taxa de desconto comumente utilizada de 5 por cento por ano e a aplicássemos ao nosso futuro, haveria um valor surpreendente pequeno restante. Aplicada ingenuamente, essa taxa de desconto iria sugerir que o nosso futuro inteiro vale apenas cerca de vinte vezes o valor do ano que vem e que o período de 2100 até a eternidade vale menos que o ano que vem. Será que isso põe em dúvida a ideia de que o nosso futuro é extremamente valioso?

Não. Resultados assim surgem de uma aplicação incorreta dos métodos da economia. Quando as sutilezas do problema são levadas em conta e o desconto é aplicado corretamente, o futuro recebe um valor extremamente alto. Os detalhes matemáticos nos levariam longe demais, mas por ora basta observar que descontar o bem-estar humano (em vez de bens instrumentais como o dinheiro), puramente com base na distância em relação a nós no tempo, é profundamente implausível — especialmente durante os longos períodos de tempo que estamos discutindo. Implica, por exemplo, que se você pode salvar uma pessoa de uma dor de cabeça em milhões de anos ou um bilhão de pessoas da tortura em dois milhões de anos, você deveria salvar a única pessoa da dor de cabeça.^[29]Uma explicação completa de por que o desconto econômico não trivializa o valor do futuro no longo prazo pode ser encontrada no Apêndice A.

Alguns filósofos questionam o valor de protegermos o nosso futuro no longo prazo por uma razão bem diferente. Eles observam que a temporização dos benefícios não é a única característica comum deste caso. Se salvarmos a humanidade da extinção, isso mudará os números de pessoas que viverão. Isso traz à tona questões éticas que não surgem quando simplesmente salvamos as vidas de pessoas existentes. Algumas das abordagens mais extremas a esta área de estudo relativamente nova da “ética populacional” implicam que não há razão para evitarmos a extinção derivada de considerações sobre gerações futuras — simplesmente não importa se essas pessoas futuras virão ou não à existência.

Um tratamento completo dessas questões levaria tempo demais e seria apenas do interesse de alguns poucos, de modo que reservei a discussão detalhada ao Apêndice B. Resumindo brevemente: não acho essas visões muito plausíveis também. Elas têm dificuldade em capturar as nossas razões para nos preocuparmos se pioramos as vidas futuras ao poluirmos o planeta, ou ao modificarmos o clima, e em explicar por que temos fortes razões para impedir que vidas terríveis existam no futuro. E todas menos as mais implausíveis dessas visões concordam com a imensa importância de salvarmos gerações futuras de outros tipos de catástrofe existencial, como o colapso irreversível da civilização. Visto que a maioria das coisas que ameaçam a extinção ameaçam tal colapso também, não há muita diferença prática. Dito isso, as questões são complexas, e estimulo os leitores interessados a consultar o apêndice para mais detalhes.

Há uma outra objeção que desejo abordar. Quando era mais jovem, às vezes me confortava com a ideia de que talvez a destruição definitiva da humanidade não fosse má afinal. Não haveria nenhuma maldade nesses tempos futuros; logo, como a destruição poderia ser má? E se a existência da humanidade fosse de alguma forma essencial para juízos de certo e errado, bem e mal, talvez tais conceitos absolutamente não se aplicassem na quietude que decorreria.

Mas agora sei que isso não é em nada melhor que o velho argumento do filósofo Epicuro de que a morte não pode ser ruim para você, visto que você não está lá para vivenciá-la. O que isso negligência é que, se eu caminhar tráfego adentro e morrer, a minha vida como um todo será mais curta e assim pior: não por ter mais do que é ruim, mas por conter menos de tudo que torna a vida boa. É por isso que eu não deveria fazer isso. Embora o argumento de Epicuro possa prover consolo em tempos de luto ou medo, ele não é adequado para ser uma orientação para a ação, e ninguém o trata com tal. Imagine um governo que o utilize como fundamento para as nossas políticas de segurança ou cuidado médico — ou para as nossas leis sobre homicídio.

Se uma catástrofe neste século causasse a nossa extinção, a vida da humanidade seria mais curta e assim pior.^[30]Dado que podemos estar apenas em nossa infância, ela seria muito mais curta; muito pior. Ainda que não houvesse nenhum juiz remanescente para julgar isso como uma tragédia, podemos assim julgar com razão daqui. Assim como podemos julgar eventos em outros lugares, podemos julgar eventos em outros tempos.^[31]E se esses juízos são corretos agora, eles continuarão corretos quando não existirmos mais. Eu não culparia as pessoas que, nas horas finais da humanidade, encontrassem consolo em tais argumentos epicuristas. Mas a extensão e a qualidade da vida da humanidade ainda são decisão nossa, e devemos assumir essa responsabilidade.^[32]

Essas não são as únicas objeções. Ainda assim, não precisamos resolver todo problema filosófico sobre o valor do futuro a fim de decidir se o potencial da humanidade vale a pena proteger. Pois a ideia de que seria uma questão de relativa indiferença se a humanidade entrará em extinção ou florescerá por bilhões de anos, à primeira vista, é profundamente implausível. Nesse sentido, qualquer teoria que negue isso deve ser sujeita a um considerável ceticismo.^[33]

Além disso, o futuro não é a única lente moral pela qual podemos ver catástrofes existenciais. É uma que mais me afeta e que mais me persuade a dedicar meu tempo e energia a este assunto, mas há outras lentes, valendo-se de outras tradições morais. Assim, exploremos brevemente como a preocupação com riscos existenciais também poderia ter origem em considerações sobre o nosso passado, o nosso caráter e a nossa significância cósmica; e, assim, como pessoas com vários entendimentos diferentes da moral poderiam, todas elas, acabar com esta conclusão comum.

Olhando para o Nosso Passado

Não somos a primeira geração. Nossas culturas, instituições e normas; nosso conhecimento, tecnologia e prosperidade; essas coisas foram construídas gradualmente pelos nossos ancestrais, pelo curso de dez mil gerações. No último capítulo vimos como o extraordinário sucesso da humanidade dependeu da nossa capacidade de cooperar de modo intergeracional: herdando de nossos pais, fazendo alguns pequenos melhoramentos nossos e passando adiante para os nossos filhos. Sem essa cooperação não teríamos casas ou fazendas, não teríamos tradições de dança e música, escrita alguma, nação alguma.^[34]

Essa ideia foi belamente expressa pelo teórico político conservador Edmund Burke. Em 1790 escreveu ele sobre a sociedade:

É uma parceria em toda a ciência; uma parceria em toda a arte; uma parceria em toda virtude; e em toda a perfeição. Como as finalidades de tal parceria não podem ser obtidas exceto em muitas gerações, torna-se uma parceria não só entre aqueles que estão vivendo, mas entre aqueles que estão vivendo, aqueles que estão mortos e aqueles que estão para nascer.^[35]

Isso pode-nos dar razões para resguardar a humanidade que se fundamentam no nosso passado — obrigações para com nossos avós, assim como nossos netos

Nossos ancestrais puseram em movimento grandiosos projetos para a humanidade que são grandes demais para qualquer única geração realizar. Projetos como dar fim à guerra, formar um mundo justo e entender o nosso universo. No ano de 65 EC, Sêneca, o Jovem, estabeleceu explicitamente tal vasto projeto intergeracional.

Virá o tempo em que pesquisas diligentes sobre longos períodos trarão à luz coisas que agora encontram-se ocultas. Um único tempo de vida, mesmo que dedicado inteiramente ao céu, não bastaria para a investigação de um tema tão vasto (…) E assim este conhecimento será desdobrado somente por longas eras sucessivas. Virá um tempo em que os nossos descendentes ficarão maravilhados que não soubéssemos coisas que são tão claras a eles (…) Fiquemos satisfeitos com o que descobrimos, e que os nossos descendentes também contribuam com algo à verdade (…) Muitas descobertas estão reservadas para eras ainda por vir, quando a memória de nós terá sido apagada.^[36]

É espantoso que falem conosco tão diretamente através de tal abismo temporal e ver esse plano de 2.000 anos continuar a desdobrar-se.^[37]

Um humano, ou uma geração inteira, não pode completar tais projetos grandiosos. A humanidade pode. Podemos trabalhar juntos, cada geração fazendo um pouco de progresso enquanto constrói capacidades, recursos e instituições para capacitar as gerações futuras a dar o próximo passo.

De fato, quando penso na cadeia ininterrupta de gerações levando ao nosso tempo e tudo que elas construíram para nós, me vem um sentimento de humildade. Fico dominado pela gratidão; chocado com a enormidade da herança e com a impossibilidade de retribuir sequer a mínima fração do favor; porque cem bilhões das pessoas às quais tudo devo se foram para sempre e porque o que elas criaram é tão maior que a minha vida, que a minha geração inteira.

O mesmo vale no nível pessoal. Nos meses depois que minha filha nasceu, a grandeza de tudo que meus pais fizeram por mim foi revelada plenamente. Fiquei chocado. Contei a eles; agradeci a eles; desculpei-me pela impossibilidade de jamais restituir a eles. E eles sorriram, dizendo-me que não é assim que funciona — que não restituímos aos nossos pais. Nós passamos adiante.

Meus pais não são filósofos. Mas as suas observações sugerem outro modo como o passado poderia fundamentar os nossos deveres ao futuro. Porque a seta do tempo torna muito mais fácil ajudar pessoas que vêm após você do que pessoas que vêm antes, o melhor jeito de entender a parceria das gerações pode ser assimétrico, com os deveres todos fluindo adiante no tempo — pagando ao próximo. Nessa visão, nossos deveres a gerações futuras podem assim ser fundamentados no trabalho que os nossos ancestrais fizeram por nós quando nós éramos gerações futuras.^[38]

Logo, se deixarmos o bastão cair, sucumbindo a uma catástrofe existencial, falharemos com os nossos ancestrais numa multidão de maneiras. Falharemos na tentativa de realizar os sonhos que eram a sua esperança; trairíamos a confiança que eles puseram em nós, seus herdeiros; e falharíamos em qualquer dever de que tivéssemos de pagar ao próximo o trabalho que eles fizeram por nós. Negligenciar o risco existencial poderia assim fazer uma injustiça não só às pessoas do futuro, mas às pessoas do passado.

Também arriscaria a destruição de tudo de valor do passado que poderíamos ter razão para preservar.^[39] Alguns filósofos já sugeriram que o modo correto de responder a algumas coisas valiosas não é promovê-las, mas proteger ou preservá-las; prezar ou reverenciá-las.^[40]Frequentemente tratamos o valor de tradições culturais assim. Vemos línguas indígenas e estilos de vida ameaçados — talvez a serem perdidos para sempre deste mundo — e nos enchemos de um desejo de preservá-los e protegê-los de ameaças futuras.

Alguém que visse o valor da humanidade a essa luz pode não ser movido pela perda do que poderia ter sido; mas ainda ficaria horrorizado com a extinção: a ruína de todo templo e catedral, o apagamento de todo poema em toda língua, a destruição final e permanente de toda tradição cultural que a Terra já conheceu. Diante de sérias ameaças de extinção, ou de um colapso permanente da civilização, uma tradição enraizada na preservação ou na estima da riqueza da humanidade também clamaria pela ação.^[41]

Finalmente, poderíamos ter deveres ao futuro com origem nas falhas do passado. Pois poderíamos ser capazes de compensar por alguns dos erros do passado. Se fracassássemos agora, jamais poderíamos realizar dever algum que poderíamos ter de reparar o dano que causamos ao ambiente da Terra — limpando a nossa poluição e dejetos; restaurando o clima ao seu estado pré-industrial; retornando ecossistemas à sua glória desvanecida. Ou considere que algumas das maiores injustiças foram infligidas não por indivíduos a indivíduos, mas por grupos a grupos: perseguição sistemática, terras roubadas, genocídios. Podemos ter deveres de reconhecer e memorizar apropriadamente essas injustiças; de confrontar os atos do nosso passado. E pode haver maneiras para os beneficiários desses atos parcialmente os remediarem ou se redimirem deles. Sofrermos uma catástrofe existencial removeria qualquer última chance de fazermos isso.

Virtudes Civilizacionais

Se jogarmos direito as nossas cartas, a humanidade está num estágio inicial da vida: ainda em nossa adolescência; ansiosamente à espera de uma vida adulta extraordinária. Como um adolescente, estamos rapidamente desenvolvendo o nosso pleno poder e estamos impacientes para flexionar os nossos músculos, para experimentar toda nova capacidade no momento em que a adquirimos. Mostramos pouca consideração pelo nosso futuro. Verdade, às vezes falamos do “longo prazo”, mas com isso geralmente queremos dizer uma ou duas décadas seguintes. Um longo tempo para um humano; um momento para a humanidade.

Como o adolescente, a humanidade não tem necessidade alguma de planejar os detalhes do resto da sua vida. Mas ela precisa, sim, fazer planos que tenham em mente a duração e os moldes amplos do futuro. Senão, não podemos esperar saber quais riscos vale a pena corrermos e quais habilidades precisamos desenvolver para ajudar-nos a concretizar o nosso potencial.

Como muitos adolescentes, a humanidade é impaciente e imprudente; e às vezes escandalosamente impaciente e imprudente. Às vezes, isso tem origem numa incapacidade de pesar adequadamente os nossos ganhos no curto prazo em comparação com os nossos interesses no longo prazo. Mais comum é que seja porque negligenciamos completamente o nosso futuro no longo prazo, nem sequer considerando-o em nossa tomada de decisão. E como o adolescente, frequentemente esbarramos diretamente em riscos sem fazer absolutamente nenhum tipo de decisão consciente.

Essa analogia nos fornece outra lente pela qual podemos avaliar o nosso comportamento. Em vez de olhar para a moralidade das ações de um humano em particular conforme elas influenciam os outros, lidamos com as disposições e o caráter da humanidade como um todo e como eles ajudam ou prejudicam as nossas próprias chances de florescer. Quando olhamos para a própria humanidade como um agente grupal, englobando a todos por todo o tempo, podemos ganhar um insight sobre as forças ou fraquezas sistemáticas na capacidade da humanidade de alcançar o florescimento. Há virtudes e vícios na mais ampla escala — o que poderíamos chamar virtudes e vícios civilizacionais. Poderíamos tratá-los como algo que possui significância moral fundamental ou simplesmente como um modo útil de diagnosticar fraquezas importantes em nosso caráter e sugerir remédios.

Nem todas as virtudes precisam fazer sentido nesse nível, mas muitas fazem. A nossa falta de consideração por riscos ao nosso futuro inteiro é uma deficiência de prudência. Quando pomos os interesses da geração atual muito acima daqueles das gerações seguintes, expomos a nossa falta de paciência.^[42]Quando reconhecemos a importância do nosso futuro e ainda assim não o priorizamos, é uma falha de autodisciplina. Quando um retrocesso nos faz desistir do nosso futuro — ou presumimos que ele nada valha —, mostramos uma falta de esperança e perseverança, assim como uma falta de responsabilidade pelas nossas próprias ações.^[43]

Em sua célebre teoria das virtudes, Aristóteles sugeriu que as nossas virtudes são governadas e orientadas por uma forma de sabedoria prática. Isso se ajusta bem à ideia de virtudes civilizacionais também. Pois conforme o nosso poder continua a crescer, a nossa sabedoria prática precisa crescer com ele.

Significância Cósmica

Se estamos ou não sós no universo é um dos grandes mistérios remanescentes da ciência.^[44]Astrônomos eminentes como Martin Rees, Max Tegmark e Carl Sagan raciocinaram que, se estamos sós, a nossa sobrevivência e as nossas ações podem tomar uma significância cósmica.^[45]Embora certamente sejamos menores que galáxias e estrelas, menos espetaculares que supernovas ou buracos negros, ainda podemos ser uma das mais raras e preciosas partes do cosmos.^[46]A natureza de tal significância dependeria dos modos como somos singulares.

Se somos os únicos agentes morais a surgir em nosso universo — os únicos seres capazes de fazer escolhas com base no que é certo e errado —, a responsabilidade pela história do universo está inteiramente ao nosso encargo. Essa é a única chance de determinar o universo em direção ao que é certo, ao que é justo, ao que é melhor para todos. Se fracassarmos, o potencial não só da humanidade, mas de toda a ação moral, terá sido irreversivelmente desperdiçado.

A PERSPECTIVA DA HUMANIDADE

Enxergar a nossa situação da perspectiva da humanidade é um grande tema deste livro. É mais comum que se aborde a ética da perspectiva individual: o que eu deveria fazer? Ocasionalmente, ela é considerada da perspectiva de um grupo ou nação, ou até (mais recentemente) da perspectiva global de todos vivos atualmente. Entender o que o grupo deveria fazer pode ajudar seus membros a enxergar os papéis que eles precisam desempenhar. Às vezes, iremos dar um passo adiante, explorando a ética da perspectiva da humanidade.^[47] Não só a nossa geração presente como a humanidade pelo tempo profundo: refletindo sobre o que realizamos nas últimas 10.000 gerações e o que podemos ser capazes de realizar nos éons por vir. Esta perspectiva nos permite enxergar como o nosso próprio tempo se encaixa na narrativa mais ampla e quanto está em jogo. Ela muda o modo como vemos o mundo e o nosso papel nele, desviando a nossa atenção de coisas que afetam o presente fugaz para aquelas que poderiam fazer alterações fundamentais à configuração do futuro no longo prazo. O que mais importa para a humanidade? E qual papel neste plano a nossa geração deveria desempenhar? Qual papel eu deveria desempenhar?^[48]Claro que a humanidade não é um indivíduo. Mas com frequência é útil para nós pensarmos em grupos como agentes, ganhando insights ao falarmos das crenças, desejos e intenções de equipes, empresas ou nações. Considere com que frequência falamos da estratégia de uma empresa, dos interesses de uma nação ou até do que um país espera realizar com a sua última artimanha. Tais estados mentais geralmente são menos coerentes do que os de indivíduos, visto que pode haver tensões internas entre os indivíduos que constituem o grupo. Mas indivíduos também têm a sua própria ambivalência e inconsistência interna, e a ideia de “agente grupal” provou-se essencial para qualquer um tentando entender o mundo dos negócios ou o panorama internacional. Aplicar essa perspectiva à humanidade como um todo é cada vez mais útil e importante. A humanidade esteve fragmentada em povos isolados por quase todo o tempo desde que a civilização começou. Só recentemente que nos encontramos uns aos outros atravessando os mares e começamos a formar uma única civilização global. Só recentemente que descobrimos a extensão e forma da nossa longa história, ou o verdadeiro potencial do nosso futuro. E só recentemente que encaramos ameaças significativas que requerem uma coordenação global. Nem sempre devemos tomar essa perspectiva. Muitos desafios morais operam no nível pessoal ou no nível de grupos menores. E até quando se trata de grandes questões, às vezes é mais importante focarmos nos modos como a humanidade está dividida: em nosso poder e responsabilidade discrepante. Mas assim como vimos o valor de ocasionalmente adotarmos uma perspectiva global, também é importante às vezes darmos um passo para trás e tomarmos a perspectiva da humanidade. A ideia de virtudes civilizacionais é só um exemplo da adoção explícita desta perspectiva. No Capítulo 7, faremos isso novamente, considerando a grande estratégia para a humanidade. E até quando estamos olhando para as responsabilidades da nossa própria geração ou o que devemos fazer, isso será iluminado pelo grande panorama da humanidade atravessando os éons.

Alternativamente, se somos os únicos seres capazes de questionar sobre o universo, poderíamos ter uma razão a mais para buscar tal entendimento. Pois seria somente através de nós que uma parte do universo poderia vir a plenamente entender as leis que governam o todo.

E se a Terra é o único local no universo que dará origem à vida, toda a vida na Terra teria uma significância crucial. A Terra seria o único local em que há tanta complexidade em cada gota d’água, o único local em que algo viveu ou morreu, o único local em que algo sentiu, ou pensou, ou amou. E a humanidade seria a única forma de vida capaz de administrar a vida, protegendo-a de catástrofes naturais e, finalmente, levando-a para florescer por todo o cosmos.

Incerteza

Assim, poderíamos entender a importância do risco existencial em termos do nosso presente, do nosso futuro ou do nosso passado, do nosso caráter ou da nossa significância cósmica. Tenho maior confiança nas considerações fundamentadas no valor do nosso presente e do nosso futuro, mas a disponibilidade de outras lentes mostra a robustez da defesa da preocupação: não depende de nenhuma única escola de pensamento moral, mas nasce naturalmente de uma multiplicidade. Embora cada caminho possa sugerir uma força e natureza diferente de preocupação, em conjunto elas fornecem uma ampla base de apoio para a ideia de que evitarmos catástrofes existenciais é de grave importância moral.

Tenho certeza que muitos leitores estão convencidos dessa ideia, mas uns poucos ainda irão abrigar dúvidas. Tenho simpatia, porque eu também não estou completamente certo. Essa incerteza vem em duas partes. A primeira é o tipo cotidiano de incerteza: incerteza sobre o que irá acontecer no futuro. Pode ser que as evidências para o vasto potencial da humanidade sejam enganosas? A segunda é incerteza moral: incerteza sobre a natureza dos nossos compromissos éticos.^[49] Pode ser que eu esteja enganado sobre a força das nossas obrigações para com as futuras gerações?

No entanto, a defesa para tornarmos o risco existencial uma prioridade global não requer certeza, pois as coisas que estão em jogo não estão em equilíbrio. Se fizéssemos investimentos sérios para proteger a humanidade quando não temos nenhum dever genuíno de fazer isso, erraríamos, desperdiçando recursos que poderíamos ter gasto em outras causas nobres. Mas se fôssemos negligenciar o nosso futuro quando temos um dever genuíno de protegê-lo, faríamos algo muito pior — fracassando para sempre no que bem poderia ser o nosso dever mais importante. Logo, contanto que achemos a defesa para resguardar o nosso futuro bem plausível, seríamos extremamente irresponsáveis ao negligenciá-lo.^[50]

Mesmo que alguém fosse tão pessimista sobre o futuro a ponto de achá-lo negativo em expectativa — que as alturas que podemos alcançar são mais que igualadas pelas profundidades em que podemos afundar —, ainda há boa razão para proteger o nosso potencial.^[51]Para começar, algumas catástrofes existenciais (como um totalitarismo global permanente) continuariam sendo incontroversamente terríveis, e assim dignas da nossa atenção. Mas há uma razão mais profunda também. Nesse caso haveria imenso valor de informação em descobrirmos mais sobre se o nosso futuro será positivo ou negativo. De longe, a melhor estratégia seria proteger a humanidade até termos uma posição muito mais informada sobre essa questão crucial.^[52]

E não é só com respeito ao valor do futuro que os nossos descendentes estarão melhor informados. No presente, somos ainda mais inexperientes em termos gerais. Pouca prática temos nas complexidades de gerir uma civilização global, ou um planeta. A nossa visão do futuro ainda está obscurecida pela ignorância e distorcida por vieses. Mas os nossos descendentes, se tudo correr bem, serão muito mais sábios do que nós. Eles terão tido tempo para entender muito mais profundamente a natureza da nossa condição; eles irão receber força e insight de uma civilização mais justa, hábil e madura; e as suas escolhas, em geral, refletirão um entendimento mais pleno do que está em jogo quando escolherem. Nós no tempo presente, no que pode ser o próprio início da história, faríamos bem ao sermos humildes, deixarmos nossas opções abertas e garantirmos que os nossos descendentes tenham uma chance de enxergar mais claramente, e escolher mais acertadamente, do que podemos hoje.^[53]

Nossa Negligência com os Riscos Existenciais

O mundo está só agora despertando para a importância do risco existencial. Começamos a trabalhar na avaliação e na evasão das ameaças mais consideráveis, mas ainda temos de amplificar isso proporcionalmente à significância dos problemas. Visto no contexto da distribuição geral dos recursos globais, o risco existencial é penosamente negligenciado.

Considere a possibilidade de pandemias projetadas, que logo veremos que são um dos maiores riscos encarando a humanidade. O órgão internacional responsável pela proibição continuada de armas biológicas (a Convenção de Armas Biológicas) tem uma verba anual de apenas US$ 1,4 milhão — menos que o restaurante do McDonald’s da média.^[54]Todo o gasto na redução de riscos existenciais advindos de inteligências artificiais avançadas se encontra nas dezenas de milhões de dólares, em comparação com os bilhões gastos na melhoria das capacidades das inteligências artificiais.^[55]Embora seja difícil medir exatamente o gasto global no risco existencial, podemos declarar com confiança que a humanidade gasta mais em sorvete todo ano do que na garantia de que as tecnologias que desenvolvemos não nos destruam.^[56]

Na pesquisa científica, a história é semelhante. Embora pesquisas substanciais sejam empreendidas sobre o risco de catástrofes menores, as que poderiam destruir o potencial da humanidade no longo prazo são negligenciadas. Desde 1991, tem havido apenas um modelo climático publicado sobre os efeitos de uma guerra nuclear em escala total entre os Estados Unidos e a Rússia, mesmo enquanto centenas de mísseis permanecem a minutos de um possível lançamento.^[57]Tem havido um tremendo trabalho sobre o entendimento das mudanças climáticas, mas os piores cenários — como os que envolvem mais de seis graus de aquecimento — comparativamente pouco estudo receberam e são predominantemente ignorados em relatórios oficiais e discussões políticas.^[58]

Dada a realidade e importância de riscos existenciais, por que eles já não recebem a atenção de que precisam? Por que são sistematicamente negligenciados? As respostas podem ser encontradas na economia, na política, na psicologia e na história do risco existencial.

A teoria econômica nos diz que o risco existencial será subvalorizado por mercados, nações e até gerações inteiras. Embora os mercados façam um grande trabalho de suprir muitos tipos de bens e serviços, há alguns tipos dos quais há um déficit de oferta sistemático. Considere o ar puro. Quando a qualidade do ar é melhorada, o benefício não vai para um indivíduo particular, mas é compartilhado por todos na comunidade. E quando eu me beneficio de um ar mais puro, isso não diminui o benefício que você recebe dele. Coisas com essas duas propriedades são chamadas bens públicos e os mercados encontram problemas em supri-los.^[59]Tipicamente resolvemos isso num nível local ou nacional ao fazermos governos financiarem ou regulamentarem a provisão de bens públicos.

A proteção do risco existencial é um bem público: a proteção beneficiaria a todos nós e a minha proteção não viria às custas da sua. Logo, esperaríamos que o risco existencial seja negligenciado pelo mercado. Mas pior, a proteção do risco existencial é um bem público global — um bem cujo reservatório de beneficiários abarca o globo. Isso quer dizer que até estados-nações irão negligenciá-lo.

Estou escrevendo este livro no Reino Unido. A sua população de quase 70 milhões o classifica como um dos países mais populosos do mundo, mas ele contém menos de 1 por cento de todas as pessoas vivas hoje. Se ele tomar sozinho uma atitude quanto ao risco existencial, suportará o custo total da política, não obstante, colhendo um centésimo do benefício. Em outras palavras, ainda que tivesse um governo bem informado agindo pelo interesse de longo prazo dos seus cidadãos, ele subvalorizaria o trabalho no risco existencial por um fator de 100. Similarmente, a Rússia o subvalorizaria por um fator de 50, os Estados Unidos, por um fator de 20 e até a China o subvalorizaria por um fator de cinco. Visto que tal ampla proporção dos benefícios se espalha para outros países, cada nação é tentada a pegar carona nos esforços das outras, e parte do trabalho que beneficiaria a todos nós não será feito.

O mesmo efeito que causa esse déficit de oferta de proteção causa um excesso de oferta de risco. Visto que somente 1 por cento dos danos de catástrofes existenciais é suportado pelo povo do Reino Unido, o seu governo é incentivado a negligenciar as desvantagens de políticas que induzem riscos por esse mesmo fator de 100. (A situação é ainda pior se indivíduos ou pequenos grupos se tornam capazes de impor riscos existenciais.)

Isso significa que a gestão do risco existencial é feita da melhor forma no nível global. Mas a ausência de instituições globais efetivas para fazerem isso a torna extremamente difícil, retardando o tempo de reação do mundo e aumentando a chance de que países que resistem às políticas inviabilizem o processo inteiro.

E ainda que pudéssemos superar essas diferenças e barganhar por tratados e políticas efetivas sobre risco existencial, encararíamos um problema final. Os beneficiários não são meramente globais, mas intergeracionais: todas as pessoas que viverão. A proteção do risco existencial é um bem público global intergeracional. Logo, poderíamos esperar que até a população inteira do globo agindo em conjunto subvalorizasse os riscos existenciais por um fator bem grande, deixando-os enormemente negligenciados.^[60]

Razões a mais podem-se encontrar na ciência política. A atenção dos políticos e servidores públicos é frequentemente focada no curto prazo.^[61] As suas escalas temporais para pensar e agir são cada vez mais estabelecidas pelo ciclo eleitoral e pelo ciclo de notícias. É muito difícil para eles voltarem a atenção a questões em que a ação é necessária agora para evitar um problema que não irá ocorrer dentro de sete ciclos eleitorais. É improvável que eles sejam punidos por deixarem-no passar e muitas coisas mais urgentes estão clamando por atenção.

Uma exceção a isso é quando há um eleitorado ativo fazendo pressão para uma ação antecipada: a sua boa vontade age como um tipo de benefício imediato. Tais eleitorados são mais poderosos quando os benefícios da diretriz política estão concentrados entre uma pequena fração da sociedade, visto que isso faz valer a pena tomarem uma atitude política. Mas no caso do risco existencial, os benefícios da proteção estão difundidos entre todos os cidadãos, deixando nenhum eleitorado-chave para apropriar-se da temática. Isso é uma razão para a negligência, embora uma que é superável. Quando os cidadãos são empáticos e altruístas, identificando-se com a condição dos outros — como vimos no caso do meio ambiente, dos direitos dos animais e da abolição da escravidão —, eles podem ser estimulados com a paixão e a determinação necessárias para fazerem seus líderes prestarem contas.

Outra razão política diz respeito à simples gravidade do problema. Quando levantei o tópico do risco existencial com políticos e servidores públicos seniores, encontrei uma reação comum: uma preocupação genuína profunda combinada com um sentimento de que abordar os maiores riscos encarando a humanidade está “fora da minha alçada”. Recorremos ao nosso governo para administrar problemas que vão além do escopo das nossas vidas enquanto indivíduos, mas isso vai além do escopo das nações também. Por razões políticas (assim como econômicas), parece uma questão para uma grandiosa ação internacional. Mas como as instituições internacionais são tão frágeis, ela é deixada pendente.

A psicologia comportamental identificou duas outras razões pelas quais negligenciamos o risco existencial, enraizadas nas heurísticas e vieses que utilizamos como atalhos para tomar decisões num mundo complexo.^[62]A primeira delas é a heurística da disponibilidade. Essa é a tendência que as pessoas têm de estimar a probabilidade de eventos com base na sua capacidade de recordar-se de exemplos. Isso provoca sentimentos intensos de evitar repetições de tragédias recentes (especialmente aquelas que são vívidas e amplamente reportadas). Mas significa que frequentemente atribuímos menos peso a eventos que são tão raros que não ocorreram em nosso tempo de vida, ou que são sem precedentes. Até quando especialistas estimam uma significativa probabilidade de um evento sem precedentes, temos grande dificuldade em acreditar nele até o vermos.

Para muitos riscos, a heurística da disponibilidade é um guia decente, permitindo-nos construir métodos para gerir o risco por meio de tentativa e erro. Mas com riscos existenciais ela falha completamente. Pois pela sua própria natureza, jamais temos nenhuma experiência de uma catástrofe existencial antes que seja tarde demais. Se só acreditarmos vendo, pisaremos cegamente sobre o precipício.

A nossa necessidade de vividez também governa os nossos impulsos altruístas. Enquanto uma sociedade, somos bons em sentir compaixão aguda por aqueles em perigo — por vítimas de um desastre que podemos ver nos noticiários. Podemos nem sempre agir, mas certamente sentimos. Ficamos alertas, com o coração na boca: temendo pela sua segurança, lamentando pela sua perda. Mas necessitamos é de uma compaixão mais expansiva; uma que aja pelo longo prazo, reconhecendo a humanidade de pessoas em tempos distantes, assim como em lugares distantes.

Também sofremos de um viés conhecido como negligência com o escopo. Isso é uma falta de sensibilidade à escala de um benefício ou dano. Temos problemas em importar-nos dez vezes mais com algo quando é dez vezes mais importante. E quando o que está em jogo chega a certo ponto, a nossa preocupação pode saturar-se.^[63]Por exemplo, tendemos a tratar a guerra nuclear como um desastre completo, de modo que não distinguimos guerras nucleares entre nações com um punhado de armas nucleares (nas quais milhões morreriam) de um confronto nuclear com milhares de armas nucleares (no qual mil vezes mais pessoas morreriam, e o nosso futuro inteiro poderia ser destruído). Visto que o risco existencial deriva sua importância moral crucial do tamanho do que está em jogo, a negligência com o escopo nos leva a atribuir menos peso que deveríamos à sua importância.

Essas razões para a negligência com o risco existencial apresentam um desafio formidável a que ele receba uma devida preocupação. E ainda assim, estou esperançoso: o risco existencial é algo muito novo. Logo, não houve ainda tempo para nós o incorporarmos às nossas tradições morais e cívicas. Mas são bons os sinais de que isso poderia mudar.

Os humanos têm contemplado o fim da humanidade desde os tempos mais primevos. Quando um bando ou uma tribo isolada se extinguia num período de extrema adversidade, os últimos sobreviventes se teriam às vezes questionado sobre se eles eram os últimos do seu tipo ou se outros como eles viviam em outro lugar. Mas parece ter havido muito pouco pensamento cuidadoso sobre a possibilidade e a importância da extinção humana até muito recentemente.^[64]

Não foi até meados do século XX, com a criação de armas nucleares, que a extinção humana passou de uma possibilidade remota (ou uma certeza remota no tempo) para um perigo iminente. Apenas três dias após a devastação de Hiroshima, Bertrand Russell começou a escrever o seu primeiro ensaio sobre as implicações para o futuro da humanidade.^[65]E não muito depois, muitos dos cientistas que criaram essas armas formaram o Boletim dos Cientistas Atômicos para liderar a conversa sobre como prevenir a destruição global.^[66]Albert Einstein logo se tornou uma das principais vozes e seu ato público final foi assinar um Manifesto com Russell argumentando contra a guerra nuclear explicitamente com base na ideia de que ela poderia pressagiar o fim da humanidade.^[67]Líderes da Guerra Fria, como Eisenhower, Kennedy e Brezhnev, ficaram cientes da possibilidade de extinção e algumas das suas implicações.^[68]

O início dos anos 1980 viu uma nova onda de pensamento, com Jonathan Schell, Carl Sagan e Derek Parfit fazendo um grande progresso no entendimento do que está em jogo — todos os três dando-se conta de que incalculáveis gerações futuras podem eclipsar as consequências imediatas.^[69]A descoberta de que armas atômicas podem engatilhar um inverno nuclear influenciou tanto Ronald Reagan quanto Mikhail Gorbachev a reduzir as armas do seu país e evitar a guerra.^[70]

E o público também reagiu. Em 1982, o Central Park de Nova York viu um milhão de pessoas reunirem-se para marchar contra as armas nucleares. Foi o maior protesto na história da sua nação.^[71]Até a minha terra natal, a Austrália, que não tem armas nucleares, juntou-se ao protesto global — meus pais levando-me com eles às marchas quando era apenas uma criancinha que eles estavam lutando para proteger.

Dessa forma, o risco existencial foi uma ideia altamente influente no século XX. Mas porque havia um risco dominante, tudo ocorreu sob a bandeira da Guerra Nuclear, com filósofos discutindo sobre os profundos novos problemas criados pela “ética nuclear”, em vez do “risco existencial”. E com o fim da Guerra Fria, esse risco diminuiu e a conversa desvaneceu. Mas essa história mostra que o risco existencial é capaz de despertar uma grande preocupação global, da elite até as bases.

O pensamento moderno sobre risco existencial pode ser traçado através de John Leslie, cujo livro de 1996 The End of the World [O Fim do Mundo] ampliou o foco da guerra nuclear para a extinção humana em geral. Após a obra de Leslie, Nick Bostrom deu um passo além: identificando e analisando a classe mais ampla de riscos existenciais que é o foco deste livro.

As nossas tradições políticas e morais foram construídas durante milhares de anos. O seu foco assim está predominantemente sobre questões atemporais que estiveram conosco por toda a história. Leva tempo para incorporarmos as novas possibilidades que a nossa era abre, até quando essas possibilidades são de imensa significância moral. O risco existencial ainda parece novo e estranho, mas tenho esperança de que ele logo encontre seu caminho dentro das nossas tradições morais comuns. O ambientalismo invadiu a cena política global menos de vinte anos antes de eu nascer, e ainda assim fui criado num meio no qual ele era uma das principais partes da nossa educação moral; no qual a desconsideração anterior ao meio ambiente havia-se tornado impensável à minha geração. Isso pode acontecer de novo.

Uma das minhas principais metas ao escrever este livro é dar fim à nossa negligência com o risco existencial — estabelecer a importância decisiva de resguardarmos a humanidade e colocar isso entre o panteão de causas às quais o mundo dedica atenção e recursos substanciais. Exatamente quão substanciais continua sendo uma questão em aberto, mas claramente merece muito mais foco do que tem recebido até o momento. Sugiro que comecemos gastando mais na proteção do futuro do que gastamos em sorvete e decidamos aonde ir a partir daí.

Vimos agora a ampla envergadura da história humana, o tamanho do potencial da humanidade e por que resguardar o nosso futuro é de extrema importância. Mas até o momento, em grande parte, você teve que aceitar a minha palavra de que encaramos riscos reais. Logo, voltemos a nossa atenção a esses riscos, examinando as evidências científicas cruciais por trás deles e distinguindo quais são os mais dignos da nossa preocupação. Os próximos três capítulos exploram os riscos naturais que encaramos durante a nossa história; a aurora dos riscos antropogênicos no século XX; e os novos riscos que iremos encarar durante o século vindouro.

Bibliografia

Arnett, R. L. (1979). “Soviet attitudes towards nuclear war survival (1962– 1977): has there been a change?” [PhD thesis]. The Ohio State University.
Baier, A. (1981). “The Rights of Past and Future Persons,” em E. Partridge (ed.), Responsibilities to Future Generations: Environmental Ethics (pp. 171–83). Prometheus Books.
Beckstead, N. (2013). “On the Overwhelming Importance of Shaping the Far Future” [PhD Thesis]. Department of Philosophy, Rutgers University.
Bostrom, N. (2002b). “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards.” Journal of Evolution and Technology, 9.
—(2003). “Astronomical Waste: The Opportunity Cost of Delayed Technological Development.” Utilitas, 15(3), 308–14.
—(2009). “Pascal’s Mugging.” Analysis, 69(3), 443–5.
—(2013). “Existential Risk Prevention as Global Priority.” Global Policy, 4(1), 15–31.
Bostrom, N. e Ćirković, M. M. (2008). “Introduction,” em N. Bostrom and M. Ćirković (eds.), Global Catastrophic Risks (pp. 1–30). Oxford University Press.
Brand, S. (April 2000). “Taking the Long View.” Time.
Buchner, B. K., et al. (2017). Global Landscape of Climate Finance 2017. Climate Policy Initiative.
Burke, E. (1790). Reflections on the French Revolution. James Dodsley. [Ed. bras.: Reflexões sobre a Revolução na França. São Paulo: Edipro, 2014.]
BWC ISU (2019). Biological Weapons Convention—Budgetary and Financial Matters (January 21, 2019, Letter from BWC Implementation Support Unit to BWC Representatives). https://www.unog.ch/80256EDD006B8954/(httpAssets)/1FE92995054B8108C1258394004233AD/$file/2019-0131+2018+MSP+Chair+letter+on+financial+measures.pdf.
Coupe, J., Bardeen, C. G., Robock, A. e Toon, O. B. (2019). “Nuclear Winter Responses to Nuclear War Between the United States and Russia in the Whole Atmosphere Community Climate Model Version 4 and the Goddard Institute for Space Studies ModelE.” Journal of Geophysical Research: Atmospheres, 8,522–43.
Cohen, G. A. (2011). “Rescuing Conservatism: A Defense of Existing Value,” em Reasons and Recognition: Essays on the Philosophy of T. M. Scanlon (pp. 203–26). Oxford University Press.
Diderot, D. (1755). “Encyclopedia,” em P. Stewart (trad.), Encyclopédie ou Dictionnaire raisonné des sciences, des arts et des métiers, vol. 5 (pp. 635–648A). Michigan Publishing.
Dylan, B. (1963). “Let me die in my footsteps” [Letra]. The Freewheelin’ Bob Dylan. Columbia Records.
EIA (2019). “Electric Power Monthly with Data for April 2014.” US Energy Information Administration.
Eisenhower, D. (1956). Letter, DDE to Richard L. Simon, Simon and Schuster, Inc. DDE’s Papers as President, DDE Diaries Series, Box 14, April 1956 Miscellaneous (5).
Farquhar, S. (2017). Changes in Funding in the AI Safety Field. https://www.centreforeffectivealtruism.org/blog/changes-in-funding-inthe-ai-safety-field/.
Frick, J. (2017). “On the Survival of Humanity.” Canadian Journal of Philosophy, 47(2–3), 344–67.
Gorbachev, M. e Hertsgaard, M. (September 24, 2000). “Mikhail Gorbachev Explains What’s Rotten in Russia.” Salon.
Greaves, H. e Ord, T. (2017). “Moral Uncertainty About Population Axiology.” Journal of Ethics and Social Philosophy, 12(2), 135–67.
IDC (2019). Worldwide Spending on Artificial Intelligence Systems Will Grow to Nearly $35.8 Billion in 2019, According to New IDC Spending Guide. https://www.idc.com/getdoc.jsp?containerId=prUS44911419.
IEA (2018). “Costs and Benefits of Emergency Stockholding,” Insights Series 2018, International Energy Agency.
IMARC Group (2019). “Ice Cream Market: Global Industry Trends, Share, Size, Growth, Opportunity and Forecast 2019–2024.” IMARC.
Jonas, H. (1984 [1979]). The Imperative of Responsibility. University of Chicago Press. [Ed. bras.: O Princípio Responsabilidade. Rio de Janeiro: Contraponto, 2007.]
Kahneman, D. (2011). Thinking, Fast and Slow. Macmillan.
Kennedy, J. F. (1961). JFK Address at UN General Assembly, September 25, 1961. JFK Library Foundation.
King, D., et al. (2015). Climate Change: A Risk Assessment. Centre for Science and Policy.
Lovelock, J. (2019). Novacene: The Coming Age of Hyperintelligence. Penguin.
MacAskill, W. (2014). “Normative Uncertainty” [PhD Thesis]. Faculty of Philosophy, University of Oxford.
MacAskill, W., Bykvist, K. e Ord, T. (s.d.). Moral Uncertainty (no prelo). Oxford University Press.
MacAskill, W. e Ord, T. (2018). “Why Maximize Expected ChoiceWorthiness?” Noûs, 1–27.
Marin, F. e Beluffi, C. (2018). Computing the Minimal Crew for a MultiGenerational Space Travel towards Proxima Centauri b. ArXiv, http://arxiv.org/abs/1806.03856.
McDonald’s Corporation (2018). Form 10-K, “Annual Report Pursuant to Section 13 or 15(D) of the Securities Exchange Act of 1934 for the Fiscal Year ended December 31, 2017” (McDonald’s Corporation 2017 Annual Report). McDonald’s Corporation.
McGuire, B. (1965). “Eve of Destruction” [Letra]. Dunhill.
Montgomery, P. (June 13, 1982). “Throngs Fill Manhattan to Protest Nuclear Weapons.” The New York Times.
Moore, G. E. (1903). Principia Ethica. Cambridge University Press. [Ed. bras.: Principia Ethica. São Paulo: Ícone, 2017.]
Newton, I. e McGuire, J. E. (1970). “Newton’s ‘Principles of Philosophy’: An Intended Preface for the 1704 ‘Opticks’ and a Related Draft Fragment.” The British Journal for the History of Science, 5(2), 178–86.
Parfit, D. (1984). Reasons and Persons. Oxford University Press.
—(2017b). On What Matters, vol. 3. Oxford University Press.
Peabody Energy (2018). “2018 Annual Report.” Peabody Energy Corp.
Rawls, J. (1971). A Theory of Justice. Belknap. [Ed. bras.: Uma Teoria da Justiça. São Paulo: Martins Fontes, 2016.]
Reagan, R. e Weinraub, B. (February 12, 1985). “Transcript of Interview with President Reagan on a Range of Issues.” The New York Times.
Rees, M. (2003). Our Final Century. Random House.
Robock, A., Oman, L. e Stenchikov, G. L. (2007). “Nuclear Winter Revisited with a Modern Climate Model and Current Nuclear Arsenals: Still Catastrophic Consequences.” Journal of Geophysical Research: Atmospheres, 112(D13).
Russell, B. (August 18, 1945). “The Bomb and Civilisation.” Forward.
—(2002). “1955 address to the world’s press assembled in London: The Russell-Einstein Manifesto,” em K. Coates, J. Rotblat e N. Chomsky (eds.), The Russell-Einstein Manifesto: Fifty Years On (Albert Einstein, Bertrand Russell, Manifesto 50). Spokesman Books.
—(2009). Autobiography. Taylor and Francis.
Sagan, C., et al. (December 14, 1980). Cosmos: A Personal Voyage — Episode 12: Encyclopaedia Galactica [Série de TV]. PBS.
Sagan, C. (1983). “Nuclear War and Climatic Catastrophe: Some Policy Implications.” Foreign Affairs, 62(2).
Sagan, C. e Ostro, S. J. (1994). “Dangers of Asteroid Deflection.” Nature, 368(6471), 501.
Sandberg, A., Drexler, E. e Ord, T. (2018). Dissolving the Fermi Paradox. ArXiv, http://arxiv.org/abs/1806.02404.
Scheffler, S. (2009). “Immigration and the Significance of Culture,” em N. Holtug, K. Lippert-Rasmussen e S. Lægaard (eds.), Nationalism and Multiculturalism in a World of Immigration (pp. 119–50). Palgrave Macmillan UK.
—(2018). Why Worry About Future Generations? em Uehiro Series in Practical Ethics. Oxford University Press.
Schell, J. (1982). The Fate of the Earth. Avon. [Ed. bras.: O Destino da Terra. Rio de Janeiro: Record, 1982.]
Seneca, L. A. (1972). Natural Questions, vol. II (trad. T. H. Corcoran). Harvard University Press.
Slovic, P. (2007). “‘If I look at the mass I will never act’: Psychic Numbing and Genocide,” em Judgment and Decision Making (vol. 2).
Smart, J. J. C. (1973). “An Outline of a System of Utilitarian Ethics,” em J. J. C. Smart and B. Williams (eds.), Utilitarianism: For and Against (pp. 1–74). Cambridge University Press.
Sverdrup, H. U. e Olafsdottir, A. H. (2019). “Assessing the Long-Term Global Sustainability of the Production and Supply for Stainless Steel.” BioPhysical Economics and Resource Quality, 4(2), 8.
Smith, C. M. (2014). “Estimation of a Genetically Viable Population for Multigenerational Interstellar Voyaging: Review and Data for Project Hyperion.” Acta Astronautica, 97, 16–29.
Tegmark, M. (2014). Our Mathematical Universe: My Quest for the Ultimate Nature of Reality. Knopf Doubleday Publishing Group.
Watson, C., Watson, M., Gastfriend, D. e Sell, T. K. (2018). “Federal Funding for Health Security in FY2019.” Health Security, 16(5), 281– 303.
Wiener, J. B. (2016). “The Tragedy of the Uncommons: On the Politics of Apocalypse.” Global Policy, 7, 67–80.
Williams, E. G. (2015). “The Possibility of an Ongoing Moral Catastrophe.” Ethical Theory and Moral Practice, 18(5), 971–82.
World Bank (2019a). GDP (current US$).

–

Notas

[1]Baier (1981).

[2]Veja Bostrom (2002b; 2013).

[3]Bostrom (2013) definiu risco existencial como “um que ameaça a extinção prematura da vida inteligente originária da Terra ou a destruição permanente e drástica do seu potencial para um desenvolvimento futuro desejável”. Minha definição (e esclarecimentos abaixo) está bastante alinhada à segunda metade da de Bostrom. Não ecoei a primeira parte, visto que é logicamente desnecessária (nossa “extinção prematura” em si seria “um cerceamento permanente e drástico”) e assim afasta a atenção do âmago da questão: a destruição do nosso potencial no longo prazo. Observe que em minhas definições, um risco existencial é simplesmente o risco de uma catástrofe existencial. Poderia até tê-lo definido assim diretamente, mas quis que a definição se sustentasse por si só.

[4]Estou fazendo uma escolha deliberada de não definir a maneira precisa de que o conjunto de possíveis futuros determina o nosso potencial. Uma abordagem simples diria que o valor do nosso potencial é o valor do melhor futuro aberto a nós, de modo que uma catástrofe existencial ocorre quando o melhor futuro restante vale somente uma pequena fração do melhor futuro que podíamos atingir anteriormente. Outra abordagem seria levar em conta a dificuldade de alcançar cada possível futuro, definindo, por exemplo, o valor do nosso potencial como o valor esperado do nosso futuro presumindo que tenhamos seguido a melhor diretriz política. Mas deixo uma resolução disso para trabalhos futuros.

Defino catástrofes existenciais em termos da destruição do nosso potencial, em vez da permanência do resultado, por duas razões-chave. A primeira é que é uma definição mais útil para identificarmos um conjunto de riscos com semelhanças cruciais no modo como eles funcionam e no modo como devemos superá-los. A segunda razão se encontra no meu otimismo quanto à humanidade. Dado um tempo longo o bastante com o nosso potencial intacto, creio que temos uma chance muito alta de concretizá-lo: que reveses não serão permanentes a não ser que destruam a nossa capacidade de recuperar-nos. Se for assim, a maior parte da probabilidade de que a humanidade fracasse na realização de um grande futuro vem exatamente da destruição do seu potencial: do risco existencial.

[5]Há outros sentidos de potencial que poderíamos discutir, como um tipo mais restrito de potencial que só leva em conta o que podemos fazer atualmente, ou provavelmente somos capazes de fazer, e assim poderia ser aumentado ao trabalharmos para expandir as nossas capacidades. No entanto, neste livro só estarei preocupado com o nosso potencial no longo prazo (no sentido que descrevi no texto principal). Quando simplesmente digo “potencial” (em prol da brevidade), isso deve ser tratado como “potencial no longo prazo”.

[6]Deixando em aberto que possa haver uma chance remota de recuperação, algumas das minhas afirmações mais contundentes não são verdadeiras ao pé da letra. Por exemplo, que uma catástrofe existencial envolveria algo “sem volta”. É uma pena, mas acho que é um custo que vale a pena suportar.

O propósito de deixar abertas chances remotas de recuperação é evitar respostas de que sempre há alguma chance — talvez incrivelmente pequena — de que as coisas se recuperem, de modo que, numa leitura mais estrita de potencial, ele jamais poderia ser completamente destruído. Mas tomar essa leitura extremamente estrita não seria útil. Não importa muito para a nossa tomada de decisão se um cenário teria uma chance zero de recuperação ou meramente uma chance de 0,1% de recuperação. Ambos os casos são quase igualmente ruins em comparação com o mundo atual e são ruins pela mesma razão: que são extremamente difíceis de reverter, (quase completamente) destruindo o nosso potencial no longo prazo. Além disso, eles justificam um diagnóstico semelhante sobre o que devemos fazer, como precisar de trabalho proativo, em vez de aprendizado de tentativa e erro. Uma possibilidade literalmente “sem volta” deveria ser evitada pelas mesmas razões que uma “praticamente sem volta”. Assim, é mais útil incluir situações quase inescapáveis na definição, assim como aquelas que são completamente inescapáveis.

[7]Se o nosso potencial excedesse enormemente o estado atual da civilização, algo que simplesmente tranca o estado atual contaria como uma catástrofe existencial. Um exemplo seria uma renúncia irreversível a um progresso tecnológico adicional.

Pode parecer estranho chamar algo de uma catástrofe devido meramente a estar muito aquém do ótimo. Isso é porque geralmente associamos eventos que destroem o potencial com aqueles que trazem sofrimento imediato e raramente pensamos em eventos que poderiam destruir o nosso potencial enquanto deixam o nosso valor atual intacto. Mas considere, digamos, uma escolha da parte dos pais de não educar o seu filho. Não há nenhum sofrimento imediato, embora resultados catastróficos no longo prazo para a criança possam ter sido trancados.

[8]Em alguns casos, as ideias e metodologia deste livro podem ser aplicadas a essas “ameaças existenciais” locais, visto que têm um caráter um tanto semelhante (em miniatura).

[9]Isso não carece de problemas. Por exemplo, às vezes teremos de dizer que algo costumava ser um risco (dado o nosso conhecimento passado), mas não é mais. Um exemplo seria a possibilidade de que armas nucleares incendeiem a atmosfera (veja p. 90). Mas observe que isso surge em todo tipo de risco, como pensar que semana passada havia um risco de o elevador cair devido a um cabo desgastado, mas presenciar a queda desse risco para zero dado o nosso conhecimento atual (inspecionamos o cabo e descobrimos que está OK). Para mais sobre probabilidade objetiva versus evidencial na definição de risco existencial, veja Bostrom & Ćirković (2008) and Bostrom (2013).

[10]Vemos com frequência listas contendo muitas civilizações históricas que entraram em colapso, como o Império Romano e os maias. Mas não é disso que estou falando neste livro quando falo do colapso (global) da civilização. As estatísticas desses colapsos menores pouca relevância têm sobre se a civilização global entrará em colapso. As civilizações particulares que entraram em colapso eram altamente localizadas e foram mais semelhantes ao colapso de um único país do que da civilização global. Por exemplo, até o Império Romano no seu apogeu era muito menor que o Brasil é agora tanto em extensão territorial quanto em população. Essas civilizações pequenas estavam muito mais sujeitas a efeitos climáticos regionais, um único governo ruim e ataques vindos de fora. Além disso, os colapsos foram muito menos profundos do que o que estou considerando: com frequência, cidades e aldeias inteiras sobreviveram ao “colapso”, as pessoas não foram reduzidas a um estilo de vida pré-agrícola e muitos aspectos da cultura continuaram.

[11]Ou algum modo mais direto de impedir a civilização ou a agricultura, como um dano ambiental extremo ou uma doença continuamente debilitante. É possível que devido a alguma forma de aumento de fragilidade, o mundo seja menos resistente ao colapso que a Europa medieval era, e assim que uma perda de menos de 50% da população causaria isso. No entanto, estou cético e acho tão provável quanto isso que até uma perda de 90% possa não causar a completa perda da civilização.

[12] Da perspectiva da história recente, essas revoluções agrícolas começaram bem distantes no tempo, sendo que a dianteira de milhares de anos para algumas civilizações teve um grande papel na sua influência subsequente no palco mundial. Mas de uma perspectiva mais ampla, esses desenvolvimentos agrícolas independentes ocorreram em momentos extraordinariamente semelhantes: apenas alguns milhares de anos de distância numa história que se estende por centenas de milhares de anos. Isso sugere que a agricultura não tenha sido um avanço tecnológico improvável, mas uma resposta bem típica a uma causa comum. O gatilho mais provável foi o fim da grande “era glacial” que terminou entre 17.000 e 10.000 anos atrás, assim que a agricultura começou. Isso teve efeitos dramáticos sobre o ambiente, tornando o mundo menos adequado para a caça e mais adequado para o cultivo.

[13]No geral, a tendência é em direção a dificultar o acesso a recursos, visto que acessamos os fáceis primeiro. Isso é verdade quanto a recursos intocados no solo. Mas isso leva as pessoas a negligenciar a vasta quantidade de recursos que já estão no processo de ser extraídos, que estão sendo armazenados e que estão nas ruínas da civilização. Por exemplo, há uma única mina de carvão a céu aberto no estado de Wyoming que produz 100 milhões de toneladas de carvão a cada ano e tem 1,7 bilhões de toneladas restantes (Peabody Energy, 2018). No momento em que escrevo, usinas de carvão nos EUA mantêm em reserva 100 milhões de toneladas de carvão prontas para o uso (EIA, 2019). Há cerca de 2 bilhões de barris de petróleo em reservas estratégicas (IEA, 2018, p. 19), e a nossa civilização global contém cerca de 2.000 kg de ferro em uso por pessoa (Sverdrup & Olafsdottir, 2019).

[14]Apesar de que veremos no Capítulo 4 que até um inverno nuclear ou mudanças climáticas extremas teriam pouca probabilidade de produzir dano ambiental suficiente em toda parte do mundo para fazer isso.

[15] A questão da população viável mínima também surge ao considerarmos a viagem espacial multigeracional. Marin & Beluffi (2018) acham que uma população inicial de 98 seja adequada, enquanto Smith (2014) defende um mínimo muito mais alto entre 14.000 e 44.000. Pode ser possível que até uma população menor sobreviva, dependendo das tecnologias genéticas disponíveis para minimizar riscos de endogamia e deriva genética.

[16]Creio que isso tenha levado as pessoas a pensar na possibilidade da extinção humana como banal, em vez de profunda. Seu uso como instrumento narrativo em tais filmes, de fato, é banal. Mas seria um grande erro deixar esse juízo sobre o seu uso na ficção ofuscar o nosso entendimento da sua importância para o futuro.

[17] Tampouco encontramos com frequência explorações emocionais sérias, como “Let Me Die in My Footsteps” de Bob Dylan (1963) ou “Eve of Destruction” de Barry McGuire (1965).

[18]Veja Slovic (2007).

[19]Parfit (1984), pp. 453–4.

[20]Essa diferença qualitativa é o que faz a diferença segundo as visões que veremos posteriormente, concernentes ao nosso passado, virtude e significância cósmica.

[21]Schell (1982), p. 182.

[22]Isso justifica alguma elaboração. Seguindo Parfit (1984), podemos pensar no que seria perdido caso entrássemos em extinção em duas partes.

A primeira é a perda do que poderíamos ser. A perda de cada e toda pessoa que poderia ter vivido. Os filhos e netos que jamais teríamos: milhões de gerações da humanidade, cada qual constituída de bilhões de pessoas, com vidas de uma qualidade que ultrapassa a das nossas. Perdidas. Uma catástrofe não mataria essas pessoas, mas excluiria a sua própria existência. Não as apagaria, mas garantiria que elas jamais fossem escritas. Perderíamos o valor de tudo que tornaria boa cada uma dessas vidas — seja a sua felicidade, seja sua liberdade, seja seu sucesso, seja a sua virtude. Perderíamos as próprias pessoas. E perderíamos qualquer valor residente nas relações entre as pessoas ou na tessitura da sua sociedade — seu amor, camaradagem, harmonia, igualdade e justiça.

A segunda é a perda do que poderíamos fazer. Considere as nossas maiores realizações nas artes e nas ciências, e quantas delas foram alcançadas somente nos últimos séculos. Se chegarmos aos próximos séculos com o nosso potencial intacto, provavelmente produziremos grandezas maiores do que já vimos até o momento. Podemos alcançar um dos próprios picos da ciência: a completa descrição das leis fundamentais que governam a realidade. E continuaremos a expandir a amplitude do nosso progresso, alcançando novas províncias ainda a serem exploradas.

Talvez as mais importantes sejam realizações morais potenciais. Embora tenhamos feito um progresso substancial durante os séculos e milênios, ele tem sido mais lento que em outros domínios e mais titubeante. A humanidade contém o potencial para moldar um mundo verdadeiramente justo, e concretizar esse sonho seria uma profunda realização.

Há tanto que poderíamos ser e fazer, tamanha variedade de florescimento e realização pela frente, que a maioria das concepções de valor encontrarão algo para lamentar caso fracassemos, caso esbanjemos esse potencial. E porque esse florescimento e essa realização são numa escala tão grandiosa, a salvaguarda do nosso potencial é da maior importância.

[23]Logo, a escala do nosso futuro não é só importante em termos consequencialistas. Também alimenta argumentos para a redução de risco existencial que têm origem em considerações sobre equidade e justiça.

[24]Com “importam igualmente” quero dizer que cada coisa boa ou ruim na sua vida importa igualmente, não importa quando elas vivam. Em média, as vidas das pessoas hoje são melhores do que as vidas das pessoas milhares de anos atrás, pois contêm mais coisas boas e podem ser mais importantes instrumentalmente também, pois vivemos num tempo decisivo. Logo, nesses outros sentidos, as nossas vidas podem importar mais agora, mas esse outros sentidos são compatíveis com o tipo de neutralidade temporal que endosso.

[25]Isso foi sugerido por J. J. C. Smart (1984, pp. 64–5) e G. E. Moore (1903, § 93).

[26]Novas gerações terão novos riscos que podem ajudar a reduzir, mas somente nós podemos reduzir os riscos sendo impostos agora e nas décadas que vêm.

[27]O nome foi cunhado por William MacAskill e eu. As ideias desenvolvem as de nossos colegas Nick Beckstead (2013) e Nick Bostrom (2002b, 2003). MacAskill está trabalhando atualmente num grande livro que explora essas ideias.

[28]Veremos no Apêndice E que, além de resguardar a humanidade, há outros modos gerais como nossos atos poderiam ter uma influência prolongada no futuro no longo prazo.

[29]Numa taxa de desconto de 0,1% por ano (baixa segundo os padrões dos economistas), os milhões de anos intermediários tornam o sofrimento em um milhão de anos mais que 1.0434 vezes mais importante que a mesma quantidade de sofrimento em dois milhões de anos.

[30]Isso poderia resultar em diferentes coisas dependendo da nossa teoria do valor. Para algumas, pode literalmente envolver a maldade da morte do agente grupal ou espécie: a humanidade. Para outras, será a ausência de vidas humanas no futuro e tudo de bom a respeito delas.

[31]Há sérios desafios em fazer isso se o outro tempo (ou lugar) envolve uma cultura muito diferente, mas isso não é relevante para esse exemplo.

[32]Imagine o que pensaríamos se descobríssemos que o nosso governo ignorou o risco de guerra nuclear com base na ideia de que, se estivéssemos todos mortos, isso não poderia ser ruim.

[33]E ainda que após esse ceticismo ainda nos inclinemos a tal teoria, devemos continuar muito cuidadosos sobre seguir o seu conselho com respeito à área particular em que ela mais se desvia da nossa intuição e das outras teorias que achamos plausíveis: sobre o valor do futuro no longo prazo. Veja Beckstead (2013, p. 63).

[34]De fato, estaríamos atolados quase exatamente na mesma condição que os nossos ancestrais humanos iniciais (e haveria muito menos de nós).

[35]Burke (1790), para. 165. Em sua obra seminal sobre os direitos de pessoas futuras, Annette Baier (1981) faz um apontamento relacionado: “O papel crucial que representamos, enquanto seres morais, é como membros de uma comunidade transgeracional, uma comunidade de seres que olham para trás e adiante, que interpretam o passado à luz do presente, que veem o futuro como algo que cresce a partir do passado, que veem a si mesmos como membros de famílias, nações, culturas e tradições que perduram.” Como faz John Rawls em Uma Teoria da Justiça (1971, § 79): “As realizações dos poderes de indivíduos humanos vivendo em qualquer tempo único tomam a cooperação de muitas gerações (ou até sociedades) durante um longo período de tempo.”

[36]Seneca (1972), pp. 279–91. Dezesseis séculos depois, em 1904, Isaac Newton fez uma observação semelhante (Newton & McGuire, 1970): “Explicar toda a natureza é uma tarefa difícil demais para qualquer único homem ou até para qualquer única era. É muito melhor fazer um pouco com certeza e deixar o resto para outros que vêm após você (…)” Em 1755, Denis Diderot expressou ideias relacionadas em sua Encyclopédie (Diderot, 1755, pp. 635–48A): “(…) o propósito de uma enciclopédia é coletar o conhecimento disseminado pelo globo; dispor o seu sistema geral aos homens com quem vivemos e transmiti-lo àqueles que virão depois de nós, de modo que o trabalho de séculos precedentes não se torne inútil para os séculos vindouros; e de modo que a nossa prole, tornando-se melhor instruída, se torne ao mesmo tempo mais virtuosa e feliz, e que não morramos sem ter prestado um serviço à raça humana.”

[37]Talvez ainda mais espantoso seja que alguns dos mistérios dos cometas cujas profundezas inspiraram Sêneca a escrever essa passagem foram só recentemente revelados — e contribuíram diretamente para o nosso entendimento do risco existencial: “Algum dia haverá um homem que mostrará em quais regiões cometas têm a sua órbita, por que eles viajam tão remotos de outros corpos celestes, quão grandes eles são e de qual tipo eles são” (Seneca, 1972, p. 281). A natureza das suas órbitas altamente excêntricas e seu tamanho têm sido aspectos cruciais em nosso entendimento atual dos riscos que cometas impõem à civilização e à humanidade. Mais entendimento de ambas essas características estariam entre o progresso mais útil na redução do risco imposto por impactos do espaço. Veja o Capítulo 3.

[38]Veja Scheffler (2018) para uma interessante discussão adicional sobre razões fundamentadas na reciprocidade para a preocupação com gerações futuras e outras considerações não cobertas aqui.

[39]Como Sagan (1983, p. 275) colocou: “Há muitas outras medidas possíveis da perda potencial — incluindo a cultura e a ciência, a história evolutiva do planeta e a significância das vidas de todos os nossos ancestrais que contribuíram para o futuro dos seus descendentes. A extinção é o desfazimento da empreitada humana.”

[40]Veja, por exemplo, Cohen (2011), Scheffler (2009), Frick (2017).

[41]Nick Bostrom (2013) desenvolveu essa ideia: “Podemos também ter deveres de custódia de preservar a herança da humanidade transmitida a nós pelos nossos ancestrais e transmiti-la em segurança aos nossos descendentes. Não queremos ser o vínculo defeituoso na cadeia de gerações e não devemos eliminar ou abandonar a grande epopeia da civilização humana em que a humanidade tem trabalhado há milhares de anos, quando é claro que a narrativa está longe de ter chegado ao seu término natural.”

[42]Stewart Brand (2000) falou com eloquência sobre essa paciência civilizacional: “Problemas ecológicos eram considerados irresolvíveis porque não podem ser solucionados em um ano ou dois (…) Acontece que problemas ambientais são solúveis. É só que é necessário esforço focado durante uma década ou três para nos movermos em direção a soluções, e as soluções às vezes levam séculos. O ambientalismo ensina paciência. A paciência, creio eu, é uma competência central de uma civilização saudável.”

[43]Embora nos leve longe demais, poderíamos também considerar virtudes civilizacionais relativas à nossa relação com o mundo mais amplo. Por exemplo, os maus-tratos aos nossos companheiros animais e ao nosso ambiente sugere deficiência em nossa compaixão e administração.

E poderíamos também considerar como a proteção do nosso futuro pode ser motivada por virtudes para indivíduos como a gratidão (a gerações passadas), a compaixão e a justiça (com relação a gerações futuras) e a união ou solidariedade com relação ao resto da humanidade. Jonathan Schell (1982, pp. 174–5) considera o amor no sentido de uma generalização do amor parental ou procriativo: o amor com o qual trazemos outros ao mundo.

[44]Tive sorte o bastante de conseguir trabalhar nessa questão com meus colegas no Future of Humanity Institute: Anders Sandberg e Eric Drexler. Em nosso artigo “Dissolving the Fermi Paradox” [Dissolvendo o Paradoxo de Fermi] (Sandberg, Drexler & Ord, 2018) quantificamos o entendimento e as incertezas atuais da ciência em torno da origem da vida e da inteligência. E mostramos que é um equívoco pensar que, visto que há bilhões de bilhões de estrelas, deve haver inteligência alienígena lá fora. Pois é inteiramente plausível (e talvez até provável) que a chance de a vida começar em qualquer um deles seja correspondentemente ínfima. O nosso conhecimento científico é igualmente compatível com a possibilidade de estarmos sós e com a possibilidade de estarmos num universo repleto de vida. E dado isso, a falta de qualquer sinal de vida inteligente alienígena não é de modo algum surpreendente ou paradoxal — não há necessidade alguma de invocar propostas extravagantes para explicar isso; as evidências simplesmente sugerem que é mais provável estarmos sós.

Sugerimos que pesquisadores anteriores tenham sido desencaminhados ao utilizarem “estimativas pontuais” para todas as quantidades na equação de Drake. Quando elas são substituídas por distribuições estatísticas de valores plausíveis, vemos que, mesmo se o número médio ou mediano de civilizações alienígenas for alto, há também uma grande chance de nenhuma. E atualizamos em direção a essa possibilidade quando não vemos sinal algum da sua atividade.

[45]Essa significância cósmica pode ser pensada como um modo de iluminar o valor moral que a humanidade tem por outras razões, ou como uma fonte adicional de valor, ou como algo importante que vai além do valor. Aqui estão alguns dos principais proponentes da nossa significância cósmica em suas próprias palavras.

Martin Rees (2003, p. 157): “As probabilidades poderiam estar tão fortemente contra a emergência (e a sobrevivência) da vida complexa a ponto de a Terra ser a única morada da inteligência consciente em nossa Galáxia inteira. O nosso destino então teria uma ressonância verdadeiramente cósmica.”

Max Tegmark (2014, p. 397): “Foi a vastidão cósmica que me fez sentir-me insignificante para início de conversa. Ainda assim, aquelas grandiosas galáxias são visíveis e belas para nós — e somente para nós. Somente nós que lhes damos qualquer significado, fazendo do nosso pequeno planeta o lugar mais significante em todo o Universo observável.”

Carl Sagan (1980, p. 370): “O Cosmos pode estar densamente povoado por seres inteligentes. Mas a lição darwiniana é clara: não haverá humanos alhures. Somente aqui. Somente neste pequeno planeta. Somos raros como uma espécie em perigo de extinção. Cada um de nós é, na perspectiva cósmica, precioso.”

Derek Parfit (2017b, p. 437): “Se somos os únicos seres racionais no Universo, como algumas evidências recentes sugerem, importa ainda mais se teremos descendentes ou sucessores que durem bilhões de anos nos quais isso for possível. Alguns dos nossos sucessores poderiam viver vidas e criar mundos que, embora não justificassem o sofrimento passado, teriam dado a nós todos, incluindo àqueles que mais sofreram, razões para alegrar-nos de que o Universo existe.”

James Lovelock (2019, p. 130): “Então, com a aparição dos humanos, somente 300.000 anos atrás, este planeta, sozinho no cosmos, atingiu a capacidade de conhecer a si mesmo (…) Agora estamos preparando-nos para entregar o dom do conhecimento a novas formas de seres inteligentes. Não fique deprimido com isso. Tivemos o nosso papel (…) talvez possamos esperar que a nossa contribuição não seja inteiramente esquecida conforme a sabedoria e o entendimento de estende para fora da Terra para abraçar o cosmos.”

Um modo de entender a significância cósmica em termos consequencialistas é observar que quanto mais rara a inteligência, maior é a parte do universo que será sem vida a não ser que sobrevivamos e façamos algo a respeito disso — maior a diferença que podemos fazer.

[46]Podemos acabar tornando-nos significantes até em termos de escala bruta. Os cosmólogos creem que as maiores estruturas coerentes no universo estão numa escala de cerca de um bilhão de anos-luz de extensão, a largura dos maiores vácuos na rede cósmica. Com a expansão em aceleração do universo despedaçando as coisas, e somente a gravidade com a qual trabalhar, a matéria sem vida é incapaz de organizar-se em escalas maiores.

No entanto, não há nenhum limite físico conhecido que impeça que a humanidade forme estruturas coerentes ou padrões em escalas muito maiores — de um diâmetro de até cerca de 30 bilhões de anos-luz. Podemos assim criar as maiores estruturas no universo e ser únicos até nesses termos. Ao administrarmos as galáxias nesta região, coletando e armazenando a sua energia, podemos também ser capazes de criar os eventos mais cheios de energia no universo ou as estruturas complexas mais duradouras.

[47] Conforme explicado anteriormente neste capítulo, não é que só os humanos importam, mas que os humanos são os únicos agentes morais.

[48] Acho que essa é uma perspectiva muito valiosa, que irá gerar insights que alcançam muito além do que sou capaz de explorar neste livro. Espero que outros a adotem e a levem muito além do que fui capaz de levar.

[49]A teoria sobre como tomar decisões quando estamos incertos quanto ao valor moral de resultados foi quase completamente negligenciada na filosofia moral até muito recentemente — apesar do fato de que é exatamente a nossa incerteza sobre questões morais que leva as pessoas a pedir conselho moral e, de fato, fazer pesquisa sobre filosofia moral em absoluto. Remediar essa situação foi um dos principais temas do meu trabalho até o momento (Greaves & Ord, 2017; MacAskill & Ord, 2018; MacAskill, Bykvist & Ord, por vir).

[50]Nick Bostrom (2013, p. 24) colocou isso especialmente bem: “O nosso entendimento presente da axiologia pode bem estar confuso. Podemos não saber — pelo menos não em detalhes concretos — quais resultados contariam como uma grande vitória para a humanidade; podemos nem sequer ainda ser capazes de imaginar as melhores finalidades da nossa jornada. Se estamos de fato profundamente incertos sobre as nossas metas últimas, devemos reconhecer que há um grande valor de opção em preservamos — e idealmente melhorarmos — a nossa capacidade de reconhecer o valor e conduzir o futuro conformemente. Garantir que haja uma versão futura da humanidade com grandes poderes e uma propensão a usá-los com sabedoria é plausivelmente o melhor modo disponível para nós aumentarmos a probabilidade de que o futuro contenha muito valor. Para fazer isso, temos que prevenir qualquer catástrofe existencial.”

Acho que a condição que achamos plausível seja importante. Não estou sugerindo que esse argumento a partir da incerteza funcione ainda que estejamos extremamente confiantes que não há deveres de proteger o nosso futuro. Pode ser possível construir tal argumento com base no valor esperado, mas desconfio de argumentos de valor esperado quando as probabilidades são extremamente baixas e mal compreendidas (veja Bostrom, 2009).

[51]Ainda que estivéssemos comprometidos com a visão lúgubre de que as únicas coisas de valor são de valor negativo, isso ainda poderia dar razão para continuar, visto que a humanidade poderia ser capaz de prevenir coisas de valor negativo em outros lugares na Terra ou em outras partes do cosmos onde a vida surgiu.

[52]Outro modo de dizer isso é que proteger o nosso futuro tem imenso valor de opção. É o caminho que preserva a nossa capacidade de escolher seja lá o que resultar como melhor quando novas informações chegarem. Essas próprias novas informações também acabam sendo extremamente valiosas: seja informação empírica sobre como será o futuro, seja informação sobre quais supostas considerações morais resistem ao teste do tempo. Claro que só mantém esse valor de opção à medida que esperamos que o nosso futuro seja responsivo a novas informações sobre o que é moralmente o melhor.

Para mais sobre o valor de opção moral e o valor da informação moral da perspectiva da humanidade, veja Bostrom (2013, p. 24), MacAskill (2014) e também Williams (2015), que generaliza essa ideia: “(…) devemos considerar o progresso intelectual, do tipo que nos permitirá descobrir e corrigir os nossos erros morais tão logo quanto possível, como uma prioridade moral urgente, em vez de um mero luxo; e devemos também considerar importante poupar recursos e cultivar flexibilidade, de modo que, quando chegar a hora de mudar as nossas políticas, sejamos capazes de fazer isso rapidamente e sem problemas.”

[53]Essas ideias são belamente expressas por Sagan (1994).

[54]A verba de 2019 era de US$ 1,4 milhão (BWC ISU, 2019). Entre 2017 e 2019, restaurantes operados pela empresa McDonald’s incorreram numa média de US$ 2,8 milhões em despesas por restaurante por ano (McDonald’s Corporation, 2018, pp. 14, 20). A empresa não reporta os custos dos seus restaurantes franqueados.

[55]Farquhar (2017) estimou um gasto global na redução do risco existencial advindo de IAs em US$ 9 milhões em 2017. Tem havido um crescimento substancial no campo desde então, talvez por um fator de 2 ou 3. Tenho confiança de que os gastos em 2020 estejam entre US$ 10 e US$ 50 milhões. O IDC (2019) estima que os gastos globais em IAs alcançarão US$ 36 bilhões em 2019, uma proporção considerável dos quais será dedicada à melhoria nas capacidades de IAs.

[56]O mercado global de sorvete foi estimado em US$ 60 bilhões em 2018 (IMARC Group, 2019), ou ∼0,07% do produto mundial bruto (World Bank, 2019a).

Determinar precisamente quanto gastamos na proteção do nosso futuro não é algo fácil. Estou interessado no entendimento mais simples disso: gastos que são direcionados à redução do risco existencial. Com esse entendimento, estimo que os gastos globais estejam na ordem de US$ 100 milhões.

As mudanças climáticas são um bom exemplo dos desafios na determinação do tipo de gasto com que nos importamos. Uma estimativa dos gastos globais em mudanças climáticas está em US$ 400 bilhões (∼0,5% do produto mundial bruto) (Buchner et al., 2017). Isso provavelmente é uma estimativa exagerada do custo econômico, visto que a maioria do total é de gastos na geração de energia renovável, grande parte dos quais teria, num cenário alternativo, sido gasta na construção de capacidade não renovável. Além disso, como veremos no Capítulo 4, a maior parte do risco existencial advindo de mudanças climáticas vem dos cenários de aquecimento mais extremos. Portanto, não é claro quanto do dólar médio direcionado à mitigação das mudanças climáticas é direcionado à redução de risco existencial. Riscos de pandemias projetadas apresentam desafios semelhantes — o financiamento federal dos EUA para a biossegurança tem um total de US$ 1,6 bilhão, mas somente uma pequena proporção disso será direcionada às bem piores pandemias (Watson et al., 2018).

Deixando de lado as mudanças climáticas, todos os gastos em biossegurança, riscos naturais e riscos de IAs e guerra nuclear ainda são substancialmente menores do que o que gastamos em sorvete. E tenho confiança de que os gastos realmente focados no risco existencial sejam menores do que um décimo disso.

[57]Robock, Oman & Stenchikov (2007) e Coupe et al. (2019).

[58]King et al. (2015). Como veremos no Capítulo 4, o aquecimento de 6 °C é bastante plausível dado o nosso entendimento científico atual.

[59] Essas características são conhecidas como não exclusibilidade (o provedor não pode limitar o benefício àqueles que pagam) e não rivalidade (o consumo do bem da parte de um indivíduo não limita o de ninguém mais). Como podemos ver, a maioria dos bens e serviços oferecidos pelo mercado são tanto excludentes quanto rivais.

[60]Veja Bostrom (2013, p. 26). Desenvolvendo a ideia da tragédia dos bens comuns, o economista Jonathan Wiener (2016) chamou essa situação de “a tragédia dos incomuns”.

[61]Há algumas áreas de pensamento longotermista, como a política de energias, a previdência e grandes projetos de infraestrutura. No entanto, elas tipicamente envolvem pensamento numa escala de tempo de uma ou duas décadas, o que ainda é bastante curto segundo os padrões deste livro.

[62]Para mais sobre heurísticas e vieses em geral, veja Kahneman (2011). Veja Wiener (2016) para uma discussão detalhada sobre esses e outros vieses que afetam o julgamento público de riscos catastróficos raros.

[63]De fato, às vezes sofremos de uma versão desse efeito chamado entorpecimento em massa, no qual somos incapazes de conceitualizar danos que afetam milhares de pessoas ou mais e os tratamos como ainda menos importantes do que o mesmo dano a uma única pessoa identificável. Veja Slovic (2007).

[64]Aqui estou pondo de lado discussões religiosas sobre o fim dos tempos, que considero bem diferentes de discussões sobre causas naturalistas do fim da humanidade.

[65]Russell (1945). No meio do ensaio, Russell observa que havia acabado de saber sobre o bombardeio de Nagasaki, provavelmente na manhã de 9 de agosto de 1945: “Enquanto escrevo, descubro que uma segunda bomba foi lançada sobre Nagasaki. O prospecto para a raça humana é sombrio além de todos os precedentes. A humanidade está diante de uma alternativa inequívoca: ou bem pereceremos, ou então teremos de adquirir algum ligeiro grau de bom senso. Uma grande medida de pensamento político será necessária para o desastre completo ser evitado.”

[66]O Boletim existe até hoje e tem há muito sido um ponto focal para discussões sobre risco existencial. Em anos recentes, eles ampliaram o seu foco do risco nuclear para uma gama mais ampla de ameaças ao futuro da humanidade, incluindo mudanças climáticas, armas biológicas e inteligências artificiais desalinhadas.

[67]O Manifesto de 1955 de Russell–Einstein declara (Russell, 2002): “Aqui, pois, está o problema que apresentamos a vocês, severo, terrível e inescapável: daremos um fim à raça humana ou a humanidade renunciará à guerra? (…) Encontra-se diante de vocês o risco de morte universal.”

Assinar o manifesto foi um dos últimos atos de Einstein antes da sua morte em 1955, conforme descrito por Russell (2009, p. 547): “Havia enviado, claro, a declaração a Einstein para a sua aprovação, mas ainda não havia ouvido do que ele pensava dela ou se ele estaria disposto a assiná-la. Conforme voávamos de Roma para Paris, onde a Associação do Governo Mundial faria reuniões posteriores, o piloto anunciou a notícia da morte de Einstein. Senti-me abalado, não só pelas óbvias razões, mas porque vi meu plano desmoronar sem o seu apoio. Mas na minha chegada ao meu hotel em Paris, encontrei uma carta sua concordando em assinar. Esse foi um dos últimos atos da sua vida pública.”

[68]Numa carta particular, Eisenhower (1956) contemplou essa possibilidade e as suas consequências para uma grande estratégia: “Quando chegarmos ao ponto, como chegaremos um dia, em que ambos os lados sabem que em qualquer eclosão de hostilidades gerais, independentemente do elemento de surpresa, a destruição será tanto recíproca quanto completa, possivelmente teremos bastante juízo para encontrar-nos à mesa de conferências com o entendimento de que a era dos armamentos teve fim e a raça humana deve conformar as suas ações a esta verdade ou morrer.”

Num discurso para as Nações Unidas, disse Kennedy (1961): “Pois um desastre nuclear, espalhado por ventos, e águas, e medos, poderia bem engolir igualmente os grandes e os pequenos, os ricos e os pobres, os comprometidos e os descomprometidos. A humanidade deve dar fim à guerra — ou a guerra dará fim à humanidade (…) Hoje, todo habitante deste planeta deve contemplar o dia em que este planeta pode não ser mais habitável. Todo homem, mulher e criança vive sob uma espada nuclear de Dâmocles, pendurada pelo mais delgado dos fios, capaz de ser cortada a qualquer momento por acidente, ou erro de cálculo, ou pela loucura. As armas da guerra devem ser abolidas antes que causem a nossa abolição.”

E Brezhnev sugeriu que “A humanidade seria completamente destruída” (Arnett, 1979, p. 131).

[69] Schell (1982) foi o primeiro a publicar, provocado pela nova teoria científica de que armas nucleares poderiam destruir a camada de ozônio, o que poderia impossibilitar a vida para os humanos. Essa teoria logo se descobriu deficiente, mas isso não afetou a qualidade da análise filosófica de Schell sobre quão ruim a extinção seria (uma análise que era especialmente impressionante, visto que ele não era filósofo). Sagan (1983) foi compelido a pensar em profundidade sobre a extinção depois dos seus resultados iniciais sobre a possibilidade do inverno nuclear. A magnum opus de Parfit, Reasons and Persons [Razões e Pessoas] (1984), terminou com a sua análise concisa sobre a maldade da extinção, que daí teve uma grande influência na filosofia acadêmica. Sagan citou o trabalho de Shell, e Parfit provavelmente foi influenciado por ele.

Naquele mesmo ano, O Princípio Responsabilidade de Hans Jonas (1984) foi lançado numa tradução em inglês. Escrito originalmente em 1979, ele também levantou muitas das questões-chave concernentes aos nossos deveres éticos de manter um mundo para as gerações futuras.

[70] Em 1985, Reagan disse (Reagan & Weinraub, 1985): “Vários cientistas conceituados nos estão dizendo que tal guerra poderia acabar sem vitória nenhuma para ninguém, pois iríamos aniquilar a Terra conforme a conhecemos. E se você se lembrar de uma ou duas calamidades naturais (…) não houve neve em julho em muitos países temperados. E chamaram-no um ano em que não houve verão. Ora, se um vulcão pode fazer isso, o que estamos falando com o pleno intercâmbio nuclear, o inverno nuclear de que os cientistas têm falado?”

Falando em 2000, Mikhail Gorbachev refletiu (Gorbachev & Hertsgaard, 2000): “Modelos feitos por cientistas russos e americanos mostraram que uma guerra nuclear resultaria num inverno nuclear que seria extremamente destrutivo a toda a vida na Terra; o conhecimento disso foi um grande estímulo para nós.”

[71] O tamanho da multidão foi estimado em 600.000 a 1 milhão, com 1 milhão sendo o número reportado mais comum (Montgomery, 1982; Schell, 2007). Tem havido desde então protestos ainda maiores sobre outras temáticas.