Blog

A seguir resenhamos, com alguns apontamentos críticos, o livro The Precipice: Existential Risk and the Future of Humanity, por Toby Ord. Ord é um dos grandes nomes do movimento do Altruísmo Eficaz e o livro, ainda que recém lançado, já pode ser considerado uma das principais obras de referência para o movimento.

A ficção, da literatura ao cinema e passando pela escatologia mítica de várias religiões, frequentemente insere o tema do cada vez mais próximo fim da humanidade (ou de toda a vida na Terra). Diversos grupos de pessoas interessadas nalgum assunto também frequentemente advocam a ideia de que o tempo corre e logo nos depararemos com o inexorável fim da humanidade.

Motivos alegados para este fim não nos faltam. As escatologias teológicas nos oferecem enorme acervo de meios e motivos pelos quais a humanidade em breve encontraria sua danação, mas a maioria de nós já não leva tais coisas a sério, ao menos não em nível institucional. Escatologias laicas, no entanto, nos oferecem acervo igualmente rico (e um tanto mais palpável) de meios e motivos pelos quais a humanidade logo encontraria seu fim.

Eis que Toby Ord, um eticista australiano que leciona em Oxford, redige um interessante livro justamente sobre ponderações (e algum cômputo) acerca dos riscos que cercam a humanidade e podem interromper a cósmica jornada humana. O livro — The Precipice: Existential Risk and the Future of Humanity — é ousado e instigante, bem escrito e, apesar do título, recheado de um otimismo agridoce.

Ord se apresenta como um filósofo por formação, eticista como especialidade, muitíssimo interessado em reduzir as mazelas que assolam a humanidade, mas de maneira eficiente e razoável. Apesar de listar rapidamente alguns dos importantes males que tornam miseráveis as vidas de milhões de pessoas, ele rapidamente aponta os progressos alcançados e o prognóstico futuro de erradicação da fome, da miséria e de certas doenças em um futuro não tão distante. Reforça que há muito o que ser feito e que muito do progresso alcançado pode rapidamente ser desfeito em trágica decorrência de possíveis crises políticas ou econômicas.

Há anos, no entanto, Ord abandonou seus esforços na promoção prática do melhoramento do mundo atual. Agora ele investe seus esforços em compreender os riscos que ameaçam todo o futuro da humanidade e como eles podem ser mitigados. O livro em questão apresenta o ponto de vista do autor acerca da importância do assunto, o que está em jogo, enumera e avalia sinopticamente um vasto catálogo de tipos de risco, sobrando várias dezenas de páginas para divagar sobre a humanidade do futuro longínquo.

Após a introdução, na qual Ord se apresenta e discute suas motivações pessoais, muito brevemente resumindo o que será apresentado no livro e qual, basicamente o seu propósito, nos deparamos com um enorme calhamaço dividido em três partes. Depois dela, uma lista de apêndices pouco convidativos e muito menos interessantes do que o texto principal, posto que são reservados para exprimir argumentos mais exaustivos e rigorosos presentes no texto, mas nele tidos como ponto pacífico. Ele fez bem em separar boa parte desta discussão, pouco proveitosa à maioria dos leitores, sobretudo as fundamentações éticas, em anexos ao fim do corpo principal.

Parte 1: o que temos a perder (the stakes)

Englobando os dois primeiros capítulos, nesta primeira parte Ord apresenta seu argumento central acerca do período pivotal pelo qual estaríamos atravessando e o conceito, na verdade um tanto intuitivo, de riscos existenciais. Uma rápida e um tanto simplória recapitulação da história humana, desde o paleolítico distante, antecede uma dissertação especulativa sobre os quase infinitos futuros possíveis à humanidade. E o primeiro capítulo é encerrado com a argumentação de que nunca antes na história houve tanto peso sobre as mãos da humanidade, cujas decisões nos próximos cem ou duzentos anos podem encerrar em si o destino cósmico do ser humano e de tudo que ele tem de intrinsecamente diverso dos demais seres terrenos.

Adiante serão retomadas algumas observações sobre o primeiro capítulo, mas a primeira grande novidade do livro está no segundo capítulo, que nos apresenta o conceito de riscos existenciais. O conceito é interessante, simples e chega a ser intuitivo, mas ainda assim é uma ferramenta importante e instigante ao pensamento. Como Ord chega a abusar de metáforas e exemplos fictícios, parece justo que uma resenha acerca do assunto utilize os mesmos artifícios.

Cada vez que assumimos riscos individuais à nossa segurança, bem-estar e sobrevivência, não estamos apenas arriscando a continuidade de nossa própria vida e potencialmente desperdiçando todas as realizações, experiências e alegrias de nossa própria existência individual. Estamos também arriscando a fruição das experiências e realizações daqueles que convivem conosco (ou que ainda viriam a nos conhecer) e podemos estar encerrando previamente as experiências e realizações de todos os nossos muito milhares de descendentes. Com nossa vida extinta prematuramente não desperdiçamos apenas o restante de nosso potencial humano e de nossa contribuição ao coletivo humano, mas o potencial humano de todos os nossos descendentes, que sequer chegaram a existir.

A partir do melodramático e grandiloquente caso individual, cuja escala futura é pouco convincente, podemos de fato aplicar o mesmo raciocínio para populações passadas: tivessem elas se extinguido e boa parte da humanidade atual, incluindo nós, não existiria. E se pensarmos que nós mesmos pertencemos à comunidade humana, caso nos extinguamos estaremos condenando bilhões de gerações futuras e trilhões de pessoas à inexistência. Do ponto de vista da humanidade este seria um desastre de magnitude superior a qualquer outro, pois obviamente uma ocorrência que extermine 100% da humanidade é infinitamente pior do que uma que extingua 99% dela (e não apenas 1% mais grave!).

Toby Ord e a catástrofe existencial

Retornando à discussão do primeiro capítulo, Ord expõe de forma insistente o quão especial é a humanidade. Dado que não há outra espécie no planeta capaz de façanhas cognitivas similares, e que destas façanhas cognitivas derivam a emergência da ética e das atitudes baseadas na reflexão ética, que potencializam as experiências proveitosas e a fruição do bom e do belo, uma possível extinção da humanidade seria uma perda de valor em escala cósmica. Ao menos na Terra, não há outra espécie capaz de aprimorar a fruição do correto, do bom e do belo, tanto para si quanto para outras espécies, portanto do ponto de vista da história em escala cósmica, a extinção da humanidade seria mais penosa do que a perda lamentável de outras espécies, tais quais a do girassol ou do panda.

Ord realmente se esforça para provar o ponto, reforçado em alguns apêndices, de que a humanidade importa (e não nos importa apenas porque somos humanos) e que, portanto, o futuro da humanidade é de capital importância ética para nós. Há também um esforço, retomado em apêndices, para demonstrar o valor de vidas humanas futuras (que, embora ainda não existam, são vidas humanas e que, somadas em um intervalo de tempo, torna cada geração vivente comprometida com as quase infinitas pessoas das gerações futuras e devedoras aos bilhões de pessoas das gerações anteriores).

Como a extinção da humanidade é infinitamente pior do que a soma de quaisquer outras tragédias, precisa haver atenção especial para evitar que isso ocorra. A inexistência de humanos vivos não é a única maneira de infligir dano irremediável à toda a humanidade. Há possibilidades macabras de o ser humano ser permanentemente trancado nalgum estágio de desenvolvimento que o impossibilite de se aprimorar (como, por exemplo, se nunca deixássemos de ser caçadores-coletores), há até meios de o ser humano vir a se tornar algo menos valioso, como “baterias escravas de máquinas” em Matrix (o autor não chega a sugerir exatamente este exemplo, mas ele entrega a mensagem de maneira convenientemente concisa).

Chamemos à extinção do gênero humano ou de sua permanente limitação ou perda de valor de catástrofe existencial. Uma vez que ela ocorre, fim de jogo: não há mais humanidade ou todo o potencial humano terá se perdido para sempre, ainda que restem indivíduos remotamente humanos. E como estabelecido anteriormente, esta seria uma perda irreparável em nível cósmico.

Os riscos de ocorrência de uma catástrofe existencial são riscos existenciais. São riscos de extinção absoluta da humanidade ou de privação permanente do potencial humano. É aqui que Ord sobe o tom de gravidade e seriedade de sua obra: não se trata de discutir ocorrências ruins e lamentáveis ao futuro humano, como guerras, genocídios, episódios famélicos, tortura e escravidão. Estas coisas todas transitam entre o lamentável e o abjeto, mas são coisa pouca frente a uma catástrofe existencial: pois de todas elas há formas de se recuperar ou de superar em longo prazo seus efeitos nocivos, mas de uma catástrofe existencial, não.

Há enormes incertezas conhecidas e desconhecidas ao lidar com as probabilidades de ocorrência de algum evento existencialmente catastrófico, o que faz com que, sabiamente, Ord não tenha pretensões de precisão em suas avaliações. Entretanto, o próprio autor afirma a necessidade inescapável de mensurar os riscos com parcimônia e de maneira quantitativa, para que a escala de grandeza dos riscos sejam ao menos conhecidas.

No fim do primeiro capítulo contém o argumento de que, embora seja óbvio que a humanidade tenha até então se exposto a riscos existenciais, sendo na maior parte do tempo indefesa e incapaz de ter controle sobre seu destino, ela nunca antes teve tantos meios de responder a eles como hoje. Agora não só somos mais capazes de compreender e até agir para lidar com riscos existenciais, como pela primeira vez oferecemos a nós mesmos riscos existenciais inéditos. Portanto todo o futuro da humanidade, segundo o autor, dependeria de sermos capazes de levar a humanidade adiante, em segurança, nos próximos cem ou duzentos anos: e isso só seria possível se aprendêssemos a lidar com riscos existenciais, minimizando-os de maneira consciente e sistemática.

Como viemos de um passado no qual pouco ou nada poderíamos fazer para garantir a persistência da existência da humanidade, tendo à nossa frente todo o futuro e potencial humanos sob nossa responsabilidade, atravessamos um curto período de tempo de “é tudo ou nada”, na qual a catástrofe existencial é evitável por nossas ações, mas igualmente possível de ocorrer desta forma: daí percorrermos nosso tempo à beira de um Precipício.

Parte 2: riscos (a aventura)

Entre o terceiro e o quinto capítulos, Ord nos apresenta a parte mais interessante de sua obra, que é a enumeração e discussão dos principais riscos existenciais que ameaçam o destino da humanidade. O capítulo terceiro é dedicado aos riscos existenciais de origem natural, como impactos de corpos celestes, ruptura do espaço-tempo durante a expansão cósmica, supervulcões, explosões de supernovas. O quarto capítulo é dedicado aos riscos existenciais de origem antropogênica que já nos ameaçam, enquanto o quinto capítulo trata dos riscos existenciais futuros, a maioria deles de origem antropogênica mas que ainda não se manifestaram de maneira insidiosa (o que se prevê para um futuro próximo).

Apesar do título da obra e do tom alarmante do início do livro, a abordagem de Ord é surpreendentemente sóbria e bem ponderada ao tratar da enorme maioria dos riscos existenciais que enuncia. O leitor não terá pesadelos com asteroides colidindo com a Terra, com o aquecimento global extinguindo a humanidade, mas talvez passe a desconfiar que o corretor ortográfico do smartphone venha a ser seu pior inimigo.

Um argumento interessante a respeito da expressão quantitativa dos riscos existenciais de origem natural é que podemos investigar o passado em busca da frequência típica de ocorrência de eventos potencialmente catastróficos. Assim, é possível estimar com qual frequência ocorrem colisões de objetos celestes com nosso planeta, colisões com potencial catastrófico. Podemos aprimorar as estimativas iniciais não só considerando a frequência típica com a qual estes eventos ocorreram no passado, mas analisando a situação vigente: há menos de meia dúzia de asteroides grandes o suficiente para causar um estrago semelhante ao ocorrido no fim do Cretáceo, nenhum deles cruza nossa órbita em um futuro previsível.

Sendo assim, os riscos existenciais de origem natural são mais seguramente estimados e a previsão de sua ocorrência é mais “comportada”. Ainda assim é necessário considerar que há “desconhecidos conhecidos”, como sabemos que não sabemos a posição, tamanho e órbita de todo objeto da longínqua Nuvem de Oort (de onde vêm os cometas) e “desconhecidos desconhecidos”, como embora não pareça haver algum objeto massivo às bordas do Sistema Solar que possa desviar cometas para o interior, talvez exista algo do tipo e não saibamos. Sendo assim, as estimativas elencadas por Toby Ord constituem uma importante aproximação inicial, não uma última palavra sobre o assunto.

Asteróides e Cometas: apesar de ser popular a noção de que um grande impacto com um corpo celeste massivo possa extinguir a humanidade, a verdade é que ocorrências deste tipo são bastante raras. Considerando a frequência média de ocorrência de impactos relevantes com potencial catastrófico, o risco associado é de 1/1M por século (M = milhão). Ainda assim, apesar de se constituir em uma enorme tragédia para a humanidade, que passará séculos tendo de lidar com as consequências do impacto, ela dificilmente será extinta e muito provavelmente se recuperará.

Objetos ainda maiores, talvez capazes de extinguir toda a vida complexa no planeta, são muitíssimo mais raros: dos milhões de mapeados, são apenas quatro. A órbita de nenhum destes quatro objetos conhecidos cruza com a terrestre no intervalo de tempo no qual as equações dinâmicas traçadoras de órbitas no Sistema Solar convergem para uma única solução. Considerando isso, a probabilidade de ocorrência de um impacto catastrófico com um destes quatro ou com um quinto desconhecido é de cerca de 1/150M por século.

Supervulcões: explosões vulcânicas massivas podem disparar invernos vulcânicos e até eras glaciais, o que inegavelmente dificultariam a vida do ser humano. Entretanto, com a tecnologia rudimentar do paleolítico, a humanidade sobreviveu à poderosa explosão do vulcão Toba (sim, é o nome dele), sendo provavelmente garantido que erupções desta escala são incapazes de extinguir a humanidade ou comprometer permanentemente o seu futuro. Então a humanidade deve temer erupções ainda maiores.

Quando material particulado fino é transportado para a estratosfera ele permanece em suspensão por meses. Se houver muito material particulado suspenso na alta atmosfera, a deposição pode levar anos, formando um “véu” de partículas ao redor do globo que obscurece a luz do incidente vinda do Sol. Esta camada de material particulado tende a resfriar significativamente a superfície, criando anos nos quais não há verão e pode nevar ao longo de todo o ano, também dificultando a ocorrência de fotossíntese. Esta ocorrência é chamada de inverno vulcânico, apresentando riscos à segurança alimentar da humanidade ao impor dificuldades extra ou mesmo impossibilidade à agricultura em altas latitudes.

Erupções potentes o suficiente para disparar extinções em massa são muitíssimo raras, e é discutível se ainda assim alguma delas poderia extinguir a humanidade. As erupções mais perigosas, as do tipo Siberian Traps, como o Yellowstone, duram milhares de anos e podem não imediatamente, mas em longo prazo, causar tamanho dano à biosfera que a humanidade seja encurralada e se veja incapaz de sobreviver, levando milênios para decair até algum estágio tecnológico tão rudimentar e com população tão baixa que outros riscos ambientais possam, por fim, extingui-la. Considerando a frequência típica de erupções do tipo Siberian Traps e o número de candidatos conhecidos para este papel nos próximos milênios, há o risco de 1/10k por século de isso ocorrer (k = mil).

Supernovas: estrelas massivas, cuja massa seja ao menos cinco vezes a do nosso Sol, terminam sua vida de maneira violenta: após um longo período de expansão de suas camadas exteriores, o núcleo perde tanta pressão gravitacional que diminui sua produtividade radiativa, parte destas camadas externas são gravitacionalmente atraídas para este núcleo pesado e tanta massa colapsa sobre ele que uma reação nuclear muito intensa fragmenta a maior parte deste núcleo e da massa estelar em uma enorme explosão que, por instantes, brilha mais do que uma galáxia inteira.

Embora não haja estrelas capazes de se transformar em supernovas e interferir com o Sistema Solar em nossa vizinhança, fazendo das supernovas espetáculos astronômicos seguros, alguns tipos de supernova estão associados à emissão de jatos de radiação intensa de ondas muito curtas (raios-X, raios gama), capazes de atravessar distâncias galácticas. Se nosso planeta estiver na trajetória de um destes, teremos pouco tempo antes de notar o perigo, e a atmosfera do planeta será ionizada, talvez varrida para longe, e sua superfície potencialmente “tostada” pelo feixe de radiação incidente. Nos casos mais graves, a humanidade e provavelmente toda a vida no planeta será extinta.

Considerando nossa vizinhança estelar mais distante e a orientação aparente de rotação da maioria de nossas vizinhas distantes mais massivas, as chances de a Terra ser atingida por um feixe radiativo deste tipo são, no máximo, 1/1M por século.

Riscos mais exóticos são várias ordens de grandeza menos prováveis, e o total de riscos existenciais de origem natural é de 1/10k por século. Dado o histórico humano no planeta, é pouco provável que algum evento natural nos extinga no próximo milhão de anos. Não só pela raridade dos eventos com este potencial, mas pela enorme capacidade humana de se adaptar aos problemas deles decorrentes. Sendo assim, os riscos existenciais inéditos de origem antropogênica são mais insidiosos.

Armas Nucleares: o mundo tem armamento nuclear o suficiente para extinguir a vida na Terra várias vezes. Só que não. Sem dúvida seria uma catástrofe traumática se uma guerra nuclear causasse o disparo quase simultâneo das milhares de ogivas nucleares existentes, com um custo direto absurdo em vidas humanas. Os sobreviventes muito provavelmente teriam de lidar com um inverno nuclear (análogo ao inverno vulcânico) que, na pior das hipóteses, persistiria por anos, causando perdas agrícolas enormes e fome.

A ocorrência de um inverno nuclear em escala planetária implicaria enorme dificuldade ou impossibilidade da prática de agricultura em latitudes elevadas. Isso levaria a episódios famélicos generalizados, migrações massivas para as regiões equatoriais e latitudes mais baixas e à possível adoção de alimentação baseada na produção de fungos em abrigos subterrâneos naturais ou artificiais.

Ainda assim, é extremamente improvável que a humanidade seja extinta desta forma. É igualmente improvável que os sobreviventes cheguem a um estágio de primitivismo irrecuperável. Por pior que sejam as consequências terríveis de uma guerra nuclear em grande escala, o mais provável é que após um trauma profundo, a humanidade se recomponha em algumas décadas, no máximo em alguns séculos. Na pior hipótese, em alguns milênios.

O risco associado à extinção humana através de armas nucleares ainda assim é muito mais elevado do que a soma de todos os riscos existenciais de origem natural. O termo “muito improvável” esconde a estimativa de 1/1k por século.

Mudanças Climáticas: os avanços tecnológicos ocorridos nos últimos dois séculos permitiram à humanidade atingir um patamar inédito de prosperidade e qualidade de vida, tornando-se dependente de utilização de energia em grande escala. A maior parte desta energia é derivada da queima de combustíveis fósseis, aumentando significativamente a concentração troposférica de gases-estufa e aumentando paulatinamente a temperatura de equilíbrio planetária, ocasionando o aquecimento global.

Os riscos de pauperização temporária, acirramento de disputas entre nações, ocorrência de episódios famélicos e afins tornam o aquecimento global uma questão séria com a qual lidar nas próximas décadas, mas é bastante improvável que suas consequências não sejam remediáveis e levem à extinção da humanidade ou a permanente danificação de seu potencial futuro. Considerado uma cadeia muito improvável de retroalimentação intensa do aquecimento global, substituindo a atual composição atmosférica por uma baseada em dióxido de carbono e vapor d’água, como em Vênus, as chances máximas de o aquecimento global comprometer definitivamente o futuro da humanidade é de 1/1k por século.

Destruição Ambiental: o aquecimento global não é a única forma, e sequer deve ser a mais importante, com a qual a humanidade deteriora as condições da biosfera da qual depende. Embora o ser humano seja capaz de manter um bioma mínimo do qual depende para a obtenção de matéria-prima e alimentos, é possível que a soma de nossas intervenções degradantes ao meio-ambiente cause um colapso profundo e repentino das cadeias alimentares e desconexão dos níveis tróficos que gerem consequências irremediáveis à humanidade. Sendo assim, o risco existencial da destruição ambiental ao futuro humano não é maior do que 1/1k por século.

Pandemia (natural): Toby Ord argumenta que o risco existencial de pandemias não é exatamente natural, mas dependente de uma série de inovações humanas e intervenções ambientais humanas, que incrementam muitíssimo as consequências em potencial. Ainda assim, há a remota possibilidade de que algum patógeno infeccioso natural seja tão nocivo à humanidade que extinga sua população ou permanentemente a mantenha em um número tão baixo e em pequenos núcleos tão dispersos que comprometa o futuro do gênero humano. Estima-se que este risco seja de 1/10k por século.

Pandemia (humanamente causada): há muito maior risco de que agentes humanos inescrupulosos, por motivos perversos ou acidentalmente, não só gerem um patógeno mais agressivo, transmissível e letal do que qualquer patógeno natural, como o liberem propositalmente. Elementos de guerra biológica são recorrentemente utilizados em operações bélicas no mínimo desde o medievo, e terrorismo biológico tem um histórico macabro no século XX.

Embora nenhuma arma biológica tenha sido historicamente capaz de disparar pandemias, a segurança laboratorial é falha o suficiente para patógenos letais terem escapado de laboratórios que os estudavam com boas intenções inúmeras vezes. Ord apresenta relatos interessantes e assustadores de algumas destas ocorrências. Considerando os protocolos corriqueiros de pesquisa de ganho de função em vírus, bem como o potencial de escape destes patógenos de laboratório, o uso como arma biológica e o terrorismo, o risco existencial associado às pandemias (antropológicas) é de 1/30 por século, sendo um relevante risco existencial com o qual lidar agora e no futuro.

Inteligência Artificial (não-alinhada): o advento da informática revolucionou o modo de vida do ser humano e propiciou um incremento bastante sensível na complexidade de relações entre pessoas e instituições, permitindo comunicação quase instantânea e processamento de informações em uma escala sem precedentes. Problemas cada vez mais complexos são abordados por algoritmos cada vez mais rebuscados.

Embora eu considere que Ord tenda à mistificação do que de fato seja inteligência artificial, ele apresenta muito bem a noção de algoritmos complexos com a capacidade de detectar padrões e aprender a resolver problemas complexos de maneira análoga (ainda que de forma vaga) ao aparelho cognitivo biológico. O autor recapitula brevemente os impressionantes avanços na área, com o intuito de persuadir o leitor de que embora um futuro de androides T-800 assassinos seja pouco razoável, a inteligência artificial constitui ameaça relevante ao futuro humano.

Vez por outras Ord chega a usar expressões dramáticas, como o potencial de a inteligência artificial roubar para si o destino manifesto da humanidade. Não qualquer inteligência artificial, que em si mesma é uma ferramenta majoritariamente benéfica para a humanidade. Mas uma inteligência artificial concebida sem o cuidado de que o desempenho de suas tarefas seja coerente ao bem-estar da humanidade e fruição de suas quase infinitas possibilidades de futuro. Pior, uma inteligência artificial pode ser maliciosamente concebida para limitar as possibilidades de ser da humanidade, sendo deliberadamente hostil e a extinguindo ou trancando permanentemente a humanidade em um estágio de menor fruição de liberdade e vida.

Este é um risco existencial relevante que é pouco compreendido, e que acompanhará a humanidade século após século em sua jornada cósmica. Ou como maior aliada, ou como pior adversária. Mesmo no presente estágio tecnológico humano, de extrema dependência de sistemas digitais, uma inteligência artificial autônoma e não alinhada poderia se tornar uma entidade tirânica inescapável, tomando para si as rédeas do destino da humanidade.

Provavelmente o trecho analítico mais passional da obra, Ord avalia que o risco existencial associado à possibilidade de inteligência artificial não-alinhada com o bem-estar da humanidade seja de 1/10 por século.

Distopias: mesmo que algum elemento ambiental, algum patógeno ou a inteligência artificial não deem cabo do destino humano, as próprias pessoas podem criar complexas redes de vínculos sociais que limitem inescapavelmente as possibilidades futuras de ser da humanidade, trancando-a nalguma forma menos valorosa de existir. Estas são as distopias.

A história humana é repleta de regimes ditatoriais, genocidas, teocracias sanguinárias e totalitarismos funestos. Por enquanto, nenhuma utopia se mostrou inescapável e capaz de encerrar todo o destino da humanidade, mas não é impossível que a informática, a biotecnologia, a mídia de massas e tecnologias futuras criem uma estrutura social opressiva e limitante que abrangeria toda a espécie e fosse inescapável (talvez por alterar, de maneira irremediável, o código genético humano?).

Há diversos tipos de distopias possíveis, todas muito especulativas. Elas se aninham em três grandes famílias de cenários distópicos: as distopias indesejadas, porém inescapáveis, onde fatores diversos coalescem (sem que os agentes tenham tal intenção) para a emergência de uma distopia; distopias impostas, nas quais agentes promotores de uma ideologia perigosa e limitante ascendem ao poder e são capazes de gerar um cenário distópico irremediável; distopias desejáveis, nas quais a humanidade alcança algum nível tecnológico e uma armadilha evolutiva faz com que a enorme maioria dos humanos se entregue voluntariamente a um cenário perpétuo de limitação do destino humano.

Este e outros riscos existenciais antropológicos juntos são estimados por Ord na magnitude de 1/50 por século. No total, a interação entre riscos existenciais antropogênicos constitui a maior ameaça ao futuro da humanidade, correspondendo à estimativa de 1/6 por século, segundo o autor.

Este valor, cerca de 1/6 por século, explicita a seriedade dos riscos existenciais enfrentados pela humanidade e qualificam o Precipício como um período central e decisivo, pivotal, da história humana. Sendo diversas ordens de grandeza superiores aos remotos riscos de extinção por causas naturais em escala cósmica, o autor propõe que uma profunda reflexão humana é necessária para lidar responsavelmente com esta ameaça. Entretanto, este mesmo valor pode ser visto de maneira positiva, com a humanidade tendo 5 chances em 6 de prosseguir para um quase inimaginável cenário de fruição de um ótimo futuro em potencial.

Parte 3: caminhos futuros (a grande especulação)

Ord termina sua obra com importantes e instigantes reflexões sobre o cômputo de interações entre riscos, introduzindo os conceitos de fator de risco existencial e de seguridade existencial no capítulo sexto. O capítulo sétimo é majoritariamente dedicado a uma discussão sinóptica sobre o que é possível fazer, agora, em diversos níveis, para salvaguardar a humanidade destes riscos existenciais, e quais medidas em longo prazo a humanidade terá de tomar para garantir a fruição de seu destino. Por último, no capítulo oitavo, o autor apaixonadamente defende sua visão para o potencial futuro da humanidade éons adiante, para além dos séculos e milênios e para além da vizinhança estelar do nosso Sol, em uma época em que a própria Terra, berço da humanidade, seja uma vaga suspeita imemorável dos herdeiros distantes do gênero humano.

Embora a segunda parte do livro seja a mais instrutiva, o sexto capítulo traz consigo ideias importantes e instigantes, ao explorar a paisagem de riscos existenciais enfrentados pela humanidade. Anteriormente foram apresentados os principais riscos existenciais e uma estimativa quantitativa é associada a cada qual. Entretanto, vale observar que vários destes riscos são interdependentes e a interação entre eles é complexa e interessante.

Em várias situações o valor estimado para os riscos muda de acordo com o cenário específico. Se o risco de extinção da humanidade é bastante baixo no caso de erupções de supervulcões, ele se torna significativamente mais relevante após uma catástrofe nuclear ou uma pandemia que dizime 90% da população. Considerar encadeamento de riscos é uma tarefa complexa, pois não basta somar ou multiplicar as estimativas expostas nos capítulos anteriores, mas se deve analisar uma decomposição de independência e interdependência de riscos.

Assim, quaisquer ocorrências, cenários ou outros riscos que promovam algum risco existencial é chamado de fator de risco. Por analogia com o cotidiano, o risco de desenvolver câncer de pulmão é dado e é bastante baixo, em termos de frequência populacional. Mas o tabagismo é um hábito que promove este risco, sendo um fator de risco e, na prática, de forma matemática, é um coeficiente positivo maior do que 1 de multiplicação do risco canceroso dado pela frequência de ocorrência numa população.

De maneira análoga, ocorrências e cenários que dificultam a ocorrência de um risco (ou seja, um fator de risco menor do que 1) são chamados de fator de segurança. São conceitos simples de se compreender, difíceis de se estimar, mas possíveis de se investigar de maneira clara, objetiva e quantitativa. A prudência indica, então, que a salvaguarda da humanidade consiste em minimizar os fatores de risco e maximizar os fatores de segurança.

O sétimo capítulo trata de como a humanidade pode trabalhar em busca de sua sobrevivência em longo prazo, mitigando os riscos existenciais. A fórmula básica já foi apresentada, que é minimizando fatores de risco e maximizando fatores de segurança, mas as coisas são muito mais sutis. Quais são os principais fatores de risco e de segurança e como escolher em quais riscos e fatores investir recursos limitados, maximizando os resultados?

Os riscos são muito distintos entre si, havendo riscos semi-permanentes “de estado”, como a vulnerabilidade às colisões cósmicas ou erupções supervulcânicas, e riscos críticos emergentes, como inteligência artificial e aquecimento global. Riscos ínfimos, mas persistentes, se acumulam ao longo dos séculos, enquanto certos riscos, mesmo mais elevados, são superados de uma vez por todas (ou perdem relevância de maneira exponencial). Por exemplo, uma boa coordenação global em um mundo pacífico mitiga permanentemente (ou quase) o enorme risco imposto pelas ogivas nucleares, enquanto o risco oriundo de colisões cósmicas e supernovas se acumula ao longo de milhares de milhões de anos.

Também os riscos respondem diferencialmente aos esforços investidos. A priori, sendo tudo igual, deve-se investir primeiro nos riscos cujo investimento de recursos resulte na maior mitigação. Até que investir naquilo ofereça apenas riscos marginais, daí se deve focar noutro risco que foi mais negligenciado. Esta situação é bastante dinâmica.

Muitos riscos são naturalmente bem resolvidos atraindo recursos disponíveis espontaneamente, em uma lógica de mercado. Outros riscos são mais sistematicamente negligenciáveis, talvez por não retornarem benefícios pessoais no prazo de uma vida humana. Para riscos assim é necessário criar gratificações artificiais para quem lida com eles.

Alguns fatores de segurança cobrem diversos riscos, enquanto alguns fatores de risco promovem outro tanto deles. Coordenação global eficiente promove a paz, que desestimula o uso de armamento biológico ou nuclear e facilita a resolução de problemas em escala global, como mudanças climáticas. É importantíssimo nesta questão de lidar com o futuro em grande escala da humanidade garantir que as medidas implementadas não sejam irreversíveis (o que constitui um risco!) nem unilaterais.

Talvez mais importante do que a lista de coisas a fazer seja a lista de coisas a não fazer, como não ser fanático a respeito de riscos existenciais: chatear os outros com isso, ou pior, desdenhar das preocupações cotidianas alheias de quem não pensa dia e noite no futuro humano em longo prazo não ajuda na promoção da minimização de riscos existenciais, na verdade atrapalha a adesão das pessoas a causas importantes. Entre outras advertências, Ord explicitamente recomenda não ser tribal e nem politicamente motivado: nem direita e nem esquerda, nem partido ou ideologia alguma detém em si a chave do sucesso a longo prazo da humanidade que é, sobretudo, rica, diversa, cheia de possibilidades.

Ord especula que, uma vez mitigados o máximo possível os riscos existenciais, a humanidade entrará numa longa fase de reflexão acerca de que futuro dentre a miríade de possibilidades mais e melhor satisfaz os potenciais humanos. Após esta grande, talvez interminável reflexão, e durante ela, a humanidade fruirá cosmicamente de seu destino (ao que críticos poderiam apontar como uma visão devedora a ideia de destino manifesto).

O último capítulo especula de maneira apaixonada acerca das infinitas possibilidades futuras, para centenas de milhões e vários bilhões de anos, dos herdeiros da humanidade. Então “nós” poderemos semear com vida e diversidade infindáveis estrelas de nossa galáxia (até de outras) e nossa linhagem persistirá até a morte termodinâmica do Universo, extraindo energia de buracos-negros evaporando e de estrelas anãs moribundas. E talvez não haja limites para o grau de correção moral, bem-estar, prosperidade, saúde e satisfação pessoal, além de conhecimento, alcançáveis pela “humanidade” em um futuro éons adiante.

Autor: Leandro Bellato

Revisão: Fernando Moreno

[Abstract: A review of Toby Ord’s The Precipice: Existential Risk and the Future of Humanity in Brazilian-Portuguese. This book presents a compelling case for Longtermism, mixing philosophical and empirical analysis, and promises to entertain and instruct people with very different backgrounds. Full translation to english here.]