Este é um resumo do artigo “The epistemic challenge to longtermism” (O desafio epistêmico do Longotermismo) de Christian Tarsney. O resumo foi escrito por Elliott Thornley.
Tradução da Sátia Marini (terminóloga). Revisão de Bruno Aislã Gonçalves dos Santos, professor de Filosofia.
De acordo com o longotermismo, o que devemos fazer depende, principalmente, de como nossas ações podem afetar o futuro no longo prazo. Essa afirmação enfrenta um desafio: é difícil predizer o curso do futuro a longo prazo, e os efeitos das nossas ações no futuro a longo prazo podem ser imprevisíveis a ponto de falsear o longotermismo. Em “O desafio Epistêmico do Longotermismo” (“The epistemic challenge to longtermism”), Christian Tarsney avalia uma versão desse desafio epistêmico e chega a uma conclusão complexa (“mista”). Sob algumas cosmovisões plausíveis, o longotermismo se mantém frente ao desafio epistêmico. Em outras, o status do longotermismo depende se devemos fazer certas apostas de alto risco e de longo prazo.
Tarsney começa pressupondo a teoria da utilidade esperada: grosso modo, é a visão de que devemos atribuir probabilidades precisas a todas as possibilidades relevantes para tomada de decisão, valorizar futuros possíveis alinhados com o bem-estar total e maximizar os valores esperados. Essa pressuposição revela desafios éticos para o longotermismo e foca na discussão sobre o desafio epistêmico.
Estratégias de diferença persistente
Tarsney descreve uma ampla classe de estratégias para melhorar o futuro a longo prazo – as estratégias de diferença persistente. Essas estratégias buscam colocar o mundo em um estado valioso S quando, de outra forma, ele estaria em um estado menos valioso ¬S, na esperança de que essa diferença persista por um longo período. O ceticismo epistêmico de persistência(Epistemic persistence skepticism) é a visão de que é proibitivamente difícil identificar intervenções que podem fazer uma diferença persistente — tão difícil que ações com o maior valor estimado produzem a maior parte do seu benefício no curto prazo. É essa versão do desafio epistêmico que Tarsney foca nesse artigo.
Para avaliar a verdade do ceticismo epistêmico persistente, Tarsney compara o valor estimado de uma intervenção modelo curtotermista N com o valor estimado de uma intervenção longotermista L. No exemplo dele, N está gastando $1 milhão em programas de saúde pública no mundo em desenvolvimento, levando a uma expectativa de 10.000 anos extras de vida ajustados pela qualidade. Já L gasta $1 milhão em pesquisa de prevenção a pandemias, com o objetivo de evitar uma catástrofe existencial e, portanto, fazer uma diferença persistente.
Eventos anuladores exógenos
Estratégias de diferença persistente são ameaçadas pelo que Tarsney chama de eventos anuladores exógenos (EAEs), que surgem de duas formas. Os EAEs negativos são eventos no futuro distante que colocam o mundo em um estado menos valioso ¬S. No contexto da intervenção longotermista L, na qual o estado valioso alvo S é a existência de uma civilização inteligente no universo acessível, os EAEs negativos são catástrofes existenciais que podem assolar essa sociedade. Exemplos disso incluem guerras autodestrutivas, patógenos letais e decaimento do vácuo. Os EAEs positivos, por outro lado, são eventos no futuro distante que colocam o mundo num estado mais valioso S. No contexto L, esses são eventos que originam uma civilização inteligente no universo acessível no qual nenhum dos dois existia anteriormente. Isso pode ocorrer via evolução ou pela chegada de uma civilização de fora do universo acessível. O que une as EAEs negativa e positiva é que ambas nulificam os efeitos de intervenções destinadas a fazer uma diferença persistente. Uma vez que o primeiro EAE tenha ocorrido, o estado do mundo já não depende mais do estado em que nossas intervenções o colocaram. Portanto, nossa intervenção para de acumular valor naquele ponto.
Tarsney assume que a probabilidade anual r de EAEs é constante no futuro distante, definido como mais de mil anos a partir de agora. A pressuposição é, portanto, compatível com a hipótese da era dos perigos, de acordo com a qual o risco de uma catástrofe existencial ser provável de se reduzir no futuro próximo. Tarsney pressupõe uma constante r, parcialmente, para simplificar, mas ela também está alinhada com seu compromisso de fazer pressuposições empíricas que erram ao serem desfavoráveis ao longotermismo. Outras pressuposições desse tipo se ocupam do trato em reduzir o risco existencial, a velocidade da viagem interestelar e o número potencial e a qualidade de vidas futuras. Ao fazer essas pressuposições conservadoras vejamos como o longotermismo se opõe à versão mais forte disponível do desafio epistêmico.
Modelos para avaliar o ceticismo epistêmico persistente
Para comparar a intervenção longotermista L com a intervenção referência curto-termista N, Tarsney construiu dois modelos: o modelo de crescimento cúbico e o modelo de estado estacionário. O traço característico do modelo de crescimento cúbico é sua pressuposição de que a humanidade, por fim, começará a se estabelecer em outros sistemas estelares, de forma que o valor potencial de crescimento da civilização de origem humana cresça como uma função cúbica do tempo. O modelo de estado estacionário, por outro lado, pressupõe que a humanidade permanecerá ligada à Terra e, por fim, alcançará um estado de crescimento zero.
O resultado principal do modelo de crescimento cúbico é que a intervenção longotermista L tem um maior valor esperado do que a intervenção referência curtotermista N apenas enquanto r é menor do que 0,000135 (um pouco acima de um em cada dez mil) por ano. Como, na estimativa de Tarsney, essa probabilidade se dirige ao ponto mais alto dos valores plausíveis de r, o modelo de crescimento cúbico sugere (mas não estabelece de modo conclusivo) que o longotermismo resiste ao desafio epistêmico. Se fizermos pressuposições um pouco menos conservadoras sobre as possibilidades e o tamanho potencial da população futura, teremos um argumento muito mais robusto em favor de escolher L e não N.
O resultado principal do modelo de estado estacionário é menos favorável ao longotermismo. O valor esperado de L excede o valor esperado de N apenas quando r é menor do que aproximadamente 0,000000012 (um pouco acima de um em cem milhões) por ano, e parece provável que uma civilização ligada à Terra enfrentaria riscos de EAEs negativos que empurrem r para além desse limiar. Flexibilizar as pressuposições conservadoras do modelo, entretanto, torna o longotermismo mais plausível. Se L reduziria o risco existencial no curto prazo em pelo menos um em dez bilhões e qualquer civilização em estado estacionário no futuro próximo suportasse pelo menos cem vezes o valor que a Terra suporta hoje, então r precisa apenas estar abaixo de 0,006 (seis em cada mil) para impulsionar o valor esperado de L sobre N.
O argumento do longotermismo também é fortalecido quando consideramos a incerteza, tanto sobre os valores de vários parâmetros quanto sobre o modelo a adotar. Pense neste exemplo. Suponha que atribuamos uma probabilidade de um em mil para o modelo de crescimento cúbico. Suponha também que atribuamos probabilidades – dependendo do modelo de crescimento cúbico – de pelo menos um a cada mil para valores de r que não sejam maiores do que 0,000001 por ano, e pelo menos um em um milhão para um cenário de ‘esferas de Dyson‘ no qual uma estrela normal suporte pelo menos 1025 vidas por vez. Nesse caso, o valor esperado da intervenção longotermista L é mais de cem bilhões de vezes o valor esperado da intervenção referência curtotermista N. É válido notar, entretanto, que, nesse caso, o maior valor esperado de L é impulsionado por probabilidades possivelmente minúsculas de recompensas astronômicas. Muitas pessoas suspeitam que a teoria do valor esperado não funcione quando seus vereditos dependam das chamadas probabilidades pascalianas (Bostrom, 2009; Monton, 2019; Russel, 2021), então, talvez devêssemos ser cautelosos em assumir os cálculos acima como uma reivindicação do longotermismo.
Tarsney conclui que o desafio epistêmico do longotermismo é grave mas não fatal. Se estivermos firmes no nosso compromisso com a teoria do valor esperado, o longotermismo superará o desafio epistêmico. Se formos cautelosos quanto a confiar nas probabilidades pascalianas, o resultado será menos claro.