Blog

Notas longas e ásperas sobre o Altruísmo Eficaz (AE). Escrito para me ajudar a chegar ao fundo de várias questões: o que eu gosto e acho que é importante sobre o AE? Por que acho sua mentalidade tão estranha? Por que não sou um AE? E, para começar a pensar: como são as alternativas ao AE? As notas não são destinadas a altruístas eficazes, embora talvez possam ser de interesse para pessoas adjacentes ao AE. Comentários e correções ponderados e informados são bem-vindos (especialmente correções detalhadas e específicas!) – veja a área de comentários na parte inferior.

“Usar evidências e a razão para descobrir como beneficiar aos outros tanto quanto possível e agir com base nisso” : essa é a ideia na base da ideologia e do movimento do Altruísmo Eficaz (AE)¹. Nas últimas duas décadas, essa deixou de ser uma ideia discutida por alguns filósofos morais para se tornar uma parte central da filosofia de vida de milhares ou dezenas de milhares de pessoas, incluindo vários dos indivíduos mais poderosos e ricos do mundo. Estas são minhas notas de trabalho sobre o AE. As notas são longas e escritas rapidamente: trata-se de pensamento grosseiro e desorganizado, não um ensaio polido.

Escrevi as notas por algumas razões. Uma é puramente social: muitos dos meus amigos têm opiniões fortes sobre o AE (alguns a favor, outros contra, outros mais neutros). Outra é a sensação de que o AE é importante como movimento social e (talvez) como um conjunto de ideias. É significativo que tantos adolescentes inteligentes e idealistas e jovens de 20 e poucos anos respondam tão fortemente ao AE. Muitos relatam mudanças radicais em suas vidas: mudar de carreira; mudar seu comportamento no dia-a-dia; comprometer-se a doar uma grande proporção de sua renda para organizações que descrevem como “eficazes”. Os AEs² também compartilham muita linguagem e maneiras incomuns de ver o mundo, muitas delas adaptadas da economia do bem-estar e da filosofia moral.

É tentador descartar isso tudo como “apenas” moda, ou como consequência do aumento (meteórico) no financiamento do AE. Mas eu não compro esse argumento. Muitos AEs são extraordinariamente sinceros e encontraram uma tremenda convicção e significado no AE. O AE está fazendo algo muito importante para eles, algo muito além de ser uma moda de nicho.

Quando eu aprendi sobre AE, minha resposta instintiva e mal pensada foi bastante negativa. Muitas vezes brinquei que sou um altruísta ineficaz ou um altruísta caótico. Gosto de me descrever como um mutilitarista, usando o “mu” zen budista como minha função utilitária (ou seja, uma negação da ideia). E, no entanto, após uma inspeção mais profunda, essas são refutações baratas.

Em 2011, um amigo meu do AE entrou na faca, doando um rim para um estranho. Ele me explicou o seguinte:

me deparei com algumas estatísticas sobre o quão seguro era doar e isso mudou totalmente minha visão. Eu pensei, 1/3.000 risco de morte em cirurgia é como se sacrificar para salvar 3.000 pessoas. Eu quero ser o tipo de pessoa que faria isso, e você só precisa seguir alguns passos.

Tenho amigos do AE que doam uma grande fração de sua renda para causas beneficentes. Em alguns casos, é toda a sua renda acima de um limite bastante baixo (para os padrões do mundo desenvolvido rico), digamos 30 mil dólares. Em alguns casos, parece plausível que suas doações pessoais sejam responsáveis ​​por salvar dezenas de vidas, ajudar a tirar muitas pessoas da pobreza e prevenir muitas doenças debilitantes, muitas vezes em algumas das partes mais pobres e carentes do mundo. Alguns desses amigos ajudaram diretamente a salvar muitas vidas. Essa é uma frase simples, mas extraordinária, então vou repetir: eles ajudaram diretamente a salvar muitas vidas.

Estou maravilhado com tudo isso. E me sinto um pouco envergonhado com minhas piadas sobre altruísmo ineficaz e grato pelos amigos do AE me tolerarem. Tentei viver uma vida combinando minhas habilidades e interesses pessoais com coisas que são boas para o mundo. Espero ter feito algum bem genuíno, ao mesmo tempo em que aproveito minha vida. Mas nunca salvei diretamente uma vida, até onde sei. Acho que não poderia doar um rim: isso violaria demais meu senso de integridade somática. Em um nível pessoal, adoro a sinceridade e a bondade genuína dos meus amigos AE e dos meus amigos próximos ao AE. Simplesmente me sinto mais saudável depois de passar um tempo com eles. Muitas vezes fico mais honesto; Às vezes fico mais gentil ou de mente mais aberta. Todas essas coisas são muito boas.

O que se segue, então, é uma coleção de observações sobre o AE. É em parte uma apreciação: para criticar o AE, você também deve entender um pouco do que ele tem de bom. E há muito que outras ideologias poderiam aprender com ele. Mas também vou me aprofundar e tentar entender o que me incomoda sobre o AE, o que acho que está errado nele e como acho que o AE pode ser modificado com sucesso.

Algo que está faltando nas notas: um relato direto em primeira pessoa do bem que o AE faz. Eu tenho algum senso refletido disso dos meus amigos, mas gostaria de saber mais. É impossível apreciar genuinamente o AE sem isso. Redes mosqueteiras contra a malária, transferências diretas de dinheiro, desparasitação, etc., não são abstrações: são, de fato, um enorme evento do mundo real, fazendo uma enorme diferença na vida de muitas pessoas. E isso está faltando aqui, apenas devido à minha ignorância. Tente manter isso em mente enquanto lê; Tentei fazer o mesmo enquanto escrevia.

Um cuidado: faço muitas generalizações sobre “o que o AE faz”. Mas o AE não é monolítico. Isso torna difícil escrever sem inserir muitos qualificadores. Eu poderia fazer isso dizendo “A maioria dos AEs acredita”, ou citando os principais AEs, e assim por diante. Em vez disso, optei (principalmente) por usar a linguagem geral, com o entendimento implícito de que muitas vezes existem AEs que discordam desse pedaço em particular. No entanto, tentei observar quando há desacordo generalizado sobre um ponto entre a comunidade do AE.

Comecei as notas com uma descrição amplamente usada do AE, tirada do filósofo Will MacAskill, um dos fundadores do AE: “Usar evidências e a razão para descobrir como beneficiar os outros o máximo possível e agir com base nisso”. Na prática, muitas vezes ouvi isso abreviado como: “Usar evidências e razões para fazer o maior bem possível”. Normalmente, usarei o último como uma abreviação do que é o AE, mas tendo em mente a descrição mais longa. Uma ressalva sobre essas duas descrições: observe que elas são inerentemente maximizadoras, “beneficie os outros tanto quanto possível”, “faça o maior bem possível”. De fato, muitos AEs advogam que nos afastemos um pouco desse quadro de maximização. Como resultado, faz sentido pensar em diferentes “pontos fortes” do AE, de acordo com o quanto uma pessoa aceita essa abordagem de maximização (ou não). Voltaremos a isso, pois é uma questão significativa não resolvida pela comunidade do AE. E quando uso o enquadramento “o maior bem”, é com a ressalva implícita de que muitos AEs recuam do “maior” na prática.

AE como fonte de invenção moral

Mencionei acima meu amigo que doou um rim em 2011.³ O filósofo moral Peter Singer, um dos criadores de muitas ideias no AE, descreve seu espanto⁴ ao saber (em 2004) da história de Zell Kravinsky, um rico investidor em imóveis que havia doado quase toda a sua fortuna de US$ 45 milhões, vivendo com 60 mil dólares por ano. Mas há algo ainda mais notável e que, à primeira vista, parecerá muito semelhante à história de doação de rim do meu amigo acima. Mas é diferente de uma maneira importante:

Ele [Kravinsky] ainda achava que não tinha feito o suficiente para ajudar os outros, então combinou com um hospital próximo de doar um rim para um estranho… Citando estudos científicos que mostram que o risco de morrer como resultado de uma doação de rim é de apenas 1 em 4.000, ele diz que não fazer a doação significaria que ele valorizou sua vida em 4.000 vezes mais que a de um estranho, uma avaliação que ele considera totalmente injustificada.

Por mais extraordinária que tenha sido a generosidade de meu amigo, há algo mais acontecendo aqui. O ato de Kravinsky é um de imaginação moral, pelo fato de ter considerado a doação de um rim e, em seguida, de convicção moral, por ter seguido em frente. Este é um ato surpreendente de invenção moral: alguém (presumivelmente Kravinsky) foi o primeiro a ter imaginado fazer algo assim e depois a realmente tê-lo feito. Essa invenção moral inspirou outros a fazerem o mesmo. Na verdade, expandiu o alcance da experiência moral humana, com a qual outros podem aprender e depois imitar. Nesse sentido, uma pessoa como Kravinsky pode ser considerada um pioneiro moral ou psiconauta moral⁵, inventando novas formas de experiência moral.

Claro, esses pioneiros morais não vêm apenas do AE. Longe disso! Eles estão na base da nossa civilização. Muitos de meus heróis pessoais são pioneiros morais, incluindo o autor do Sermão da Montanha⁶, o movimento abolicionista, as sufragistas e o movimento feminista, Martin Luther King e outros líderes do movimento pelos direitos civis. Todos esses (e muitos mais) se engajaram em atos de imaginação moral que expandiram o alcance da experiência moral que está disponível para o resto de nós imitarmos. Podemos nem sempre concordar com eles: não sei, por exemplo, se concordo com as opiniões de Peter Singer sobre os direitos dos animais. Singer pode estar errado sobre isso. Mas é valioso, no entanto, como um ato de invenção moral que expande nossa potencial gama de experiência moral.

Uma das coisas interessantes sobre o AE é que ele encorajou muitos pioneiros morais: pessoas dispostas a repensar questões morais fundamentais e (às vezes) a expandir o alcance de nossa experiência moral. Perguntas que eles fizeram seriamente (e, em alguns casos, agiram de acordo com as respostas): “E se a vida dos animais realmente importasse?”, “E se uma vida do outro lado do mundo importasse tanto quanto a de uma criança se afogando diante de seus olhos?”, “E se a ‘vida’ de uma máquina inteligente importasse tanto quanto a de um ser humano?”, “Como devemos valorizar a vida de um ser humano daqui a um milhão de anos?”. Ao levarem essas questões a sério, eles podem expandir nossos horizontes morais.

Há um outro lado sombrio do pioneirismo moral, apontado de forma memorável pela filósofa política Hannah Arendt no livro Eichmann em Jerusalém, em seu relato do julgamento do criminoso de guerra nazista Adolf Eichmann. No relato de Arendt, os nazistas foram (em certo sentido) também pioneiros morais, inventando novos tipos de crime, que então expandiram a gama provável de crimes futuros:

Nada é mais pernicioso para a compreensão desses novos crimes, nada atravanca mais a emergência de um código penal internacional que se encarregue deles do que a ilusão comum de que o crime de assassinato e o crime de genocídio são essencialmente os mesmos, e que este último, portanto, “não é um crime novo, propriamente falando”. O problema com este é que se rompe uma ordem inteiramente diferente e viola-se uma comunidade inteiramente diferente.

…

Faz parte da própria natureza das coisas humanas que cada ato cometido e registrado pela história da humanidade fique com a humanidade como uma potencialidade, muito depois da sua efetividade ter se tornado coisa do passado. Nenhum castigo jamais possuiu poder suficiente para impedir a perpetração de crimes. Ao contrário, a despeito do castigo, uma vez que um crime específico apareceu pela primeira vez, sua reaparição é mais provável do que poderia ter sido seu surgimento inicial.

O raciocínio moral, se levado a sério e posto em prática, é de extrema preocupação, em parte porque existe o perigo de erros terríveis. O exemplo nazista é excessivamente dramático: por um lado, acho difícil acreditar que os criadores das ideias nazistas não perceberam que esses eram atos profundamente malignos. Mas um exemplo mais cotidiano, e que deveria dar uma pausa a qualquer ideologia, são pessoas excessivamente hipócritas, agindo no que elas “sabem” ser uma boa causa, mas na verdade fazendo mal. Estou cautelosamente entusiasmado com o pioneirismo moral do AE. Mas é potencialmente um campo minado, algo para ser cauteloso.

Judo AE: críticas fortes a qualquer aspecto particular da estratégia do AE em “fazer o bem” na verdade melhora o AE, ao invés de desacreditá-lo

Uma das linhas de “ataque” mais comuns ao AE é discordar das noções comuns do AE sobre o que significa fazer o bem. “Você é um AE?” “Oh, essas são as pessoas que pensam que você precisa doar dinheiro para mosquiteiros contra malária [ou segurança de Inteligência Artificial (IA), ou desparasitação, ou etc. etc.], mas isso está errado porque […].” Ou: “Will MacAskill diz que os AEs devem considerar ganhar para doar, mas isso está errado porque […]”. Ou: “Ciência e justiça social e criatividade e [etc etc etc] são muito mais difíceis de medir do que coisas como QALYs, então os AEs tendem a subestimá-las ou ignorá-las.” Ou: “AEs são bastante crédulos⁷ sobre o valor dos EACs (Estudos Aleatórios Controlados – em inglês, randomized controlled trials – RCTs) e da meta-análise, você deveria, em vez disso, […]”. Ou então: “Olha, você pode aumentar diretamente os QALYs o quanto quiser, isso não vai tirar o país de uma economia de baixo crescimento para uma economia de alto crescimento. Os dois estão em níveis diferentes de abstração causal”.

Essas afirmações podem ou não ser verdadeiras. Independentemente disso, nenhuma delas é uma crítica fundamental ao AE. Em vez disso, são exemplos do pensamento do AE: você está realmente participando do projeto do AE quando faz tais comentários. AEs debatem veementemente o tempo todo sobre o que significa fazer o bem. O que os une é que eles concordam em que devem “usar as evidências e a razão para descobrir como fazer o maior bem”; se você discorda das noções predominantes do AE sobre qual o maior bem possível e tem evidências para contribuir, então você está fornecendo trigo para o moinho, impulsionando a melhoria na compreensão do AE sobre o que é o bem.

De qualquer forma, esse tipo de “crítica” responde por pelo menos metade – provavelmente mais – das críticas externas ao AE que já ouvi. A maioria dos críticos externos que pensam estar criticando o AE estão criticando uma miragem. Nesse sentido, o AE tem uma enorme área de superfície que pode apenas ser melhorado pela crítica, não enfraquecido. Eu penso nesse padrão como judô AE. E você vê isso frequentemente em discussões com “críticos do AE”. Um exemplo agradável e informativo é a entrevista do AE Rob Wiblin à Russ Roberts, que se apresenta como discordando do AE. Mas durante (a maior parte) da entrevista, Roberts aceita tacitamente as ideias básicas do AE, embora discorde de instâncias particulares. E Wiblin pratica o judô AE repetidamente, transformando-o em um típico debate AE sobre como fazer o maior bem. É muito interessante e ambos os participantes são muito atenciosos, mas não é realmente um debate sobre os méritos do AE.

Este é, para mim, um dos recursos mais atraentes e poderosos do AE. Isso o torna muito diferente da maioria das ideologias, que geralmente são bastante estáticas. O AE é, em certo sentido, uma tentativa de fazer à questão “o que é o bem?” o que a ciência fez pela questão “como funciona o mundo?”. Em vez de fornecer uma resposta, está desenvolvendo uma comunidade que visa melhorar continuamente a resposta.⁸

Por isso, vale a pena separar o AE-na-prática (um movimento social) do AE-projeto-intelectual. Se você deseja chegar a questões fundamentais, em última análise, você precisa se concentrar no último, não apenas no primeiro. Como eu disse: muitas críticas ao AE-na-prática são apenas parte do mecanismo principal de melhoria. Isso não significa, no entanto, que não valha a pena gastar tempo criticando a área de superfície do AE-na-prática. “Pelos seus frutos os conhecereis” vale para princípios intelectuais, não apenas para pessoas. Se um conjunto de princípios dá muitos frutos podres, é um sinal de que algo está errado com os princípios, uma reductio ad absurdum. Você provavelmente já ouviu comunistas e libertários defenderem fracassados experimentos comunistas e de livre mercado ​​dizendo que: “Não foi um verdadeiro experimento comunista/de livre mercado”. Algumas vezes eles têm razão. Mas se o padrão persistir, se os princípios fundamentais não forem resilientes ou precisarem de muitos fundamentos especiais, isso significa que esses princípios têm algo muito errado com eles.

Dito de outra forma: quando o judô AE é praticado demais, vale a pena procurar problemas mais fundamentais. A forma básica do judô do AE é: “Veja, a discordância sobre o que é o bem não afeta diretamente o AE. Na verdade, essa discordância é o motor que impulsiona a melhoria em nossa noção do que é o bem.” Isso talvez seja verdadeiro em algum sentido filosófico do princípio onisciente, conforme os olhos de Deus. Mas a comunidade e as organizações do AE estão sujeitas aos modismos e aos jogos de poder, deficiências e preconceitos, assim como qualquer outra comunidade e organização. Boas intenções por si só não são suficientes para garantir decisões eficazes sobre a eficácia.⁹ E a razão pela qual muitas pessoas se incomodam com o AE não é que elas achem uma má ideia “fazer o bem, de um modo melhor”. Mas sim que eles duvidam da capacidade das instituições e da comunidade do AE de corresponderem à essas aspirações.

Essas críticas podem vir de várias direções. De pessoas interessadas em políticas de identidade, ouvi: “Olha, muitas dessas organizações de AE estão sendo dirigidas por homens brancos poderosos, reproduzindo estruturas de poder existentes, inclinadas para o capitalismo tecnocrático e o status quo, e ignoram muitas das coisas que realmente importam”. De libertários eu ouvi: “Olha, AE é apenas utilitarismo coletivo esquerdista. Ele centraliza demais a tomada de decisões e ignora os sinais de preço e o imenso poder que vem de ter muitas pessoas trabalhando em seu próprio interesse, embora dentro de um sistema projetado para que o interesse próprio (muitas vezes) ajude a todos coletivamente.^{10 11}De inventores e do pessoal de startups, ouvi: “Os AEs não estão apenas trabalhando em bens públicos? Se você quer fazer o bem maior, por que não trabalhar em uma startup? Poderiamos apenas inventar e escalar novas tecnologias (ou novas ideias) para melhorar o mundo!¹¹.” De pessoas familiarizadas com as patologias de organizações e comunidades que estão envelhecendo, eu ouvi: “Olha, qualquer movimento que cresce rapidamente também começará a decair. Ele será dominado por ambiciosos carreiristas e pelo problema do principal-agente e perderá a sinceridade e a agilidade que caracterizou os pioneiros e os primeiros adeptos¹²¹³.

Todas essas críticas têm alguma verdade; elas também têm problemas significativos. Sem entrar no detalhe, o ponto imediato é que todos eles parecem problemas “meramente” práticos, para os quais o judô AE pode ser praticado: “Se não estivermos fazendo isso direito, vamos melhorar, só precisamos que você forneça evidências e uma alternativa melhor”. Mas os padrões organizacionais são tão fortes que essas críticas me parecem mais “de princípio”. Novamente: se o seu movimento social “funciona em princípio”, mas a implementação prática tem muitos problemas, então também não está funcionando em princípio. A qualidade “somos capazes de fazer isso de forma eficaz na prática” é uma importante (e implícita) qualidade “de princípio”.

AEs “ruins”, pegos em uma armadilha de miséria

Vamos voltar ao princípio do AE: “Usar evidências e raciocínio cuidadoso para fazer o maior bem possível”. É um princípio muito atraente em muitos aspectos. É extremamente claro. É altamente orientador e significativo, especialmente se inserido em um contexto social e organizacional que faz recomendações convincentes sobre como fazer o bem. Essas recomendações não precisam ser perfeitas: elas precisam apenas ser melhores do que você espera na maioria dos outros contextos comunitários.

Parte da atração do princípio é que ele elimina a necessidade de escolha. Uma grande conquista da modernidade é dar às pessoas cada vez mais opções, até que elas possam escolher (aparentemente) tudo¹⁴. Mas ter vastas opções de escolha também é algo desconcertante e desafiador. Muito do poder do AE (e de muitas ideologias) é remover muito dessa escolha, dizendo: não, você tem o dever¹⁵ de fazer o maior bem que puder no mundo. Além disso, o AE fornece instituições e uma comunidade que ajudam a orientar como você faz esse bem. Assim, fornece orientação e significado e uma narrativa de por que você está fazendo o que está fazendo.

No Twitter, o ex-AE Nick Cammarata fez o seguinte comentário, que ouvi ecoar individualmente com muitos AEs e ex-AEs:

minha voz interior no início de 2016 converteria automaticamente todo o dinheiro que gastei (por exemplo, no jantar) em um “contador de mortes” fracionário de vidas que eu poderia ter salvado se tivesse doado para boas organizações. A maioria dos AEs para os quais mencionei isso na época reagiram com “ah, sim, isso parece razoável”.

Ou considere a seguinte troca notável no Twitter, entre um não-AE e um AE:

“a quantidade ideal de caridade ideal não é 100%”

“Mas bons AEs levam esse seu ponto em consideração”

“Sim, mas AEs ruins são pegos em uma armadilha de miséria (N.T: ao ignorar esse ponto)”

“É verdade, mas isso não é uma falha do AE, é uma falha dessas pessoas.”

Ou considere a seguinte passagem no livro de Peter Singer “The Most Good You Can Do”:

Quando [a pioneira do AE] Julia [Wise] era jovem, ela sentia tão fortemente que sua escolha de doar ou não doar significava a diferença entre outra pessoa viver ou morrer que ela decidiu que seria imoral para ela ter filhos. Eles tomariam muito de seu tempo e dinheiro. Ela contou ao seu pai sobre sua decisão, e ele respondeu. “Não parece que esse estilo de vida vai fazer você feliz”, ao que ela respondeu: “Minha felicidade não é o ponto”. Mais tarde, quando ela estava com [seu marido] Jeff, ela percebeu que seu pai estava certo. Sua decisão de não ter um filho a estava deixando infeliz. Ela conversou com Jeff e eles decidiram que podiam criar um filho e ainda doarem muito. O fato de Julia poder ser mãe renovou sua empolgação com o futuro.

Todo mundo tem limites. Se você está fazendo algo que o deixa amargo, é hora de reconsiderar. É possível para você se tornar mais positivo sobre isso? Se não, você realmente está fazendo o melhor, considerando todas as coisas?

…

Julia admite ter cometido erros. Ao fazer compras, ela constantemente se perguntava: “Preciso desse sorvete tanto quanto uma mulher que vive na pobreza em outro lugar do mundo precisa vacinar seu filho?” Isso tornava as compras de supermercado uma experiência enlouquecedora, então ela e Jeff tomaram uma decisão sobre o que doariam nos próximos seis meses e, em seguida, elaboraram um orçamento com base no restante. Dentro desse orçamento, eles consideravam o dinheiro como seu, para gastar consigo mesmos. Agora Julia não economiza no sorvete porque, como ela disse à classe, “o sorvete é muito importante para minha felicidade”.

…

A decisão de Julia e Jeff de ter um filho mostra que eles traçaram uma linha além da qual não permitiriam que o objetivo de maximizar suas doações os impedisse de ter algo muito importante para eles. Bernadette Young, parceira de Toby Ord, descreveu sua decisão de ter um filho de maneira semelhante: “Estou feliz em doar 50 por cento de minha renda ao longo da minha vida, mas se eu também optar por não ter um filho simplesmente para aumentar essa quantia para 55 por cento, então esses 5 por cento finais me custariam mais do que todo o resto. … Estou decidindo atender a uma grande necessidade psicológica e planejar para uma vida que eu possa continuar a viver a longo prazo.” Nem Julia nem Bernadette são incomuns em experimentar a incapacidade de ter um filho – por qualquer motivo – como profundamente angustiante. Ter um filho, sem dúvida, exige dinheiro e tempo, mas, contra isso, Bernadette aponta, altruístas eficazes podem razoavelmente esperar que ter um filho beneficie o mundo. Tanto as habilidades cognitivas quanto as características como a empatia têm um componente hereditário significativo, e também podemos esperar que as crianças sejam influenciadas pelos valores que seus pais mantêm e praticam em suas vidas diárias. Embora não possa haver certeza de que os filhos de altruístas eficazes irão, ao longo de suas vidas, fazer mais bem do que mal, há uma probabilidade razoável de que o façam, e isso ajuda a compensar os custos extras de criá-los. Podemos colocar de outra forma: se todos aqueles que estão preocupados em fazer o bem decidirem não ter filhos, enquanto aqueles que não se importam com ninguém continuam a ter filhos, podemos realmente esperar que, algumas gerações depois, o mundo seja um lugar melhor do que teria sido se aqueles que se preocupam com os outros tivessem tido filhos?

Existe uma atitude relacionada com as artes bem comum no AE. Singer é direto sobre isso: você realmente não pode justificar as artes:

A promoção das artes pode fazer parte do “maior bem que se pode fazer”?

Em um mundo que superou a pobreza extrema e outros grandes problemas que enfrentamos agora, promover as artes seria um objetivo digno. No mundo em que vivemos, no entanto, por razões que serão exploradas no capítulo 11, doar para casas de ópera e museus é improvável de ser o maior bem que você possa fazer.

Já ouvi vários AEs dizerem que conhecem vários AEs que ficam muito chateados ou mesmo deprimidos porque sentem que não estão causando impacto suficiente no mundo. Como um projeto puramente intelectual, é fascinante partir de um princípio como “usar a razão e as evidências para descobrir como fazer o maior bem para o mundo” e tentar derivar coisas como “cuidar das crianças” ou “gostar de comer sorvete” ou ” envolver-se ou apoiar as artes”¹⁶ como casos especiais do princípio abrangente. Mas, ainda que isso seja intelectualmente interessante, como um guia direto para a vida é um erro terrível. A razão para cuidar de suas crianças (etc) não é porque ajuda você a fazer o bem. É porque é absolutamente necessário que cuidemos de nossos filhos. A razão pela qual a arte, a música e o sorvete são importantes não é porque essas coisas ajudam você a fazer o bem. É porque somos seres humanos – não autômatos sem alma – que reagem de maneiras que não entendemos inteiramente a coisas cujo impacto sobre nós mesmos não compreendemos e não somos capazes de apreender totalmente.

Agora, o padrão escolhido pelo AE foi inserir cláusulas de escape. Muitos falam sobre ter um orçamento de “sentimentos calorosos” para doações “ineficazes” que simplesmente os fazem se sentir bem. E eles estabelecem cláusulas de extensão ad hoc, como aquela sobre ter filhos ou reservar um orçamento para sorvete ou jantar, e assim por diante.¹⁷ Tudo isso me parece uma súplica especial em uma frequência que sugere que algo está errado. Você partiu de um único princípio abrangente que parece tremendamente atraente. Mas agora você tem que aceitar todas as consequências e se sentir miserável. Ou você tem que começar, como indivíduo, a enxertar cláusulas de extensão ad hoc. E isso acaba sendo terrivelmente estressante por si só. Você tem pessoas atenciosas como Nick Cammarata pirando durante o jantar. O problema não é o jantar: é o fato de Cammarata estar pirando. Assim como Julia Wise, decidindo se quer tomar sorvete – ou ter filhos.

E não é surpreendente: de um lado você tem um princípio muito claro e poderoso e entidades sobre-humanas (organizações do AE + a comunidade coletiva) enviando mensagens extremamente claras e convincentes sobre como fazer o bem. Mas é no nível individual em que as pessoas estão tentando descobrir e estabelecer limites. Não é de admirar que seja estressante.

Este é realmente um grande problema para o AE. Quando você tem pessoas levando a sério um princípio tão abrangente, você acaba com pessoas estressadas, nervosas, ansiosas por estarem vivendo de maneira errada. A crítica correta dessa situação não é a que Singer faz: que isso os impede de fazer o bem. A crítica é que é a maneira errada de se viver. Eles precisam de uma base diferente para suas vidas. Pode ser que essa base inclua alguma variação desse princípio do AE, sendo uma pequena parte de uma filosofia de vida muito maior e muito melhor desenvolvida. Mas deve ser nitidamente temperado por algum outro princípio ou princípios; esses princípios devem ter o mesmo tipo de clareza e força; deve ser aparente como todas as partes se encaixam, de modo que o princípio “do maior bem” esteja firmemente limitado pelos outros princípios. E pode muito bem ser que o equilíbrio precise ser (em parte) delegado a instituições sobre-humanas, é pedir demais isso à maioria dos indivíduos, sem causar-lhes tremendo estresse. Mas se “o maior bem” é usado como o pilar fundamental para uma filosofia de vida, na qual você enxerta cláusulas adicionais ad hoc, isso me parece uma receita para problemas.

Uma solução alternativa, e aquela que, acredito, foi adotada por muitos AEs, tem sido uma forma de AE-fraco. O AE-forte leva “faça o máximo de bem que você puder fazer” extremamente a sério como um aspecto central de uma filosofia de vida. O AE-fraco usa esse princípio mais como uma orientação. Doe 1% de sua renda. Doe 10% de sua renda, desde que isso não lhe cause sofrimento. Pense bem no impacto que seu trabalho tem no mundo e consulte muitas fontes diferentes. Estas são todas as coisas boas para fazer! A crítica dessa forma é que ela é boa e agradável, mas também que ela é difícil de se distinguir da noção pré-existente comum que muitas pessoas têm, “viva bem e tente fazer algo de bom no mundo”. Tal como Amia Srinivasan coloca18.

Porém, quanto mais incertos os números, menos útil o cálculo, e mais acabamos confiando em uma compreensão de bom senso sobre o que vale a pena ser feito. Será que realmente precisamos de um modelo sofisticado para nos dizer que não deveríamos lidar com hipotecas subprime [/resposta: sim/], ou que o sistema prisional americano precisa ser consertado, ou que pode valer a pena entrar na política eleitoral se você puder estar confiante de que não está fazendo isso apenas por interesse próprio? Quanto mais complexo o problema que o altruísmo eficaz tenta resolver – isto é, quanto mais profundamente ele se envolve com o mundo como uma entidade política – menos ímpar se torna sua contribuição. Os altruístas eficazes, como todos os outros, se deparam com o fato de que o mundo é confuso e, como todos os que desejam torná-lo melhor, devem fazer aquilo que lhes parece melhor, sem qualquer noção final do que isso pode ser ou qualquer garantia de que eles estão acertando.

Mais preocupante do que a incapacidade do modelo em nos dizer algo muito útil, uma vez que saímos do domínio circunscrito da intervenção controlada, é sua suscetibilidade de ser usado para nos dizer exatamente aquilo que queremos ouvir.

…

O altruísmo eficaz retoma o espírito do argumento de Singer, mas nos protege de toda a explosão de sua conclusão… . Assim, o altruísmo eficaz evita uma das objeções padrão ao utilitarismo: que ele exige demais de nós. Mas não está claro como a esquiva deve funcionar. MacAskill nos diz que os altruístas eficazes – como os utilitaristas – estão comprometidos em fazer o maior bem possível, mas ele também nos diz que não há problema em desfrutar de um “estilo de vida confortável”, desde que você esteja doando muito para a caridade. Ou o altruísmo eficaz, como o utilitarismo, exige que façamos o maior bem possível, ou exige apenas que tentemos melhorar as coisas. O primeiro pensamento é genuinamente radical, exigindo que reformulemos nossa vida diária de maneiras inimagináveis para a maioria. (Singer repete seu apelo para exatamente essa revisão em seu livro recente The Most Good You Can Do, e Strangers Drowning, de Larissa MacFarquhar, é um conjunto de retratos de ‘altruístas extremos’ que responderam ao chamado). O segundo pensamento – que tentemos tornar as coisas melhores – é compartilhado por todo sistema moral plausível e toda pessoa decente. Se o altruísmo eficaz serve apenas para nos tornar mais eficazes quando tentamos ajudar os outros, então é difícil contestá-lo. Mas, nesse caso, também é difícil ver o que ele oferece em termos de uma nova percepção moral, menos ainda como pode ser o último movimento social de que precisaremos.

Há muita coisa com a qual concordo nesse trecho. Mas acho que há uma boa resposta ao comentário final de Srinivasan: “nesse caso, também é difícil ver o que [o AE] oferece em termos de uma nova percepção moral, menos ainda como pode ser o último movimento social de que precisaremos.” Veja, se esse fosse um argumento puramente intelectual, eu concordaria com ela. Mas: os AEs realmente foram e fizeram isso: criaram instituições que estão realmente centradas em torno da ideia. E isso é valioso e uma inovação.

Críticas internas ao princípio do AE

Voltemos novamente ao princípio do AE: “Altruísmo eficaz significa usar evidências e a razão para fazer o maior bem possível no mundo.” Discuti alguns sintomas práticos de problemas implícitos com esse princípio; Também discuti problemas ao se estabelecer limites a esse princípio. Vamos agora mudar para a crítica direta ao princípio em si.

Muitos dos problemas são apenas problemas padrões que são usadas para se atacar o utilitarismo moral. Infelizmente, estou longe de ser um especialista nesses argumentos. Portanto, vou apenas expor brevemente meu próprio entendimento: o “bem” não é algo fungível e, portanto, qualquer quantificação é uma simplificação exagerada. De fato, não apenas uma simplificação exagerada: às vezes é completamente errado e enganoso. Certamente, essa quantificação costuma ser uma conveniência prática ao se fazer trade-offs; também pode ser útil para fazer argumentos morais sugestivos (mas não decisivos). Mas não tem um status fundamental. Como resultado, noções como “aumentar o bem” ou “maior bem possível” são conveniências úteis, mas é um grande erro tratá-las como fundamentais. Além disso, a noção de um único “o” bem também é suspeita. Há muitos bens plurais, que são fundamentalmente imensuráveis e incomensuráveis e não podem ser combinados.

Acho esses ataques convincentes. Como uma conveniência prática e ferramenta criativa, o utilitarismo é útil. Mas não sou um utilitarista como se essa filosofia fosse um fato fundamental sobre o mundo.

(Tangencialmente: é interessante ponderar quanto de verdade há na declaração do ex-secretário-geral da ONU, Dag Hammarskjöld, de que: “É mais nobre entregar-se completamente a um indivíduo do que trabalhar diligentemente pela salvação das massas”. para dizer o mínimo, não é um ponto de vista do AE. E, no entanto, acredito que há uma verdade considerável nessa frase).

De modo menos central, a parte do princípio sobre “usar as evidências e a razão” é impressionante. Há uma mudança contínua no que a humanidade entende por “evidência e razão”, com ocasionais saltos bruscos. De fato, muitas das maiores conquistas da humanidade foram mudanças radicais no que entendemos por evidência e pela razão. Os padrões de evidência e razão do século 11 são muito diferentes dos de hoje; Espero que os padrões do século 31 sejam muito diferentes novamente. Claro, este ponto pode ser resolvido com alguns pequenos remendos. Talvez possa ser tratado alterando o princípio para: “nossos melhores padrões atuais de evidência e razão para fazer o maior bem possível no mundo”, para enfatizar a consciência do fato de que essas coisas mudam.

Miscelânea

Esses são quatro assuntos que eu gostaria de tratar longamente, mas decidi deixar de fora do escopo das notas atuais. Quero apenas mencioná-los aqui, correndo o risco de confundir o assunto com uma breve explicação facilmente mal interpretada. Todos os quatro assuntos realmente precisam de uma longa explicação:

Ilegibilidade: Um argumento comum contra o AE é que ele subestima a atividade ilegível. A resposta típica do AE é outra forma de judô AE, o grito de guerra do burocrata: vamos torná-lo legível!¹⁹ Vamos conseguir descobrir o quanto que investir em ciência em estágio inicial / uma festa de aniversário infantil / novos tipos de escultura realmente pode fazer o bem. E, no entanto, quanto mais formas de atividade tornamos legíveis, mais a penumbra da ilegibilidade muda e cresce: e muito do trabalho criativo mais profundo e das mudanças de vida mais transformadoras são feitas por pessoas nessa penumbra²⁰. Em muitos tipos de trabalho, quando os resultados que você obtém são os resultados que você desejava – na verdade, até mesmo quando são resultados que você é capaz de entender – você perdeu uma enorme oportunidade. “Evidência e razão” começam a se desintegrar, por definição, na penumbra da ilegibilidade. Também suspeito que, como traço básico de personalidade, sou mais feliz naquela penumbra ilegível, e é por isso que tive tantos problemas para grocar* o AE: parece uma língua estrangeira, onde há algumas suposições iniciais que simplesmente não entendo. Por outro lado, ao falar sobre ilegibilidade com AEs, eles geralmente olham para mim como se eu tivesse crescido uma cabeça extra. Eles veem a ilegibilidade como algo a ser conquistado e minimizado; Eu a vejo como um fato fundamental e imutável sobre a maneira como o mundo funciona. De fato, quanto mais ilegibilidade você conquista, mais ilegibilidade surge, e maior a necessidade deste tipo de trabalho.

*N.T: Grocar (em inglês, grokking) é uma palavra criada por Robert A. Heinlein em seu romance Um Estranho Numa Terra Estranha. No romance é uma palavra da língua falada pelos marcianos que significa ao mesmo tempo “beber” e “compreender algo até o ponto em que aquilo passa a fazer parte de nós”. Com o sucesso do romance, foi incorporada ao inglês como gíria e foi traduzida dessa forma em português. (Fonte).

“AE-é-um-culto / AE-é-uma-religião:” Estas são declarações comuns, geralmente usadas como parte de ataques críticos. Eu acredito que eles são frequentemente usados ​​de forma impensada ou dissimulada, contando com as conotações pejorativas de “culto”. É verdade, o movimento AE tem algumas características que se sobrepõem aos cultos; assim como o montanhismo, a apreciação da música de Bob Dylan e muitas outras atividades. A parte substantiva que vale a pena prestar atenção é: como acontece com qualquer movimento forte, atraente e crescente, o AE pode atrair canalhas carismáticos que procuram tirar vantagem dos outros. Essa é uma questão genuína. E vale a pena se proteger. Mas não acho que o AE seja extraordinariamente propenso a isso quando comparado a qualquer outra ideologia forte.

Longo prazo / risco x / segurança de IA: isso requer um conjunto de notas próprias. Estou amplamente otimista quanto ao trabalho com riscos-x em geral; Admiro, por exemplo, o recente livro de Toby Ord sobre isso. Valorizo pouco da maior parte do trabalho que está sendo feito em segurança de IA, embora haja algumas pessoas fazendo um bom trabalho assim como trabalhos adjacentes (sobre justiça, interpretabilidade, explicabilidade, etc.) que são muito valiosos.

Vibe e estética: Um amigo aponta que o AE tem uma vibe muito particular e bastante incomum, muito diferente de muitas outras culturas. Isso parece verdadeiro e interessante. Não tenho certeza do que fazer com isso. Isso também vale para a estética: o AE tende a uma estética muito instrumental e particular. É interessante considerar isso na estrutura artística: historicamente, abordagens primariamente instrumentais da arte quase sempre resultam em arte ruim. Seria ótimo ver um movimento artístico do AE que tenha surgido de algo não instrumental!

Resumindo

O AE é uma filosofia de vida inspiradora e que dá significado. Convida as pessoas a se conectarem fortemente com alguma noção de um bem maior, a contribuir para esse bem maior e a torná-lo central em suas vidas. o AE na prática tem feito uma quantidade notável de bem direto no mundo, tornando a vida das pessoas melhor. É excelente ter a estrutura de conversa de “como fazer o maior bem” prontamente disponível e presumivelmente tendo valor. O AE-na-prática também fornece uma forte comunidade e senso de pertencimento e valores compartilhados para muitas pessoas. Como pioneiros morais, o AE está fornecendo um conjunto notável de novos bens públicos.

Tudo isso torna o AE atraente como filosofia de vida, fornecendo orientação e significado e um núcleo claro e poderoso, com instituições de apoio. Infelizmente, o AE-forte é uma filosofia de vida ruim, com limites fracos, que pode causar grande sofrimento às pessoas e não atende às suas necessidades básicas. O AE-na-prática, é muito centralizado, muito focado na vantagem absoluta; o mercado geralmente faz um trabalho muito melhor ao fornecer certos tipos de bens privados (ou privatizáveis). No entanto, o AE-na-prática provavelmente faz um trabalho melhor em fornecer certos tipos de bens públicos do que muitas instituições existentes. O AE depende muito do carisma online: discussões chamativas, mas insubstanciais, de tópicos como o argumento da simulação e o risco-x e a segurança da IA ​​tendem a dominar a conversa, em vez de um trabalho mais substancial. (Isso não significa que não haja boas discussões sobre tais tópicos). O AE-na-prática está muito aliado aos sistemas de poder existentes e faz pouco para questioná-los ou modificá-los. Apropriar-se do termo “eficaz” é marketing inteligente e construção de movimento, mas intelectualmente dissimulado. O AE vê a ilegibilidade como um problema a ser resolvido, não como uma condição fundamental. Por causa disso, ele se sai mal em certos tipos de trabalhos criativos e estéticos. O utilitarismo moral é uma ferramenta prática que é útil, mas limitada, confundindo a quantificação que é útil para fazer compensações com um fato fundamental sobre o mundo.

Eu critiquei fortemente o AE nestas notas. Mas não forneci uma alternativa articulada de forma clara e contundente. Isso equivale a dizer que a dieta de alguém com sorvete e barras de chocolate não é a ideal, sem fornecer qual seria uma alimentação melhor; posso estar correto, mas não forneci algo imediatamente acionável. Dada a tremenda necessidade emocional que as pessoas têm de um poderoso sistema de significado, não espero que isso tenha muito impacto nessas pessoas. É muito fácil descartar os problemas ou ignorá-los como coisas que podem ser resolvidas enxertando algumas cláusulas de exceção. Mas escrever as notas me ajudou a entender melhor por que não sou um AE e também por que acho que o princípio do AE comporia, com modificações consideráveis, uma parte valiosa de alguma filosofia de vida mais ampla. Mas ainda não entendo qual é essa filosofia de vida.

Em outro lugar

Sugiro examinar as críticas ao altruísmo eficaz e essas quatro categorias de críticas ao AE. Depois que terminei o primeiro rascunho dessas notas, foi anunciado um concurso para críticas ao AE; Estou curioso para ver as submissões. O design da competição é, talvez infelizmente, construído em torno de ideias pré-existentes do AE.

Agradecimentos

Obrigado a muitas pessoas por conversas que mudaram ou informaram como eu penso sobre o AE, incluindo: Marc Andreessen, Nadia Asparouhova, Alexander Berger, David Chapman, Patrick Collison, Julia Galef, Anastasia Gamick, Danny Goroff, Katja Grace, Spencer Greenberg, Robin Hanson, David Krakauer, Rob Long, Andy Matuschak, Luke Muehlhauser, Chris Olah, Catherine Olsson, Toby Ord, Kanjun Qiu e Jacob Trefethen. Quaisquer boas ideias aqui devem-se em grande parte a eles. Claro, eles são inteiramente responsáveis ​​por todos os erros :-P! Meus agradecimentos especiais a Alexander Berger, Anastasia Gamick, Katja Grace, Rob Long, Catherine Olsson e Toby Ord: conversas com aqueles que inspiraram diretamente estas notas. Espero que muitos deles, no entanto, discordem fortemente com muito do que está nas notas! E obrigado a Nadia Asparouhova e David Chapman por fornecer feedback sobre o rascunho dessas notas. Obrigado a Keller Scholl por apontar um erro na versão inicial do ensaio.

Notas de rodapé

1. Helen Toner tem uma refutação cuidadosa da ideia de que o AE é uma ideologia, argumentando que a maioria das ideologias visa fornecer respostas, enquanto o AE é principalmente sobre fazer uma pergunta (“como fazer o maior bem possível?”). O ensaio é muito bom, mas em última análise, sinto-me confortável em usar “ideologia” para descrever o AE. Há uma forte presunção no AE de que você deve almejar fazer o maior bem, usando seu melhor julgamento com base nas informações e oportunidades disponíveis. Nesse sentido, está dando uma resposta. No entanto, como discutirei mais adiante, uma das características mais atraentes do AE – e incomum entre as ideologias – é que grande parte da resposta está mudando e sendo constantemente renegociada.

2. Frequentemente me referirei a pessoas que “são” AEs. Claro, a questão da identidade é complicada. Há muitas pessoas – inclusive eu – que são adjacentes à comunidade do AE, mas não exatamente nela. (Certamente não me considero um AE). Uma das minhas piadas favoritas sobre a comunidade de racionalidade (também adjacente a comunidade AE) é que seu lema de adesão é “Não sou um racionalista, mas…” Isso não é tão verdadeiro para os AEs, mas também há alguma verdade nisso.

3. As ideias aqui são fruto de conversa com Catherine Olsson e Rob Long.

4. Peter Singer, “O bem que você pode fazer” (2015).

5. “Psiconauta moral” foi-me sugerido por Catherine Olsson.

6. Nesses e em outros exemplos, não está claro quem foi o pioneiro moral original. Certamente, o autor do Sermão não “descobriu” as ideias sozinho, elas surgiram de alguma tradição, algum ato de descoberta coletiva. Também é verdade que só porque alguém é um pioneiro moral não o torna uma boa pessoa de forma desqualificada! Nesse sentido, o termo “herói” talvez seja inapropriado.

7. E uau, com eles são crédulos! Este é meu bicho-papão particular, algo em que acho que os AEs estão bem equivocados. Newton, Darwin e Einstein não chegaram a seus grandes avanços usando RCTs e meta-análises. Nem Picasso aprendeu a pintar dessa maneira. RCTs e meta-análises são uma pequena parte do arsenal da ciência, não o auge. Na verdade, a metodologia nesse sentido nunca é o auge.

8. Gosto de me divertir com a ideia de que é uma abordagem popperiana do “bem”. Conjecturas e refutações morais, a lógica da descoberta ética. Aliás, você pode dizer que “o que é o bem?” é justamente o âmbito da ética e da filosofia moral. O AE indiscutivelmente adiciona componentes experimentais e aplicados do mundo real (imperfeitos) a esses assuntos.

9. Talvez precisemos de um Centro para o Altruísmo Eficaz Eficaz? Ou uma Givewellwell, avaliando a eficácia de organizações de classificação de eficácia das organizações.

10. Um amigo observou que algumas organizações do AE passaram pelo acelerador de inicialização YCombinator. Eu perguntei como isso tinha acontecido. Eles fizeram uma pausa e disseram rindo que não tinham certeza, mas era notável que as organizações tivessem se tornado “muito mais interessadas em gráficos que sobem e vão para a direita”. (No geral, acho que isso é positivo. Não tenho certeza, mas gosto da história).

11. É interessante conceber o AE principalmente como um meio de fornecer bens públicos que são insuficientes no mercado. Uma crítica um pouco mais profunda aqui é que o mercado fornece um conjunto muito poderoso de sinais que agregam conhecimento descentralizado e ajudam as pessoas a agirem de acordo com sua vantagem comparativa. O AE, em comparação, é relativamente centralizado e focado na vantagem absoluta. Isso tende a centralizar as ações das pessoas e agrava os erros. Também é provavelmente um modelo de alocação de recursos muito mais fraco, embora tenha a vantagem de se concentrar em bens públicos. Algumas vezes me perguntei sobre uma espécie de “AE libertário”, mais focado no mercado, mas corrigindo sistematicamente as conhecidas falhas de mercado.

12. Isso parece ser menos verdadeiro para o AE do que para muitas (embora não todas) outras organizações e movimentos. É, no entanto, preocupante que as organizações AE (principalmente) não tenham data de validade; nem existe um modelo competitivo que assegure que as organizações melhoradas prosperem e superem as menos eficazes. A propósito, ouvi dizer que a primeira geração de qualquer religião bem-sucedida é iniciada por um profeta, a segunda geração é dirigida por um burocrata muito eficaz. Talvez isso também seja verdade em outros domínios.

13. É uma espécie de tangente, mas: pessoalmente acho que muitos novos AEs são, muitas vezes, um pouco hipócritas e superconfiantes e, às vezes, excessivamente evangélicos, seja para o AE ou para áreas de causas específicas (“por que você está perdendo seu tempo fazendo isso, você deveria estar trabalhando na segurança da IA”, disse alguém que acha que sabe sobre IA, mas não sabe e não tem nenhuma ideia de nenhum valor sobre a segurança de IA). Isso varia de divertido a levemente irritante a enfurecedor. Esse padrão é, no entanto, comum a muitos movimentos ideológicos e duvido que seja particularmente ruim no AE. Você pode encontrar questões semelhantes dentro do ambientalismo, cripto, libertarianismo, a maioria das religiões, comunismo e muitas outras ideologias.

14. Exceto, fundamentalmente, a participação no mercado e a subjugação ao governo. É o governo-pela-tecnocracia. Talvez seja revelador que o primeiro (participação no mercado) também seja enquadrado em termos de escolha. Mas introduz alguma noção de um conjunto “natural” de escolhas disponíveis para você, por meio de noções como o mercado de trabalho e o mercado de bens e serviços. Não há nada de natural neles.

15. Não tenho certeza se “dever” é a palavra normalmente usada. Mas capta muito bem o sentido emocional que costumo ter. Não é sem alegria ou elã, mas estes também não são os sentimentos primários.

16. Suspeito que nenhuma sociedade jamais foi saudável sem investir tempo e recursos significativos nas artes.

17. Um ensaio perspicaz e humano nesse sentido é o de Julia Wise: Você tem mais de um objetivo, e tudo bem (2019).

18. Amia Srinivasan, Stop the Robot Apocalypse, London Review of Books (2015).

19. James Scott, “Ver como um estado” (1998).

20. Cf. o conceito intimamente relacionado de nebulosidade de David Chapman.

–

Publicado originalmente em 2 de junho de 2022 aqui. Traduzido a partir da versão, com pequenas modificações, de 3 de junho de 2022, publicada no EA Forum.

Autor: Michael Nielsen

Tradução: Fernando Moreno