De Benjamin Todd

Passamos grande parte dos últimos 10 anos (ou mais) tentando responder a uma simples pergunta: quais são os maiores e mais negligenciados dos problemas?

Queríamos ter um impacto positivo com nossas carreiras, e por isso fomos pesquisar onde nossos esforços seriam mais eficazes.

Nossa análise sugere que a escolha do problema certo poderia aumentar o seu impacto em mais de 100 vezes, o que a tornaria o impulsionador mais importante do seu impacto.

Aqui, daremos um resumo do que descobrimos. Continue lendo para ver por que acabar com a diarreia poderia salvar tantas vidas quanto a paz mundial, por que a inteligência artificial pode ser ainda mais importante que isso e o que fazer na sua própria carreira para fazer com que as mudanças mais urgentes aconteçam.

Resumindo, os problemas mais urgentes são aqueles que as pessoas podem ter o maior impacto ao trabalhar em sua solução. Como explicamos no artigo anterior, isso significa problemas que não são apenas grandes, mas também negligenciados e solucionáveis. Quanto mais negligenciado e solucionável for um problema, mais um esforço extra alcançará. E isso significa que eles não são os problemas que nos vem à mente mais rápido.

Se você só quiser ver qual achamos que é a resposta, vá para a nossa lista dos problemas mais prementes do mundo.

Tempo de leitura: 25 minutos.

>> Você também pode preferir primeiro assistir a este vídeo:

1. Por que os problemas enfrentados por países ricos nem sempre são os mais importantes — e por que a caridade nem sempre deve começar em casa

A maioria das pessoas que querem fazer algo bom costuma focar nos problemas do seu país natal. Em países ricos, isso muitas vezes significa problemas como falta de moradia, educação em áreas periféricas e desemprego*. Mas são essas as questões mais urgentes?

[*NT: mesmo para um país em desenvolvimento como Brasil essa argumentação tem seu peso. Ainda que tenhamos muito que avançar, nossos problemas são menores se comparados àqueles da maioria dos países da África Subsaariana ou do sudeste asiático, por exemplo.]

Nos EUA, apenas 5% das doações para a caridade são gastas em causas internacionais.1 As carreiras mais populares para graduados talentosos que desejam fazer o bem são educação e saúde, as quais recebem em conjunto cerca de 40% das pessoas com ensino superior completo, e envolvem principalmente ajudar pessoas dentro dos EUA.2.

Há boas razões para focar em ajudar o seu próprio país: você sabe mais sobre os seus problemas e pode sentir que tem obrigações especiais para com ele. No entanto, lá em 2009, nos deparamos com a seguinte série de fatos. Eles nos levaram a pensar que os problemas mais urgentes não são locais, mas sim relacionados à pobreza nos países mais pobres, especialmente esforços na área da saúde, como o combate à malária ou aos vermes parasitas. (E como veremos mais tarde, agora achamos que há problemas ainda mais prementes que a pobreza global, em particular, riscos catastróficos que poderiam afetar o mundo e o futuro inteiro.)

Por que dizemos que os problemas mais urgentes não são locais? Bem, aqui está um gráfico bem surpreendente com que nos deparamos em nossa pesquisa.

Fonte: PovcalNet e Milanović3

Essa é a distribuição de renda mundial que vimos num artigo anterior.

Mesmo alguém vivendo na linha de pobreza dos EUA de US$ 14.580 por ano (à altura de 2023) é mais rico que cerca de 85% da população mundial e cerca de 20 vezes mais rico do que os 700 milhões mais pobres do mundo, que vivem predominantemente na América Central, África e Sul da Ásia com menos de US$ 800 por ano. Esses números já estão ajustados para levar em conta que o dinheiro é capaz de fazer muito mais nos países pobres (paridade de poder de compra).4

Como também vimos anteriormente, quanto mais pobre você é, maior diferença um dinheiro extra faz para seu bem-estar. Com base nessa pesquisa, dado que os pobres na África são 20 vezes mais pobres, esperamos que recursos os ajudem 20 vezes mais.

Também há apenas cerca de 40 milhões de pessoas vivendo em relativa pobreza nos EUA, o equivalente a cerca de 6% dos 650 milhões em pobreza extrema global.5

Também há, de longe, muito mais recursos direcionados a ajudar esse grupo menor de pessoas. A ajuda oferecida por países desenvolvidos para o desenvolvimento externo totaliza US$ 200 bilhões por ano, comparados a US$ 1,7 trilhão gastos apenas com bem-estar social dentro dos Estados Unidos.6

Finalmente, como vimos anteriormente, uma considerável fração das intervenções sociais feitas nos EUA provavelmente não funcionam. Isso se dá porque os problemas enfrentados pelos mais pobres em países ricos são complexos e difíceis de resolver. Além do mais, mesmo as intervenções melhor amparadas em evidências são caras e possuem efeitos modestos.

A mesma comparação pode ser feita para outros países ricos, como o Reino Unido, a Austrália, o Canadá e a União Europeia. (Contudo, se você mora em um país de baixa renda, poder ser melhor manter o foco nos problemas locais).

Isso tudo não significa negar que os pobres em países ricos têm vidas muito duras, talvez até mesmo piores em alguns aspectos do que as vidas dos pobres em países em desenvolvimento. A questão antes é: há muito menos pobres em países ricos e é mais difícil ajudá-los.

Portanto, se você não está focando em questões no seu país de origem, no que você deveria focar?

Jay Z pode ter 99 problemas, mas qual é o mais urgente?

2. Saúde global: um problema no qual você pode realmente fazer progresso

Anteriormente, contamos a história do dr. Nalin, que ajudou a desenvolver a terapia de reidratação oral como tratamento para a diarreia.

E se lhe disséssemos o seguinte? Ao longo da segunda metade do século XX, os esforços do dr. Nalin, em conjunto com outros, contribuíram tanto para salvar vidas quanto, ao longo do mesmo período, a conquista da paz mundial teria contribuído.

O número de mortes a cada ano devidas à diarreia caíram em 3 milhões durante as últimas cinco décadas devido a avanços como a terapia de reidratação oral.

Ao mesmo tempo, todas as guerras e fomes causadas por razões políticas mataram cerca de 2 milhões de pessoas por ano durante a segunda metade do século XX7.

E tivemos vitórias similares sobre outras doenças infecciosas.

A luta global contra as doenças é uma das maiores conquistas humanas, mas também é uma batalha contínua para a qual você pode contribuir com a sua carreira.

Uma grande fração desses ganhos foi impulsionada pela ajuda humanitária, como a campanha para erradicar a varíola7. De fato, embora muitos especialistas em economia acreditem que grande parte da ajuda internacional não foi eficaz, mesmo os mais céticos concordam que existe uma exceção: a saúde global.

Por exemplo, William Easterly, autor de O Espetáculo do Crescimento: Aventuras e Desventuras dos Economistas na Incessante Busca pela Prosperidade nos Trópicos, escreveu:

Coloque o foco de volta no seu lugar: consiga para as pessoas mais pobres do mundo bens óbvios como as vacinas, os antibióticos, os suplementos alimentares, as sementes aprimoradas, o fertilizante, as estradas (…) Isso não é tornar os pobres dependentes de esmolas; isso é dar às pessoas mais pobres a saúde, nutrição, educação e outros insumos que aumentam as recompensas pelos seus próprios esforços para melhorar suas vidas.”

Dentro da saúde, onde focar? Um economista do Banco Mundial nos enviou estes dados, que também nos surpreenderam.

Custo-efetividade das intervenções de saúde conforme encontrada no Projeto de Prioridades de Controle de Doenças. Veja “O imperativo moral de considerar a relação custo-eficácia na saúde global” de Toby Ord para mais explicações.

Isso é uma lista de tratamentos de saúde, tais como o fornecimento de medicamentos ou cirurgias contra a tuberculose, classificados em relação à quantidade de saúde que eles produzem por dólar, conforme medida em rigorosos estudos controlados aleatórios. A saúde é medida em uma unidade-padrão utilizada pelos economistas da saúde, denominada ano de vida ajustado conforme a qualidade (QALY ).

A primeira coisa a se considerar é que todos esses tratamentos são eficazes. Essencialmente, todos eles seriam financiados em países como os EUA e o Reino Unido. As pessoas nos países pobres, no entanto, morrem rotineiramente de doenças que certamente teriam sido tratadas se elas tivessem calhado de nascer em algum outro lugar.

Ainda mais surpreendente, no entanto, é que as principais intervenções são muito melhores do que a média, conforme é mostrado pelo pico à direita. As melhores intervenções, como as vacinas, demonstraram ter benefícios consideráveis, mas também são extremamente baratas. A melhor intervenção é mais de dez vezes melhor em termos de custo-efetividade do que a média e 15.000 vezes melhor do que a pior8. Isso significa que, se você estivesse trabalhando em uma organização de saúde focada em uma das melhores intervenções, você esperaria ter dez vezes mais impacto em comparação com uma outra intervenção aleatoriamente escolhida.

Esse estudo não é perfeito – ocorreram alguns erros na análise que afetaram os melhores resultados (e é isso o que se esperaria devido à regressão à média) –, mas o ponto principal é sólido: as melhores intervenções de saúde são muitas vezes mais eficazes do que a média.

Então, quanto mais impacto você poderá ter em sua carreira ao mudar seu foco para a saúde global?

Como vimos no primeiro gráfico, dado que as pessoas mais pobres do mundo são mais de 20 vezes mais pobres do que as pessoas pobres nos países ricos, os recursos contribuem cerca de 20 vezes mais para ajudá-las (leia sobre a razão disso aqui)9.

Então, se focarmos na saúde, existem intervenções baratas e eficazes que todos concordam que vale a pena fazer. Podemos usar a pesquisa do último gráfico para escolher as melhores intervenções, permitindo-nos ter, talvez, um impacto cinco vezes maior ainda.10 Isso totaliza uma diferença de impacto de 100 vezes11.

Isso confere? O Serviço Nacional de Saúde do Reino Unido e muitas agências governamentais dos EUA estão dispostos a gastar mais de US$ 30.000 para prover a alguém um ano extra de vida saudável12. Esse é um fantástico uso de recursos para padrões comuns.

No entanto, pesquisas da GiveWell descobriram que é possível prover a uma criança um ano de vida saudável doando cerca de US$ 100 para uma das organizações focadas em saúde global mais positivas em termos de custo-efetividade, como a Against Malaria Foundation (leia sobre a Against Malaria Foundation em português). Isso é cerca 0,33% do valor no parágrafo anterior.13 Isso sugere que, pelo menos em termos de melhorias na saúde, uma carreira de trabalho numa organização como a AMF pode alcançar tanto quanto 300 carreiras focadas em um modo típico de fazer o bem num país rico. (Embora nosso melhor palpite seja que uma comparação mais rigorosa e abrangente encontraria uma diferença um pouco menor.14)

É difícil entendermos diferenças de escala tão grandes, mas isso significa que um ano de esforço (igualmente qualificado) aplicado aos melhores tratamentos na área da saúde global poderia ter tanto impacto quanto o que teria necessitado outros 100 anos trabalhando em problemas típicos de um país rico.

Essas descobertas levaram muitos de nós no 80.000 Horas a começar a doar pelo menos 10% de nossas rendas para organizações eficazes na área da saúde global. Não importa em qual emprego acabássemos entrando, essas doações nos permitiriam fazer uma diferença significativa. De fato, se o índice de 100 vezes estiver correto, uma doação de 10% seria equivalente a doar 1.000% de nossa renda para instituições de caridade focadas na pobreza dentro de países ricos.

Veja mais detalhes sobre como contribuir para a saúde global em nosso guia completo.

Antes de continuar, assista ao vídeo abaixo (ative as legendas em português).

No entanto, tudo o que aprendemos sobre saúde global levantou muitas outras questões. Se é possível obter 10 ou 100 vezes mais impacto só fazendo um pouco de pesquisa, não deve haver áreas ainda melhores para descobrirmos?

Consideramos muitos caminhos para ajudar os pobres globais, como reformas comerciais, a promoção da imigração (leia este texto que também aborda o tema, em português), pesquisas de melhoria da produtividade agrícola e a pesquisa biomédica.

Mudando de rumo, também consideramos seriamente o trabalho para acabar com a pecuária industrial. A ideia, em suma, é que os interesses dos animais recebem muito pouca proteção de nossos sistemas econômicos e políticos atuais, mas há enormes números deles: cerca de 100 bilhões de animais morrem a cada ano em fazendas industriais. Por exemplo, ajudamos a fundar a Animal Charity Evaluators, que faz pesquisa sobre como melhorar da forma mais eficaz o bem-estar animal. Ainda pensamos que a pecuária industrial é um problema urgente, como explicamos em nosso guia completo. Mas no final, decidimos focar em algo diferente.

3. Por que concentrar-se nas gerações futuras pode ser ainda mais eficaz do que tratar da saúde global

Quais destas duas opções você escolheria?

  1. Impedir que uma pessoa sofra no próximo ano.
  2. Impedir que 100 pessoas sofram (a mesma quantidade de sofrimento) daqui a 100 anos.

A maioria das pessoas escolhe a segunda opção. É um exemplo grosseiro, mas sugere que elas valorizam as futuras gerações.

Se as pessoas não quisessem deixar um legado para as gerações futuras, seria difícil entender por que investimos tanto na ciência, criamos arte e preservamos a natureza selvagem.

Nós certamente escolheríamos a segunda opção. E se você valoriza as gerações futuras, então há argumentos poderosos para a ideia de você deve focar em ajudá-las. Fomos expostos a eles por pesquisadores do (modestamente batizado) Future of Humanity Institute (Instituto Futuro da Humanidade), da Universidade de Oxford.

Então, qual é o raciocínio por trás disso?

Primeiro, as futuras gerações importam, mas não podem votar, não podem comprar coisas, tampouco podem defender seus interesses. Isso significa que nosso sistema as negligencia. Pode ver isso considerando que não chegamos a um acordo internacional que realmente funcione para enfrentar as mudanças climáticas.

Segundo, a situação delas é abstrata. Lembramo-nos de questões como a pobreza global e a pecuária industrial com muito mais frequência. Mas não conseguimos visualizar tão facilmente o sofrimento que irá acontecer no futuro. As gerações futuras dependem mais da nossa boa vontade, e até isso é difícil de mobilizar.

Em terceiro lugar, provavelmente haverá muito mais pessoas vivas no futuro do que há hoje. A Terra permanecerá habitável por pelo menos centenas de milhões de anos15. Podemos ser extintos muito antes disso, mas se houver uma chance de conseguirmos sobreviver até lá, muito mais pessoas viverão no futuro do que estão vivas hoje.

Usando valores hipotéticos: se cada geração durar 100 anos, ao longo de 100 milhões de anos poderia haver 1 milhão de gerações futuras.16

Esse é um número tão grande que qualquer problema que afete as futuras gerações pode ter uma escala muito maior do que um problema que afete apenas o presente: poderia afetar uma quantidade de pessoas um milhão de vezes maior, e toda a arte, ciência, cultura e bem-estar que isso implicará. Logo, problemas que afetam as gerações futuras podem ser os de maior escala e os mais negligenciados.

Além disso, porque o futuro poderia ser longo e o universo é tão vasto, quase independentemente do que você valoriza, poderia haver muito mais do que importa no futuro.

Isso sugere que temos uma razão muito maior do que as pessoas geralmente percebem para ajudar o futuro — e não apenas o futuro próximo, mas também o futuro bem distante — a ir bem. (Abordaremos essas ideias com mais profundidade num artigo distinto.)

Mas será que podemos realmente ajudar as gerações futuras, ou melhorar o futuro no longo prazo? Não poderia ser que os problemas que afetam o futuro são grandes e negligenciados, mas não solucionáveis?

4. Um modo que ajudar as gerações futuras: evite riscos existenciais negligenciados

No verão de 2013, Barack Obama referiu-se às mudanças climáticas como “a ameaça global do nosso tempo”. Ele não está sozinho nessa opinião. Ao pensar nos problemas que as gerações futuras enfrentam, frequentemente o aquecimento global é o primeiro a vir à mente de muitos.

Uma razão para isso é que as mudanças climáticas poderiam levar a um colapso civilizacional catastrófico, e poderia até levar ao fim da espécie humana.17

Achamos que esse pensamento está, em certa medida, no caminho certo. O modo mais potente de ajudarmos as futuras gerações é, pensamos, prevenindo uma catástrofe que possa acabar com a civilização avançada, ou até impedir que quaisquer gerações futuras venham a existir. Se a civilização sobreviver, teremos posteriormente uma chance de resolver problemas como a pobreza e a doença; ao passo que qualquer coisa que imponha uma ameaça genuinamente existencial impedirá qualquer progresso desse tipo. (Em outro lugar, nós defendemos a importância da redução de riscos existenciais.)

No entanto, as mudanças climáticas também são amplamente reconhecidas como um grande problema (pondo de lado os teóricos da conspiração) e recebe dezenas ou até centenas de bilhões de dólares de investimento. Nosso palpite também é que há problemas que impõem riscos muito maiores de acabar com a civilização.

Logo, embora achemos que as mudanças climáticas são um modo importante de ajudar as gerações futuras, achamos que provavelmente haverá um impacto muito maior se muitos focarem em problemas mais negligenciados e existencialmente perigosos.

(Você pode ler mais sobre o risco das mudanças climáticas em nosso perfil completo do problema.)

4.1. Biorrisco: a ameaça de doenças futuras

Em 2006, o jornal The Guardian encomendou segmentos de DNA de varíola pelo correio. Se montados em uma cadeia completa e transmitidos a 10 pessoas, um estudo estimou que ela poderia infectar 2,2 milhões de pessoas em 180 dias podendo matar 660.000 se as autoridades não respondessem rapidamente com vacinas e quarentenas.18

Créditos pela imagem: The Guardian

Escrevemos sobre os riscos impostos por pandemias catastróficas pela primeira vez lá em 2016. Sete anos depois, e três após a emergência da covid-19, ainda estamos preocupados.

A covid-19 perturbou o mundo e, até agora, matou mais de 10 milhões de pessoas. Mas é fácil imaginar cenários muito piores.

No futuro, podemos imaginar doenças ainda mais mortais do que a covid-19 e a varíola, criadas seja pela evolução natural, seja pela bioengenharia (cuja tecnologia está se tornando mais barata e acessível a cada ano).

Na nossa opinião, a chance de uma pandemia que mate mais de 100 milhões de pessoas no próximo século parece semelhante ao risco de uma guerra nuclear ou de mudanças climáticas descontroladas, e provavelmente maior que eles. Logo, ela coloca uma ameaça que é no mínimo de grandeza semelhante tanto à geração presente quanto às gerações futuras.

Mas riscos de pandemias são, mesmo agora, muito mais negligenciados do que qualquer um dos dois que acabamos de mencionar. Estimamos que mais de US$ 600 bilhões sejam gastos anualmente em esforços para combater as mudanças climáticas, em comparação com US$ 1 a US$ 10 bilhões gastos em biossegurança visando lidar com os piores casos possíveis de pandemias.

Além disso, há alguns modos como os riscos das pandemias poderiam ser ainda maiores. É muito difícil enxergar um modo como a guerra nuclear ou a mudança climática poderia matar literalmente todo o mundo, e findar permanentemente a civilização; mas armas biológicas com esse poder parecem estar dentro do domínio do possível, dado tempo suficiente.

Ao mesmo tempo, há muitas coisas relativamente simples que podem ser feitas para melhorar a biossegurança, como melhorar a regulamentação de laboratórios, construir reservas maiores de equipamento de proteção individual (EPI) e desenvolver diagnósticos baratos para detectar novas doenças rapidamente. No geral, achamos que a biossegurança é provavelmente mais urgente do que as mudanças climáticas. Atualmente, achamos que a biossegurança é um dos problemas mais urgentes do mundo.

Leia mais sobre como contribuir para a biossegurança em nosso perfil completo do problema.

Mas há problemas que podem ser ainda mais importantes e que parecem ser ainda mais negligenciados.

4.2. Prevenir uma catástrofe relacionada à IA

Por volta de 1800, a civilização passou por uma das mudanças mais profundas da história humana: a revolução industrial19.

Olhando para o futuro, qual poderia ser a próxima transição dessa escala: o próximo evento crucial na história que moldará todas as gerações futuras? Se pudéssemos identificar tal transição, essa poderia bem ser a área mais importante para na qual trabalhar.

Um candidato é a bioengenharia – a capacidade de redesenhar fundamentalmente os seres humanos – conforme discutido, por exemplo, por Yuval Noah Harari em Sapiens.

Mas achamos que há um problema que é ainda mais negligenciado e que está se desenvolvendo muito mais rápido: a inteligência artificial.

Bilhões de dólares são gastos tentando tornar a inteligência artificial mais poderosa, mas quase nenhum esforço é dedicado a garantir que essas capacidades adicionais sejam implementadas com segurança e para o benefício da humanidade.

Isso é importante por duas razões principais.

Primeiro, sistemas de IA poderosos podem ser usados indevidamente. Por exemplo, eles podem ser usados para desenvolver perigosas novas tecnologias, como armamentos novos e mais poderosos.

Segundo, há um risco de acidentes quando poderosos sistemas novos de IA são implementados. Isso é especialmente premente devido ao problema do alinhamento. Esse é um tópico complexo; portanto, se você quiser explorá-lo adequadamente, recomendamos ler o nosso perfil de problema completo sobre a inteligência artificial. Mas aqui está uma rápida introdução.

Nos anos 80, o xadrez foi apresentado como um exemplo de algo que uma máquina nunca poderia fazer. Mas em 1997, o campeão mundial de xadrez Garry Kasparov foi derrotado pelo programa de computador Deep Blue. Desde então, os computadores se tornaram muito melhores no xadrez do que os humanos.

Em 2004, dois especialistas em inteligência artificial usaram dirigir caminhões como exemplo de um trabalho que seria muito difícil de automatizar. Mas hoje, os carros autônomos já estão na estrada20.

Em agosto de 2021, uma equipe de previsores profissionais previu que levaria cinco anos para um computador poder resolver problemas de matemática a nível de competição do ensino médio. Menos de um ano depois, a Google construiu uma IA que podia fazer exatamente isso.

No final de 2022, o ChatGPT se tornou a plataforma on-line de maior crescimento na história.

Linha do tempo de imagens geradas por inteligência artificial.
Essas pessoas não existem. Todas as imagens foram geradas por inteligência artificial.

Os mais recentes desses avanços são possíveis devido ao progresso no aprendizado de máquina. No passado, em geral precisávamos fornecer instruções detalhadas aos computadores para toda tarefa. Hoje, temos programas que ensinam a si mesmos. O mesmo algoritmo que pode jogar Space Invaders também aprendeu a jogar cerca de 50 outros jogos de fliperama, legendar imagens, bater papo com humanos e manipular um braço robótico.

O aprendizado de máquina existe há décadas, mas algoritmos aprimorados (especialmente em torno de técnicas de aprendizado profundo), processadores mais rápidos, conjuntos de dados maiores e grandes investimentos de empresas como a Google e a Microsoft levaram a avanços surpreendentes muito mais rápido do que o esperado.

A Google DeepMind Joga Space Invaders a um nível sobre-humano

Devido a isso, muitos especialistas acreditam que a inteligência artificial a nível humano poderia facilmente acontecer enquanto ainda estivermos vivos. Aqui estão os resultados de uma pesquisa de 2022 com centenas de pesquisadores da área da IA do mais alto escalão:21

  Resposta mediana Resposta média Desvio padrão
10% de chance de inteligência artificial a nível humano 2032 2042 40 anos
50% de chance de inteligência artificial a nível humano 2052 2127 530 anos
90% de chance de inteligência artificial a nível humano 2086 5406 40.000 anos

Você pode ver que os especialistas dão 50% de chance (ou mais) de que a IA de nível humano ocorra até 2050, daqui a apenas 30 anos. Admita-se, eles estão muito incertos, mas a alta incerteza também significa que pode chegar mais cedo em vez de mais tarde. Você pode ler muito mais sobre quando a IA de nível humano pode acontecer em nosso perfil de problema completo sobre a IA.

Por que isso é importante? Os gorilas são mais rápidos que nós, mais fortes que nós e têm uma mordida mais potente. Mas existem apenas 100.000 gorilas na natureza, em comparação com sete bilhões de seres humanos, e seu destino está em nossas mãos22. Uma das principais razões para isso é a diferença de inteligência.

Neste momento, os computadores são mais inteligentes do que nós de maneira limitada (por exemplo, jogando StarCraft), e isso já está transformando a economia. Mas o que acontecerá quando os computadores se tornarem mais inteligentes do que nós de quase todas as maneiras, da mesma forma que somos mais inteligentes que os gorilas?

Essa transição pode ser extremamente positiva ou extremamente negativa. Por um lado, assim como a revolução industrial automatizou o trabalho manual, a revolução da IA poderia automatizar o trabalho intelectual, desencadeando uma prosperidade e acesso a recursos materiais sem precedentes.

Mas também não poderíamos garantir o controle de um sistema que é mais inteligente do que nós: ele seria mais estratégico do que nós, mais persuasivo e melhor em resolver problemas. Portanto, precisamos garantir que o sistema de IA compartilhará os nossos objetivos.

No entanto, isso não é fácil. Ninguém sabe como codificar o comportamento moral em um computador. Dentro da ciência da computação, isso é conhecido como o problema do alinhamento.

Resolver esse problema pode ser extremamente importante, mas hoje muito poucas pessoas estão trabalhando nele.

Estimamos que o número de pesquisadores trabalhando diretamente em tempo integral no problema do alinhamento esteja em torno de 300, tornando-o mais de 10 vezes mais negligenciado do que a biossegurança.

Ao mesmo tempo, há uma movimentação por trás desse trabalho. Nos últimos 10 anos, o campo conquistou apoio na academia e na indústria23, como Stephen Hawking, Stuart Russell (que escreveu o livro didático mais popular na área da IA) e Geoffrey Hinton (pioneiro da àrea da IA). Se você, pessoalmente, não se adéqua bem à pesquisa técnica, pode contribuir de outras formas: por exemplo, trabalhando como gerente ou assistente de pesquisa ou doando e angariando fundos para essa pesquisa.

Isso também será um grande problema para os governos. Políticas públicas relativas à IA estão rapidamente se tornando uma área importante, mas os formuladores de tais políticas estão geralmente focados em questões de curto prazo, como regulamentação de carros autônomos e perda de empregos, em vez das questões-chave de longo prazo (isto é, o futuro da civilização).

Você pode descobrir como contribuir em nosso perfil completo sobre o problema.

De todos os problemas que cobrimos até agora, reduzir os riscos impostos pela IA está entre os mais importantes, mas também entre os mais negligenciados. Apesar de também serem mais difíceis de resolver, achamos que ele provavelmente estará entre os problemas de maior impacto das décadas por vir.

Isso foi uma surpresa para nós quando o consideramos pela primeira vez, mas achamos que é onde os argumentos levam. Atualmente, nós passamos mais tempo pesquisando sobre aprendizado de máquina do que sobre redes antimalária.

Leia mais sobre por que achamos que reduzir riscos de extinção deve ser a prioridade-chave da humanidade.

5. Lidar com a incerteza e “ir ao nível meta”

Nossas opiniões mudaram bastante nos últimos 12 anos, e elas podem facilmente mudar de novo. Poderíamos nos comprometer a trabalhar em IA ou biossegurança, mas não poderíamos descobrir algo ainda melhor nos próximos anos? E o que essa incerteza pode implicar sobre onde devemos focar agora

5.1. Pesquisa de prioridades globais

Se você não tem certeza sobre qual problema global é mais urgente, aqui uma resposta: “são necessárias mais pesquisas.” Apenas uma ínfima fração dos bilhões de dólares gastos a cada ano tentando-se melhorar o mundo é dedicada à pesquisa para identificar de qual maneira devemos gastar esses recursos de forma mas eficaz: o que chamamos de “pesquisa de prioridades globais”.

Como vimos, algumas abordagens são muito mais eficazes do que outras. Então, esta pesquisa é extremamente valiosa.

Uma carreira nesta área poderia significar trabalhar na Open Philanthropy, no Future of Humanity Institute e no Rethink Priorities; ou na economia dentro do meio acadêmico, em think tanks ou em outros lugares. Leia mais sobre como contribuir no perfil completo sobre pesquisa de prioridades globais.

5.2. Intervenções amplas, como o melhoramento de políticas

A segunda estratégia é trabalhar em problemas que nos ajudarão a resolver muitos outros problemas. Chamamos isso de “intervenções amplas”.

Por exemplo, se tivéssemos um governo mais esclarecido, isso nos ajudaria a resolver muitos outros problemas que serão enfrentados pelas futuras gerações. O governo dos EUA, em particular, terá um papel crucial em questões como política climática, política de IA, biossegurança e novos desafios que ainda não conhecemos. Portanto, a governança dos EUA é altamente importante (se não for talvez negligenciada ou tratável).

A ação política em sua comunidade local pode ter um efeito sobre os decisores em Washington. Fizemos uma análise do tipo mais simples de ação política votar e descobrimos que poderia ser algo realmente valioso.

Por outro lado, questões como educação e governança dos EUA já recebem uma quantidade enorme de atenção, o que dificulta sua melhoria.

Geralmente favorecemos questões mais negligenciadas com efeitos direcionados sobre as futuras gerações. Por exemplo, uma pesquisa fascinante de Philip Tetlock mostra que algumas equipes e métodos são muito melhores em prever eventos geopolíticos do que outros. Se os decisores na sociedade recebessem relatórios com previsões muito mais precisas, isso os ajudaria a navegar em crises futuras, quaisquer que elas acabassem sendo.

Leia mais sobre como contribuir à melhoria da tomada de decisão no perfil completo. No entanto, a categoria de “intervenções amplas” é uma das áreas de maior incerteza, de modo que estamos interessados em ver mais pesquisas delas.

5.3. Capacitação e promoção do altruísmo eficaz

Se você não tem certeza de quais problemas serão mais prementes no futuro, uma terceira estratégia é simplesmente economizar dinheiro ou investir no seu capital de carreira, para que você esteja em melhor posição para fazer o bem quando tiver mais informações.

No entanto, ao invés de fazer investimentos pessoais, achamos melhor investir em uma comunidade de pessoas que trabalham para fazer o bem.

Num artigo anterior, demos uma olhada na Giving What We Can (GWWC), uma organização que está construindo uma comunidade de pessoas que doam 10% de sua renda para quaisquer organizações que forem as melhores em termos de custo-efetividade.24 Cada US$ 1 investido no crescimento da GWWC levou a mais de US$ 9 já doados para as suas organizações mais recomendadas, e um total de quase mais de US$ 3 já prometidos.

Construindo uma comunidade, a GWWC conseguiu angariar muito mais dinheiro do que seus fundadores poderiam doar individualmente: eles alcançaram um multiplicador de seu impacto.

Mas, além disso, os membros doam para qualquer instituição de caridade que seja mais eficiente no momento. Se a situação mudar, então (pelo menos até certo ponto) as doações mudarão também.

Essa flexibilidade faz com que o impacto ao longo do tempo seja muito maior.

A Giving What We Can é um dentre os vários exemplos de projetos da comunidade do altruísmo eficaz, uma comunidade de pessoas que buscam identificar as melhores maneiras de ajudar os outros e agem de acordo com as suas descobertas. (Veja o nosso perfil completo sobre promover o altruísmo eficaz.)

O próprio 80.000 Horas é outro exemplo desses projetos.

Melhor aconselhamento de carreira não parece um dos problemas mais prementes imagináveis. Mas muitos dos jovens mais talentosos do mundo querem fazer o bem com suas vidas e não têm bons conselhos sobre como fazer isso. Isso significa que, a cada ano, milhares deles têm muito menos impacto do que poderiam ter.

Nós próprios poderíamos ter ido trabalhar em questões como a IA. Mas, em vez disso, ao fornecer melhores conselhos, podemos ajudar milhares de outras pessoas a encontrar carreiras de alto impacto. E assim (se fizermos um bom trabalho), nós mesmos podemos esperar ter milhares de vezes mais impacto.

Além disso, se descobrirmos novas opções de carreira melhores do que as que já conhecemos, podemos passar a promovê-las. Assim como a Giving What We Can, essa flexibilidade nos dá maior impacto ao longo do tempo.

Chamamos as estratégias indiretas mencionadas – pesquisa de prioridades globais, intervenções amplas e promoção do altruísmo eficaz – “ir ao nível meta“, pois tais estratégias trabalham um nível acima dos problemas concretos que parecem mais urgentes.

A desvantagem de “ir ao nível meta” é que é mais difícil saber se seus esforços são eficazes. A vantagem é que eles são geralmente mais negligenciados, já que as pessoas preferem as oportunidades mais concretas que as mais abstratas, e estas últimas permitem que você tenha um impacto maior diante da incerteza.

6. Como descobrir em quais problemas você deve focar

Você pode ver a lista dos problemas mais prementes, incluindo muitos dos que mencionamos nesta página, aqui.

Mas essa é só a nossa lista. O que importa para a sua carreira é a sua lista pessoal.

A avaliação desses problemas depende enormemente de juízos de valor e questões empíricas sujeitas a debate, e você pode não compartilhar nossas respostas. Discutimos sobre alguns modos como poderíamos estar errados na seção de perguntas frequentes na página dos nossos perfis de problemas.

A adequação pessoal é essencial, assim como as oportunidades particulares que você encontra. Não achamos que todos devem trabalhar no problema número um. Se você é extremamente adequado para uma área, pode ser que tenha 10 vezes mais impacto trabalhando nela do que em algo que não o motiva. Logo, isso poderia facilmente mudar sua classificação individual.

Apenas lembre-se de que há muitas maneiras de ajudar a resolver cada um desses problemas, e por isso normalmente é mais fácil do que parece à primeira vista encontrar um trabalho de que você goste e que ajude com problemas nos quais você pode ainda não ter considerado trabalhar. Além disso, é mais fácil desenvolver novas paixões do que a maioria das pessoas espera.

Apesar de todas as incertezas, a sua escolha sobre em qual problema trabalhar pode ser o maior fator a determinar o seu impacto.

Se classificássemos os problemas globais em termos de quão prementes eles são, poderíamos intuitivamente esperar que eles se parecessem assim:

Alguns problemas são mais prementes que outros, mas a maioria é bastante satisfatória.

Mas em vez disso, descobrimos que a realidade se parece mais assim:

Alguns problemas têm muito maior impacto do que outros, pois podem diferir em 10 ou 100 vezes em termos de quão grandes, negligenciados e solucionáveis eles são, bem como seu grau de adequação pessoal a eles25. Portanto, tomar a decisão correta pode significar conquistar resultados mais de 100 vezes maiores em sua carreira.

Se há uma lição para tirarmos de tudo o que cobrimos, é esta: se você quiser fazer o bem no mundo, vale a pena em algum momento tirar realmente um tempo para descobrir sobre diferentes problemas globais e como você pode contribuir para solucioná-los. Leva tempo e há muito que aprender, mas é difícil imaginar algo que seja mais interessante ou importante.

Aplique isso à sua carreira

Você não precisa descobrir em quais problemas você deseja focar bem no início da sua carreira, No começo, a principal prioridade é explorar para descobrir no que você é bom e construir habilidades valiosas. É comum não enfrentar diretamente os problemas que você acha que são os mais prementes por muitos anos.

No entanto, é útil pelo menos ter uma ideia aproximada de em quais problemas você gostaria de trabalhar no futuro, visto que isso pode afetar enormemente quais tipos de habilidade parece mais útil construir. Por exemplo, se a sua opinião é que reduzir riscos da IA está na sua lista, isso poderia sugerir a aquisição de umas habilidades bem diferentes do que a saúde global (embora algumas habilidades sejam úteis nas duas áreas, como a gestão). Logo, ainda que você esteja bem no começo da sua carreira, sugerimos que passe pelo menos alguns dias pensando nessa questão.

Aqui um exercício:

1. Usando os recursos acima, anote os três problemas globais que você considera que mais precisam de pessoas a mais trabalhando neles. Isso dependerá de seus valores e de suposições empíricas.

Não se preocupe demais com a sua adequação pessoal. Embora seja uma consideração importante, a sua adequação para uma função pode ser difícil de avaliar, de modo que temos um artigo inteiro sobre ela posteriormente no guia. Por ora, só foque em conseguir a melhor imagem do que o mundo precisa.

2. Sobre o que você mais está incerto com respeito à sua lista? Como você pode descobrir mais sobre essas questões? (Por exemplo: há algo que você possa ler? Alguém com quem possa conversar?)

Lembre-se de que você pode ver uma lista de todas as áreas de problema que já revisamos aqui. Clique nos perfis individuais para saber mais sobre cada questão. Você também pode olhar a nossa lista de tópicos para ver tudo que já produzimos sobre certa questão.

Essa lista de problemas é só um ponto de partida. O próximo passo é encontrar opções de carreira concretas que façam a diferença dentro da área (o que cobrimos no próximo artigo), e daí encontrar uma opção com uma excelente adequação pessoal (o que também cobrimos posteriormente).

Leia em seguida

Parte 6: Quais trabalhos mais ajudam as pessoas? Ou veja uma visão geral do guia de carreiras inteiro.

Notas e Referências

1. Fonte: Giving USA 2022 Report.

Em 2021, os americanos doaram US$ 484,85 bilhões para a caridade, um aumento de 4,0% durante o ano de 2020. Ajustada com relação à inflação, a doação total continuou relativamente fixa, com um crescimento de – 0,7%.

Link arquivado, recuperado em 11 de janeiro de 2023.

2. Segundo os dados de janeiro de 2023 dos Resultados de Emprego Pós-Secundário do Departamento do Censo dos EUA, um ano após a graduação:

  • 21% dos graduados empregados estão na área da saúde (isso permanece em 21% aos 5 anos e aos 10 anos após a graduação)
  • 17% dos graduados empregados estão na área da educação (isso aumenta para 19% aos 5 anos e 21% aos 10 anos após a graduação)
  • 5% dos graduados empregados estão na área da administração pública (isso aumenta para 6% aos 5 anos e 7% aos 10 anos após a graduação).

Perceba que uma grande fração do gasto do governo se direciona à saúde e à educação, de modo que quem vai trabalhar no governo também está contribuindo para essas áreas.

Baixamos os dados brutos da página dos Resultados de Emprego Pós-Secundário do site do Departamento do Censo dos EUA e agregamos esses números nós mesmos. Veja todos os dados agregados aqui.

O Departamento do Censo dos EUA observa:

Os REPS são possibilitados pelo compartilhamento de dados entre universidades, sistemas universitários, Departamentos de Educação Estaduais, escritórios estaduais de Informação de Mercado de Trabalho e o Departamento do Censo dos EUA. Os dados dos REPS estão disponíveis para instituições pós-secundárias cujos dados transcritos tenham sido disponibilizados ao Departamento do Censo por meio de um acordo de compartilhamento de dados.

Pensaríamos que uma proporção alta o bastante de universidades estão envolvidas para que esses números estejam aproximadamente corretos, mas pode haver algum viés sistemático (p. ex., universidades estaduais podem ser mais propensas a compartilhar dados do que as privadas).

3. Para uma discussão detalhada sobre as origens e a precisão desse gráfico, consulte nosso post Com que precisão alguém conhece a distribuição global de renda?

Em suma, os dados dos percentis 1 a 79 foram retirados do PovcalNet: a ferramenta on-line para medição da pobreza desenvolvida pelo Grupo de Pesquisa em Desenvolvimento do Banco Mundial. Observe que essa é de fato uma medida de consumo, que acompanha de perto a renda e é a maneira-padrão de rastrear a riqueza das pessoas em direção à parte inferior da distribuição. Os dados dos percentis de renda de 80 a 99 foram fornecidos por Branko Milanović em correspondência privada. (NT: Leia uma introdução simples sobre definições e métricas de Pobreza Global neste outro texto.)

4. Quantos vivem na pobreza globalmente? Exatamente onde traçar a linha é algo arbitrário, mas em Poverty and Shared Prosperity 2022 o Banco Mundial estabeleceu a linha de pobreza em US$ 2,15 por dia (em USD de 2017, paridade de compra ajustada) e estimou que em 2022 havia 667 milhões vivendo abaixo desse nível. US$ 2,15 é cerca de US$ 785 por ano, e a maioria vive abaixo desse nível. O número de americanos que vivem em pobreza relativa é de cerca de 40 milhões (veja abaixo).

Link arquivado, recuperado em 10 de fevereiro de 2023.

5. O relatório do Departamento do Censo dos EUA “Poverty in United States: 2022” aponta que 37,9 milhões de americanos vivem abaixo da linha de pobreza dos EUA.

A taxa de pobreza oficial em 2021 era 11,6 por cento, com 37,9 milhões de pessoas na pobreza.

PDF

O limiar de pobreza dos EUA varia a depender do tamanho do agregado familiar. Para uma única pessoa, o limiar em 2022 era US$ 13.950.

6. Gastos com ajuda externa:

Este relatório da OCDE aponta gastos ADE (assistência para o desenvolvimento no exterior) totais de US$ 178,9 bilhões em 2021. Observe que a ADE oficial só inclui gastos dos 31 membros do Comitê de Assistência ao Desenvolvimento (ADC) da OCDE (grosso modo, países europeus e norte-americanos, a UE, Japão e Coreia do Norte).

PDF arquivado, recuperado em 23 de fevereiro de 2023.

A estimativa da OCDE de fluxos semelhantes a ADE de provedores-chave de cooperação para o desenvolvimento que não reportam ao OCDE-DAC era de US$ 4 bilhões em 2020.

A organização observa que:

Os pesquisadores estimaram que a ajuda da China ao desenvolvimento é muito maior [do que os USD 3,2 relatados em 2019 e os USD 2,9 relatados em 2020], posicionando-se em USD 5,9 bilhões em 2018 (veja Kitano and Miyabayashi) ou tão alta quanto USD 7,9 bilhões se incluirmos créditos de compradores preferenciais (veja Kitano 2019). Estima-se que a cooperação da China para o desenvolvimento diminuiu devido a cortes de despesas para lidar com a covid-19 (Kitano and Miyabayashi).

A medida da OCDE de Total Apoio Oficial para o Desenvolvimento Sustentável (TOSSD), que também inclui empréstimos, investimentos e gastos da parte de muitos – mas não todos os – outros países (incluindo gastos “sul-sul” da parte de países em desenvolvimento em outros países em desenvolvimento) chegaram a um total de US$ 434 bilhões em 2021.

Há também filantropia internacional, mas não achamos que adicioná-la seria mais do que o dobro do valor. Os EUA são a maior fonte de financiamento filantrópico de US$ 400 a 500 bilhões, mas apenas uma pequena porcentagem se direciona a causas internacionais. Um relatório da Giving US estimou que as doações dos EUA para “assuntos internacionais” foram de apenas US$ 27 bilhões em 2021.

Link arquivado, recuperado em 11 de janeiro de 2023.

Além disso, se incluíssemos a filantropia internacional, precisaríamos incluir os gastos filantrópicos com os pobres nos EUA.

Bem-estar social dos EUA

As estimativas de gastos com bem-estar social variam dependendo exatamente do que está incluído. O gasto total também varia de ano para ano. Usamos um valor representativo do usgovernmentspending.com

“Estimou-se” que no ano financeiro de 2022, o gasto total do governo dos EUA em bem-estar social — federal, estadual e local — foi de US$ 1.662 bilhão, incluindo US$ 792 bilhões de Medicaid, e US$ 869 bilhões de outros programas.

Link arquivado, recuperado em 20 de janeiro de 2023.

7. A Terapia de Reidratação Oral, que ganhou destaque durante a Guerra de Libertação de Bangladesh em 1971, reduziu as taxas de mortalidade de 30% para 3%, reduzindo as mortes anuais por diarreia de 4,6 milhões para 1,6 milhão nas quatro décadas anteriores.

Estima-se que todas as guerras, democídios e fomes politicamente motivadas mataram cerca de 160 milhões a 240 milhões de pessoas durante o século XX, ou uma média de 1,6 milhão a 2,4 milhões por ano.

A ajuda humanitária internacional tem contribuído substancialmente para a redução do número de mortes anuais por doenças. US$ 500 milhões dos US$ 1,5 bilhão gastos na eliminação da varíola vieram de financiadores internacionais.

Aid Works on Average, de Toby Ord, Slideshare, recuperado em 27 de fevereiro de 2017.

Toby Ord é assessor do 80.000 Horas.

(NT: sobre a varíola leia também este texto que traduzimos para o Português: A varíola matava milhões de pessoas todos os anos. Eis como os humanos a venceram).

8. Toby Ord, The Moral Imperative toward Cost-effectiveness in Global HealthLink.

(No DCP2) no total, as intervenções estão distribuídas em mais de quatro ordens de grandeza, variando de 0,02 a 300 DALYs por US$ 1.000, com uma mediana de 5. Assim, mover dinheiro da intervenção menos eficaz para a mais eficaz produziria cerca de 15.000 vezes mais benefício, e mesmo passar da intervenção mediana para a mais eficaz produziria cerca de 60 vezes mais benefício.

Em correspondência privada, o Dr. Ord acrescentou que a intervenção média tinha uma eficácia de 24 DALY evitados por US$ 1.000. Observe que um DALY é um “ano de vida ajustado por incapacidade”, ou seja, um ano de vida perdido por problemas de saúde – o oposto de um “ano de vida ajustado à qualidade”.

Se você selecionasse uma intervenção aleatoriamente, então, em média, você escolheria algo com a eficácia média. A maioria das intervenções é pior do que a média, mas se você escolher aleatoriamente, terá uma pequena chance de cair no topo. Leia mais sobre quanto as soluções diferem em termos de eficácia.

9. Uma complicação potencial é que melhorar a situação dos cidadãos pobres dos Estados Unidos ou do Reino Unido poderia acabar tendo benefícios indiretos para os pobres globais, conforme discutido brevemente aqui, o que limitaria o grau de diferença. No entanto, prevejo que os efeitos indiretos sejam inferiores a um vigésimo; então essa consideração não tem muito efeito sobre a proporção de 20 vezes.

10. A partir de 2018, a GiveWell estimou que custa US$ 900 para fazer um bem equivalente a evitar a morte de um indivíduo com menos de cinco anos por meio da intervenção de saúde global mais eficaz: Deworm the World. A GiveWell estima que custa US$ 11.300 para fazer uma quantidade equivalente de bem, dando dinheiro aos pobres globais por meio de doações para a GiveDirectly. Isso implicaria que as melhores intervenções globais de saúde são 13 vezes mais eficazes do que dar dinheiro aos pobres globais. Sendo cautelosos, presumimos que as intervenções globais de saúde são apenas cinco vezes mais eficazes.

A análise da GiveWell está disponível aqui.

11. No entanto, se você pudesse encontrar uma maneira similarmente aproveitável de fazer o bem em um país rico, isso traria a proporção de volta para mais de 20 vezes. A comparação de 100 vezes é com uma intervenção social típica de um país rico.

12. Abaixo de um ICER (proporção incremental entre custo e efetividade) mais plausível de £ 20.000 por QALY ganho, a decisão de recomendar o uso de uma tecnologia é normalmente baseada na estimativa de custo-efetividade e na aceitabilidade de uma tecnologia como um uso eficaz dos recursos do NHS.

NICE health technology evaluations: the manual, 2022. Link arquivado.

13. AMF e Ética Populacional da GiveWell.

14. A diferença de 300 vezes se dá ao comparar os benefícios de saúde com outros benefícios de saúde no curto prazo. Os benefícios econômicos de ajudar as pessoas nos países ricos podem ser maiores porque elas são mais ricas; portanto, se levarmos em conta tanto os benefícios econômicos quanto os benefícios para a saúde, o tamanho da diferença pode diminuir.

Por exemplo, tornar os EUA mais ricos tem benefícios indiretos para o mundo em desenvolvimento, como aumento da ajuda externa e melhoria na tecnologia. Muito grosseiramente, isso pode reduzir o tamanho da diferença por um fator de três.

Se levarmos em conta outras correções, a diferença provavelmente diminuiria ainda mais. No entanto, se fizermos uma comparação completa em termos do que mais beneficia a geração atual, ainda esperaríamos que o investimento em saúde global fosse mais de 20 vezes mais eficaz do que intervenções sociais americanas selecionadas aleatoriamente.

15. Os cientistas do clima discordam sobre exatamente por quanto tempo a Terra permanecerá habitável. Seus modelos geralmente preveem que a Terra permanecerá habitável entre as próximas centenas de milhões de anos e mais de um bilhão de anos.

Dois novos estudos de modelagem descobriram que o Sol gradualmente mais brilhante não vaporizará a água do nosso planeta por pelo menos mais 1 bilhão a 1,5 bilhão de anos: centenas de milhões de anos depois do que um modelo um pouco mais antigo havia previsto.

16. Link arquivado, recuperado em 4 de março de 2017.

17.A maioria das pessoas crê que as mudanças climáticas causarão a extinção da humanidade*” no New York Post, April 2019:

Três a cada quatro americanos pensam que as mudanças climáticas acabarão resultando na extinção da humanidade, segundo nova pesquisa.

Uma nova pesquisa com 2.000 americanos que visa revelar exatamente com quanta “ansiedade climática” as pessoas andam descobriu que quase metade dos americanos pensam que as mudanças climáticas resultarão no fim do mundo dentro dos próximos 200 anos.

Não só isso, mas um a cada cinco millenials acha que as mudanças climáticas provocarão o fim do mundo enquanto ainda estiverem vivos.

18.

A sequência de DNA da varíola, bem como outros patógenos potencialmente perigosos, como o vírus da poliomielite e a gripe de 1918, estão disponíveis gratuitamente em bancos de dados públicos on-line. Logo, para construir um vírus do zero, um terrorista simplesmente ordenaria comprimentos consecutivos de DNA ao longo da sequência e os colaria na ordem correta. Isso está além das habilidades e equipamentos do químico de cozinha, mas pode ser alcançado por um terrorista bem financiado com acesso a um laboratório básico e pessoal de nível de doutorado.

Um estudo estimou que, como a maioria das pessoas no planeta não tem resistência ao vírus extinto, uma versão inicial que infectou apenas 10 pessoas se espalharia para 2,2 milhões de pessoas em 180 dias.

Link arquivado, recuperado em 27 de fevereiro de 2017.

19. Gráfico produzido a partir de Maddison, Angus (2007): Contours of the World Economy, 1–2030 AD. Essays in Macro-Economic History, Oxford University Press, ISBN 978-0-19-922721-1, p. 379, tabela A.4.

20. Em 2004, Frank Levy e Richard Murnane escreveram que “executar uma curva à esquerda no tráfego que se aproxima envolve tantos fatores que é difícil imaginar descobrir o conjunto de regras que podem replicar o comportamento de um motorista”. Hoje, veículos autônomos são uma visão comum em cinco estados dos EUA: Califórnia, Texas, Arizona, Washington e Michigan.

The New Division of Labor de Frank Levy e Richard Murnane (2004). O capítulo 2 é intitulado “Por que as pessoas ainda são importantes”.

Link arquivado, recuperado em 27 de fevereiro de 2017.

21. Stein-Perlman et al. (2022) contatou 4.271 pesquisadores que publicaram nas conferências NeurIPS e ICML em 2021. Todos os pesquisadores que publicaram foram alocados aleatoriamente ou à pesquisa de Stein-Perlman et al., ou a uma segunda pesquisa conduzida por outros. Eles receberam 738 respostas (uma taxa de resposta de 17%).

Os pesquisadores foram questionados sobre “inteligência artificial de nível humano” (IANH). Isso foi definido como:

Quando máquinas sem assistência puderem realizar toda tarefa melhor e mais economicamente do que trabalhadores humanos. Ignore aspectos de tarefas paras as quais ser um humano é intrinsecamente vantajoso, p. ex., ser aceito como membro de um júri. Pense em viabilidade, não adesão.

Duas outras pesquisas, Zhang et al. (2022), feita em 2019, e Grace et al. (2018), feita em 2016, tiveram resultados similares.

22.

Acredita-se que mais de 100.000 gorilas das planícies ocidentais existam na natureza, com 4.000 em zoológicos; os gorilas das planícies orientais têm uma população de menos de 5.000 na natureza e 24 em zoológicos. Os gorilas da montanha são os mais ameaçados, com uma população estimada de cerca de 880 restantes na natureza e nenhum em zoológicos.

Link arquivado, recuperado em 27 de fevereiro de 2017.

23. A conferência de Porto Rico em 2015, organizada pelo Future of Life Institute, foi um momento decisivo, levando a uma carta aberta assinada por muitos líderes da área da IA na academia e na indústria. Aqui está uma cópia arquivada da carta, recuperada em 10 de março de 2017.

Em maio de 2023, Geoffrey Hinton abandonou a sua posição na Google:

O cientista da computação da Google Geoffrey Hinton, que fez contribuições consideráveis ao desenvolvimento da inteligência artificial, deixou o gigante tecnológico para alertar ao mundo sobre o “risco existencial” imposto por sistemas de IA aos humanos.

24. A Giving What We Can, como o 80.000 Horas, é um projeto do grupo Effective Ventures, um termo abrangente para a Effective Ventures Foundation e a Effective Ventures Foundation USA, Inc., e são duas entidades legais distintas que trabalham juntas.

25. Como os três fatores se multiplicam juntos, se cada um pode variar por um fator de 100, a variação geral pode ser de até seis ordens de grandeza. Na prática, os fatores se anticorrelacionam, de modo que não é tão grande quanto isso, e há outras razões para haver modéstia. Veja o nosso artigo na série avançada sobre quanto importa a sua escolha de área de problema.


NOTA: esta é uma tradução do Guia de Carreiras do 80,000 Hours, tendo maio de 2023 como última atualização. Ela pode não corresponder à versão mais atualizada, que pode ser acessada em: https://80000hours.org/career-guide/world-problems/