O que vermes podem nos ensinar sobre o apocalipse da Inteligência Artificial?

Trio de ganhadores do Prêmio Nobel de Economia de 2019.

É bom tratar de crianças com parasitas intestinais, dizem os altruístas eficazes — mas também devemos ter cuidado com os robôs assassinos.

Se você é pai ou mãe, provavelmente conhece os vermes filiformes. Se você não é, pode nunca ter ouvido falar deles. Eles são uma daquelas alegrias secretas da paternidade que ninguém menciona até que eles apareçam — pequenas criaturas sombrias e pálidas, se contorcendo no cocô de uma criança — então você aprende que quase todas as outras famílias passaram pela mesma coisa. Seus pais podem muito bem ter passado por isso, com você, e então… nunca mais tocaram no assunto, porque ‘eeerrgh’. Eu quase sinto como se estivesse quebrando algum ‘omertà’* parental apenas por mencioná-los. Mas preciso, porque vermes intestinais podem ajudá-lo a entender por que precisamos nos preocupar com inteligência artificial.

*Nota da Tradução: Omertà: É um termo da língua napolitana, das organizações mafiosas do Sul da Itália, que define um código de honra que dá importância ao silêncio.

Eles são coisas perturbadoras e nojentas: ou eram para mim, quando os encontrei pela primeira vez. Mas — felizmente — eles podem ser facilmente tratados. Um medicamento barato e que dispensa receita, o mebendazol, mata todos. Você tem que dar o remédio para a família inteira, limpar sua roupa de cama e tomar outra dose duas semanas depois, porque os ovos (Deus, estou estremecendo só de digitar isto) sobrevivem por algumas semanas; mas, basicamente, há uma cura simples, “mandando todos pelo ralo pra sempre” após o remédio.

O verme filiforme que acometeu meu filho é apenas uma espécie de verme intestinal, também conhecidos como helmintos; existem ancilóstomos, oxiúros, tênias, tricurídeos e muitos outros. E eles são comuns — não apenas no norte de Londres, mas em todo o mundo. O Centro de Controle de Doenças dos Estados Unidos estima que apenas o Ascaris lumbricoides está presente no trato intestinal de cerca de 1 bilhão de pessoas ao redor do mundo. Normalmente, a infecção não apresenta sintomas, mas em crianças pode levar à desnutrição, crescimento lento e aprendizagem prejudicada.

Felizmente, novamente, esses vermes intestinais podem ser mortos com a mesma droga, o mebendazol, ou outro relacionado, o albendazol. Eles podem ser eliminados de maneira eficaz e barata. Um tratamento de albendazol custa alguns centavos. Porém, enquanto esses vermes apenas causam alguma coceira nos bumbuns de bebês no ocidente rico,eles são responsáveis pelo retardo de crescimento de crianças no mundo em desenvolvimento.

Medicar alguém que foi diagnosticado com vermes, então, é algo que não requer grande esforço mental. É barato, fácil e eficaz. Mas nos últimos 20 anos ou mais, tem havido uma discussão sobre fazer mais do que isso: sobre dar medicamentos a crianças em escolas inteiras, independentemente de terem sido diagnosticadas com vermes ou não.

No final da década de 1990, dois economistas, Edward Miguel, de Berkeley e Michael Kremer, de Harvard, realizaram um estudo. Eles acompanharam 75 escolas no Quênia e deram albendazol a todas as crianças em 50 das escolas. Seus resultados foram impressionantes: o absentismo caiu em um quarto; as crianças se saíram melhor na escola. Os benefícios também pareceram se espalhar para escolas próximas que não foram tratadas, presumivelmente por interromper a propagação de vermes na região. A coisa toda custou apenas 3 dólares e 50 centavos por aluno (menos de 20 reais).

No entanto, as coisas ficaram realmente interessantes após um estudo de acompanhamento, uma década depois. Ele descobriu que as crianças tratadas não apenas tiveram melhor desempenho na escola — os benefícios continuaram quando saíram da escola. Elas ganhavam mais — cerca de 15% a mais, em média — do que aqueles que não haviam sido medicados. Esse é um grande benefício por um custo mínimo. Portanto, todos — incluindo a OMS — aderiram aos programas de desparasitação. (Aparentemente, Cherie Blair* até se vestiu de verme gigante em Davos e perseguiu as pessoas ao redor).

*Nota da Tradução: Esposa de Tony Blair, ex-primeiro-ministro do Reino Unid.

Então tudo ficou um pouco louco. Dois epidemiologistas da Escola de Higiene e Medicina Tropical de Londres reanalisaram os dados de Michael e Kremer e encontraram erros no código e algumas informações ausentes, o que os levou a rebaixar os resultados: notavelmente, o efeito nas escolas vizinhas desapareceu. (É importante notar que não há sugestão de negligência, e a equipe LSHTM e outros têm elogiado a M&K por compartilhar seu código e dados de forma tão completa). Eles também observaram que o estudo não foi devidamente randomizado ou cego. Após isso, a respeitada Cochrane Collaboration divulgou um relatório dizendo que havia poucas evidências de que os programas de desparasitação mostrassem benefícios. Agora, um novo estudo, novamente por M&K, afirma que os benefícios econômicos ainda estão lá presentes.

Se você quiser ler sobre toda a saga, que ficou conhecida como ‘Guerra dos Vermes’, recomendo a abordagem cuidadosa de Tim Harford sobre o assunto e de Ben Goldacre, mais cética. Há muitas idas e vindas, com os defensores de M&K dizendo que as técnicas estatísticas usadas pela equipe do LSHTM tornavam quase impossível para os programas encontrar qualquer benefício. “Para ser franco, você tem que jogar tanta insanidade* contra o trabalho de Miguel e Kremer para fazer o impacto desaparecer que eu acredito ainda mais nos resultados hoje do que quando comecei a estudá-lo”, disse um professor de políticas públicas. Por outro lado, um pesquisador da caridade baseada em evidências me disse que “ninguém acredita nisso, exceto os economistas”.

*Nota da Tradução: no original, crazy shit.

Michael Kremer

Tudo isso surgiu quando eu estava escrevendo meu último livro — que, de forma um tanto incongruente, era sobre inteligência artificial e se ela destruiria a raça humana. Os dois tópicos não parecem necessariamente conectados, mas estão.

A comunidade do Altruísmo Eficaz é um grupo vagamente afiliado de pessoas e organizações que tentam encontrar a melhor maneira de doar e gastar dinheiro de filantropia para que esse dinheiro faça o maior bem para o mundo. Por exemplo, imagine que você deseja ajudar pessoas com deficiência visual. Você está decidindo se fará uma doação para uma instituição de caridade com cães-guia ou que oferece cirurgia para tracoma no mundo em desenvolvimento. Como aponta a instituição de caridade de altruísmo, Giving What We Can, custa cerca de US $ 50.000 para criar e treinar um cão-guia, mas você pode restaurar a visão de muitos portadores de tracoma com uma operação que custa cerca de 1.000 dólares. “Pelo mesmo valor que treinar um cão-guia para ajudar uma pessoa”, dizem eles, “poderíamos, em vez disso, curar cerca de 50 casos de deficiência visual grave.” Essa parece uma decisão bastante simples.

Às vezes o cálculo não é tão claro. Estender a vida de alguém em um ano vale mais ou menos do que dar educação secundária para uma criança? O financiamento da pesquisa de uma vacina da COVID é mais ou menos eficaz do que apoiar movimentos democráticos em países autoritários?

Ainda assim, como a maioria de nós doa para organizações sem pensar muito a respeito, não é difícil melhorar o bem que estamos fazendo. O método mais simples é o que William MacAskill, professor de ética em Oxford e membro fundador do movimento do Altruísmo Eficaz, chama de “multiplicador 100x”: se você doar para uma instituição de caridade que trabalha no ‘mundo em desenvolvimento’, espere fazer cerca de 100 vezes mais bem do que você faria se doasse para uma organização que faça algo semelhante mas no Ocidente rico.

Organizações ligadas ao altruísmo eficaz, como GiveWell* e Giving What We Can, fornecem listas das instituições de caridade mais eficientes para se doar: as que se destacam combatem a malária: a GiveWell estima que aproximadamente para cada 2.300 dólares (menos de 13 mil reais) gastos em mosquiteiros tratados com inseticidas a vida de uma criança será salva da malária.

*Nota da Tradução: no Brasil, você pode doar para as organizações apoiadas pela GiveWell via doebem.

O que acho interessante, no entanto, é que ambas as organizações recomendam também a Iniciativa Deworm the World e outros programas de desparasitação. O movimento do altruísmo eficaz não ignora a controvérsia da “Guerra dos Vermes”: a GiveWell discute tudo isso em dois longos posts de seu blog repleto de estatísticas. Eles mencionam vários motivos pelos quais a revisão da Cochrane pode ter deixado passar algo — notavelmente, ela apenas analisou o ganho de peso e o desempenho escolar, não os ganhos futuros. Mas eles também observam que as crianças que a pesquisa de Miguel & Kremer examinaram tinham níveis anormalmente altos de infestação e que não há mecanismos óbvios de curto prazo que possam explicar os benefícios de longo prazo — o que deve nos deixar menos confiantes de que há algo de real impacto.

Mas, ainda assim, recomendam essa intervenção — porque, em resumo, eles acham que a aposta vale a pena.

Existe um conceito na teoria da probabilidade chamado “valor esperado”. Ou seja, quanto, em média, você pode esperar que alguma ação dê algum retorno. Digamos que alguém se ofereça para lançar uma moeda para você: na cara eles pagam a você 2 reais, na coroa você paga 1 real. Seu valor esperado é (2–1) / 2, ou 50%: se você jogou o jogo muitas vezes, esperaria fazer uma média de 50% por lance.

Com a desparasitação, os altruístas eficazes estão fazendo exatamente a mesma coisa. Existe uma grande possibilidade de que a desparasitação não tenha nenhum efeito sobre os ganhos futuros, ou pelo menos um efeito extremamente reduzido. Mas há uma pequena possibilidade de que tenha um impacto enorme e avassalador, a um custo muito baixo. O valor esperado da desparasitação — o impacto multiplicado pela probabilidade, menos o custo — é enorme, mesmo levando em consideração a possibilidade de que não funcione completamente. A GiveWell presume que seu impacto é 100 vezes menor do que afirma o estudo de Miguel-Kremer e, mesmo nesse nível, ainda seria ‘custo-eficaz’.

Tudo isso parece bastante claro e acho que a maioria das pessoas concordaria com isso. Mas o mesmo raciocínio pode lhe levar a lugares mais estranhos e é aqui que entra a Inteligência Artificial (IA).

Nick Bostrom, filósofo e pesquisador de IA, aponta em seu livro ‘Superinteligência: Caminhos, Perigos, Estratégias’ que há muitos humanos que ainda vão viver. Eu discuti exatamente como ele resolve isso em um post anterior, então não vou repetir, mas ele termina com 10 ^ 58 humanos (um seguido por 58 zeros; um grande número) antes de esgotarmos o universo. Isso seria algo muito positivo — se partimos do pressuposto de que a vida humana é uma coisa positiva e que, se tudo o mais for igual, preferimos vidas mais felizes do que menos felizes.

Portanto, garantir que os humanos não sejam extintos (uma IA desonesta ou uma pandemia de bioengenharia são consideradas as formas mais prováveis disso acontecer) tem um grande potencial de vantagem: quintilhões e setilhões de vidas, números inimagináveis. Portanto, mesmo que haja apenas uma chance em um bilhão de que ele esteja certo, ou uma em 10 bilhões, não importa. Esses números são tão grandes que o valor esperado de qualquer coisa que possa melhorar a chance mesmo por uma fração de um por cento torna o valor esperado — o benefício multiplicado pela probabilidade — espetacularmente grande.

Portanto, para grande parte da comunidade do Altruísmo Eficaz, a maneira mais eficaz de fazer o bem no mundo é doar para organizações que irão reduzir a chance de um apocalipse de IA e garantir que qualquer IA superinteligente que construirmos funcione para ajudar a humanidade a sobreviver, da forma que desejaríamos.

Esse tipo de raciocínio pode levá-lo a alguns lugares muito estranhos, mas seria muito fácil lavar as mãos e dizer que isso tudo é loucura. Não é; se alguma coisa, eu prefiro admirar a tendência de seguir o raciocínio aonde ele leva, e não simplesmente parar e dizer “OK, agora estamos ficando estranhos.” Meus próprios instintos são de que a preocupação com o risco existencial é bastante sensata e que a IA é uma maneira razoavelmente provável de nos explodirmos. E que a maior parte do movimento do altruísmo eficaz segue uma linha muito mais munda, com suas intervenções em pequena escala e seus “mosquiteiros antimalária”.

Este último estudo de Miguel/Kremer, por maior que seja seu valor, não parece ter mudado muito as opiniões sobre a ‘Guerra dos Vermes’. O pesquisador que trabalha na organização social baseada em evidências científicas com quem falei aponta que é essencialmente uma continuação dos estudos anteriores, então todos os problemas que existiam nos primeiros estudos ainda estão lá agora. Mais do que isso, segue o mesmo grupo de pessoas dos estudos anteriores — seria francamente estranho se todos eles tivessem ficado pobres de repente, depois de anos estando mais ricos. “Mesma merda, ano diferente”, disse o pesquisador, sucintamente. Mais importante, essa pessoa diz, há uma chance — que até onde eu sei não foi estudada — de que a dosagem em massa de remédios anti-vermes possa fazer com que os vermes desenvolvam uma resistência a esses remédios, tal como os antibióticos criam bactérias resistentes aos antibióticos. Não é inconcebível que o impacto real seja negativo, o que afetaria de alguma forma os cálculos.

Miguel Kremer, por sua vez, ganhou o prêmio Nobel de economia. “Portanto, sabemos quem venceu a ‘Guerra dos Vermes’, disse minha fonte. “Tenho certeza de que isso encerrará todas as discussões.” essa última disse com sarcasmo pesado.

Eu quebrei o ‘omertà’; se você não tiver notícias minhas de novo, fui silenciado pela máfia dos pais. Apenas pais e economistas que trabalham com desenvolvimento podem falar sobre a desparasitação de vermes. Mas agora você sabe como as ‘coceira nas nádegas’ se relacionam com o apocalipse da IA.

Autor: Tom Chivers

Tradução: Gabrielle Medrado

Revisão: Fernando Moreno

Originalmente publicado em agosto de 2020 em: https://unherd.com/2020/08/what-worms-can-teach-us-about-the-ai-apocalypse/

Deixe um comentário

Seu email não será publicado