Blog

[Este é um post clássico do antigo blog de Scott Alexander: Slatestarcodex, talvez o mais famoso de todos. Trata-se de uma poética, profunda e longa reflexão, fortemente baseada na obra Superinteligência de Nick Bostrom, sobre como o avanço da tecnologia (especialmente com a chegada de IAs avançadas) pode acelerar dinâmicas em que somos levados a sacrificar valores humanos por maior competitividade, assim pondo em risco o futuro da humanidade.]

I.

O famoso poema de Allen Ginsberg sobre Moloque:

Que esfinge de cimento e alumínio esmagou seus crânios e consumiu seus miolos e imaginação?

Moloque! Solidão! Sujeira! Feiura! Lixeiras e dólares inalcançáveis! Crianças gritando debaixo das escadas! Meninos soluçando nos exércitos! Idosos chorando nos parques!

Moloque! Moloque! Pesadelo de Moloque! Moloque o sem amor! Moloque mental! Moloque o juiz severo dos homens!

Moloque a prisão incompreensível! Moloque a cadeia desalmada da morte e o congresso dos pesares! Moloque cujos edifícios são julgamento! Moloque a vasta pedra da guerra! Moloque os governos atordoados!

Moloque cuja mente é pura maquinaria! Moloque cujo sangue é dinheiro corrente! Moloque cujos dedos são dez exércitos! Moloque cujo peito é um dínamo canibal! Moloque cujo ouvido é uma tumba fumegante!

Moloque cujos olhos são milhares de janelas cegas! Moloque cujos arranha-céus ficam de pé nas longas ruas como Jeovás sem fim! Moloque cujas fábricas sonham e coaxam na névoa! Moloque cujas chaminés e antenas coroam as cidades!

Moloque cujo amor é petróleo e pedra sem fim! Moloque cuja alma é eletricidade e bancos! Moloque cuja pobreza é o espectro do gênio! Moloque cujo destino é uma nuvem de hidrogênio assexuado! Moloque cujo nome é a Mente!

Moloque em quem me sento sozinho! Moloque em quem sonho Anjos! Louco em Moloque! Filho da puta em Moloque! Sem amor e sem homem em Moloque!

Moloque que entrou em minh´alma cedo! Moloque em quem sou uma consciência sem corpo! Moloque que me tirou a sustos do meu êxtase natural! Moloque quem eu abandono! Acordo em Moloque! Luz jorrando do céu!

Moloque! Moloque! apartamentos robôs! subúrbios invisíveis! tesouros de esqueleto! capitais cegas! indústrias demoníacas! nações espectrais! manicômios invencíveis! caralhos de granito! bombas monstruosas!

Eles quebraram as costas levantando Moloque aos Céus! Pavimentos, árvores, rádios, toneladas! levantando aos Céus a cidade que existe e está em todo lugar ao nosso redor!

Visões! presságios! alucinações! milagres! êxtases! Rio Americano abaixo! 

Sonhos! adorações! iluminações! religiões! toda a carga de besteira sensível!

Avanços! Rio acima! Piruetas e crucificações! Enchente abaixo! Ondas! Epifanias! Desesperos! Gritos animais e suicídios de dez anos! Mentes! Novos amores! Geração louca! Rochas do Tempo abaixo!

Santa risada real no rio! Viram tudo! os olhos selvagens! os gritos santos! deram adeus! Saltaram do telhado! para a solitude! acenando! levando flores! Rio abaixo! Rua adentro!

O que sempre me impressionou sobre esse poema é a sua concepção da civilização como uma entidade individual. Quase se pode vê-la, com os seus dedos de exércitos e os seus olhos de janelas de arranha-céu.

Muitos dos comentadores dizem que Moloque representa o capitalismo. Isso definitivamente é parte dele; até uma grande parte. Mas não se encaixa tão bem. Capitalismo cujo destino é uma nuvem de hidrogêncio assexuado? Capitalismo em quem sou uma consciência sem corpo? Capitalismo; portanto, caralhos de granito?

Moloque é apresentado como a resposta a uma pergunta — a pergunta de C. S. Lewis em Hierarquia dos Filósofos: o que o faz? A Terra poderia ser justa, e todos os homens, alegres e sábios. Em vez disso, temos prisões, chaminés, asilos. Que esfinge de cimento e alumínio esmaga seus crânios e consome a sua imaginação?

E Ginsberg responde: Moloque o faz.

Há uma passagem no Principia Discordia em que Malaclypse reclama à Deusa sobre os males da sociedade humana. “Todos estão machucando uns aos outros, no planeta as injustiças seguem desenfreadas, sociedades inteiras saqueiam grupos do seu próprio povo, mães aprisionam filhos, crianças perecem enquanto irmãos guerreiam.”

A Deusa responde: “Qual é o problema com isso, se é o que vocês querem?”

Malaclypse: “Mas ninguém quer isso! Todo o mundo odeia isso!”

Deusa: “Ah. Bem, então parem.”

A questão implícita é: se todo o mundo odeia o sistema atual, quem o perpetua? E Ginsberg responde: “Moloque”. A resposta é poderosa não porque é correta — ninguém literalmente pensa que um demônio cartaginense antigo é a causa de tudo —, mas porque pensar no sistema como um agente põe em evidência o quanto o sistema não é um agente.

Bostrom faz ligeiramente uma referência à possibilidade de uma distopia sem ditador, que todo cidadão, incluindo a liderança, odeia, mas que no entanto perdura invicta. É bastante fácil imaginar um estado assim. Imagine um país com duas regras: primeiro, toda pessoa deve passar oito horas por dia dando choques elétricos fortes em si mesma. Segundo, se alguém não seguir uma regra (incluindo essa), ou falar contra ela, ou não a impor, todos os cidadãos devem se unir para matar essa pessoa. Suponha que essas regras estivessem estabelecidas bem o suficiente pela tradição de modo que todos esperassem que fossem impostas.

Então você dá choque em si mesmo oito horas por dia, porque sabe que se não der todos os outros vão matar você, porque, se eles não matarem, todos os outros vão matá-los, e assim por diante. Cada um dos cidadãos odeia o sistema, mas por falta de um bom mecanismo de coordenação ele perdura. Da perspectiva de Deus, podemos otimizar o sistema para “todos concordam em parar de fazer isso de uma vez”, mas ninguém dentro do sistema é capaz de executar a transição sem um grande risco para si mesmo.

E, certo, esse exemplo é meio artificial. Então vamos passar por — digamos dez — exemplos no mundo real de semelhantes armadilhas multipolares para realmente fixar como isso é importante.

1. O Dilema do Prisioneiro, conforme jogado por dois libertários burros que não param de terminar no resultado trair-trair. Haveria um resultado muito melhor disponível se eles pudessem descobrir a coordenação, mas coordenação é difícil. Da perspectiva de Deus, podemos concordar que cooperar-cooperar é um resultado melhor que trair-trair, mas nenhum dos dois prisioneiros dentro do sistema pode fazer isso acontecer.

2. Leilões de dólares. Já escrevi sobre isso e versões ainda mais complicadas do mesmo princípio em A Teoria dos Jogos como uma Arte das Trevas. Utilizando umas regras de leilão esquisitas, você pode tirar vantagem da má coordenação para fazer alguém pagar US$ 10 por uma nota de 1. Do interior do sistema, cada passo individual dado poderia ser racional.

(Lixeiras e dólares inalcançáveis!)

3. O conto da criação de peixes do meu FAQ Não Libertário 2.0:

Como um experimento mental, consideremos a aquacultura (criação de peixes) num lago. Imagine um lago com mil fazendas de peixes idênticas da propriedade de mil empresas concorrentes. Cada fazenda de peixes tem um lucro de US$ 1.000/mês; tudo vai bem.

Mas cada fazenda de peixes produz dejetos, o que polui a água do lago. Digamos que cada fazenda de peixes produz bastante poluição para baixar a produtividade do lago em US$ 1/mês.

Mil fazendas de peixes produzem bastantes dejetos para baixar a produtividade em US$ 1.000/mês, o que significa que nenhuma das fazendas de peixes está fazendo dinheiro algum. Capitalismo ao resgate: alguém inventa um sistema de filtragem complexo que remove resíduos. Custa US$ 300/mês para operar. Todas as fazendas de peixes o instalam voluntariamente, a poluição acaba e as fazendas de peixes agora estão tendo um lucro de US$ 700/mês — uma soma ainda respeitável.

Mas um fazendeiro (vamos chamá-lo de Estêvão) fica farto de gastar o dinheiro para operar o seu filtro. Agora os dejetos de uma fazenda inteira estão poluindo o lago, baixando a produtividade em US$ 1. Estêvão tem um lucro de US$ 999, e todo o resto das pessoas têm um lucro de US$ 699.

Todo o resto das pessoas veem que Estêvão lucra muito mais que elas, porque não está gastando com os custos de manutenção no seu filtro. Elas desconectam os seus filtros também.

Quando quatrocentas pessoas desconectam seus filtros, Estêvão está ganhando US$ 600/mês — menos do que ganharia se ele e todo o resto tivessem mantido os seus filtros ligados! E os pobres virtuosos usuários de filtros só estão ganhando US$ 300. Estêvão sai por aí falando para todo o mundo “Esperem! Todos nós precisamos fazer um pacto voluntário de usar filtros! Se não, a produtividade de todos vai cair”.

Todo o mundo concorda com ele, e todos assinam o Pacto do Filtro, exceto alguém que é meio escroto. Vamos chamá-lo de Miguel. Agora todo o mundo está usando filtros novamente, exceto Miguel. Miguel ganha US$ 999/mês, e todo o resto das pessoas ganham US$ 699/mês. Vagarosamente, as pessoas começam a pensar que elas também deviam ganhar bem como Miguel, e desconectam o seu filtro por um lucro extra de US$ 300…

Uma pessoa movida pelo autointeresse jamais tem incentivo algum para usar um filtro. Uma pessoa movida pelo autointeresse tem algum incentivo para assinar um pacto para fazer todo o mundo usar um filtro, mas em muitos casos ela tem um incentivo mais forte para esperar todo o resto das pessoas assinarem um pacto desses, porém ficar ela própria de fora. Isso pode levar a um equilíbrio indesejável em que ninguém vai assinar um pacto desses.

Quanto mais eu penso sobre o assunto, mais sinto que esse é o âmago da minha objeção ao libertarismo, e que o FAQ Não Libertário 3.0 será apenas esse único exemplo com ctrl c, ctrl v centenas de vezes. Da perspectiva de Deus, podemos dizer que poluir o lago leva a más consequências. Do interior do sistema, nenhum indivíduo pode impedir que o lago seja poluído, e comprar um filtro pode não ser uma ideia tão boa.

4. A armadilha malthusiana, pelo menos nos seus limites teóricos extremamente puros. Suponha que você seja um dos primeiros ratos introduzidos numa ilha intocada. Está repleta de plantas suculentas e você vive uma vida idílica relaxando por lá, comendo e criando grandes obras de arte (você é um daqueles ratos de Os Ratos de NIMH).

Você vive uma vida longa, acasala e tem uma dezena de filhos. Todos eles têm uma dezena de filhos, e assim por diante. Em algumas gerações, a ilha tem dez mil ratos e atingiu a sua capacidade de carga. Agora, não há comida e espaço o bastante, e uma certa porcentagem de cada nova geração morre para manter a população constante com dez mil.

Uma certa seita de ratos abandona a arte a fim de dedicar mais do seu tempo a vasculhar o lixo para sobreviver. A cada geração, um pouco menos dessa seita morre em comparação com membros dominantes, até que depois de um tempo nenhum rato cria absolutamente arte nenhuma, e qualquer seita de ratos que tentar trazer a arte de volta se extinguirá dentro de umas gerações.

De fato, não é só a arte. Absolutamente qualquer seita que for mais forte, mais malvada e mais sobrevivencialista do que os ratos em geral finalmente dominará. Se uma seita de ratos decide, com altruísmo, limitar a sua progênie a duas por casal a fim de diminuir a superpopulação, essa seita morrerá, enxameada pelos seus inimigos mais numerosos. Se uma seita de ratos começa a praticar canibalismo, e então descobre que isso lhes dá uma vantagem sobre os seus companheiros, ela finalmente dominará e alcançará a fixação. 

Se alguns cientistas ratos predisserem que o esgotamento da reserva de nozes da ilha está acelerando numa taxa perigosa e que elas logo se esgotarão completamente, umas poucas seitas de ratos poderiam tentar limitar o seu consumo num nível sustentável. Esses ratos serão superados pelos seus primos mais egoístas. Finalmente, as nozes se esgotarão, a maioria dos ratos morrerão e o ciclo começará de novo. Qualquer seita de ratos defendendo alguma ação para deter o ciclo será superada pelos seus primos para os quais defender qualquer coisa é uma perda de tempo que poderia ser usado para competir e consumir.

Por várias razões a evolução não é tão malthusiana como o caso ideal, mas ela oferece o exemplo prototípico que podemos aplicar a outras coisas para ver o mecanismo subjacente. Da perspectiva de Deus, é fácil dizer que os ratos deviam manter uma população confortavelmente pequena. Do interior do sistema, cada rato individual perseguirá o seu imperativo genético e a ilha acabará num ciclo de expansão e contração sem fim.

5. Capitalismo. Imagine um capitalista numa indústria feroz. Ele emprega operários numa sweatshop para costurar roupas, que ele vende com um mínimo de lucro. Pode ser que ele gostaria de pagar mais aos seus operários, ou lhes dar condições de trabalho mais agradáveis. Mas ele não pode, porque isso aumentaria o preço dos seus produtos e ele seria superado pelos seus rivais mais baratos e iria à falência. Talvez muitos dos seus rivais sejam pessoas boas que gostariam de pagar mais aos seus operários, mas, a não ser que tenham algum tipo de garantia férrea de que nenhum deles vai desertar ao baixar seus preços, eles não podem fazê-lo.

Como os ratos, que gradualmente perdem todos os valores exceto a pura competição, as empresas num ambiente econômico de competição suficientemente intensa são forçadas a abandonar todos os valores exceto a otimização para o lucro para não serem superadas por empresas que otimizaram melhor para o lucro e assim podem vender o mesmo serviço por um preço menor.

(Não tenho certeza de quão amplamente as pessoas apreciam o valor de comparar o capitalismo com a evolução. Empresas aptas — definidas como aquelas que fazem seus clientes querer comprar delas — sobrevivem e inspiram esforços futuros, e empresas inaptas — definidas como aquelas das quais ninguém quer comprar — vão à falência e se extinguem junto com o seu DNA de empresa. As razões pelas quais a Natureza é rubra nos dentes e nas garras são as mesmas razões pelas quais o mercado é implacável e explorador).

Da perspectiva de Deus, podemos idealizar uma indústria amigável em que toda empresa paga aos seus operários um salário digno. Do interior do sistema, não há como pô-la em prática.

(Moloque cujo amor é petróleo e pedra! Moloque cujo sangue é dinheiro corrente!)

6. A Armadilha das Duas Rendas, conforme discutida recentemente neste blog. Ela teorizou que uma competição suficientemente intensa por habitações suburbanas em distritos com boas escolas significava que as pessoas tinham que abrir mão de um monte de outros valores – tempo em casa com os filhos, segurança financeira – para otimizar para a habilidade de comprar casas ou, caso contrário, serem relegadas ao gueto.

Da perspectiva de Deus, se todos concordam em não arranjar um segundo emprego para vencer na competição por casas mais legais, todos terão uma casa exatamente tão legal quanto antes, mas terão que trabalhar num só emprego. Do interior do sistema, ausente um governo literalmente disposto a proibir dois empregos, todos que não arranjarem um segundo emprego ficarão para trás.

(Apartamentos robôs! Subúrbios invisíveis!)

7. Agricultura. Jared Diamond a chama de o pior erro na história humana. Seja ou não um erro, não foi um acidente – civilizações agrícolas simplesmente superaram as nômades, inevitável e irresistivelmente. Armadilha malthusiana clássica. Talvez caçar-colher fosse mais divertido, oferecesse maior expectativa de vida e conduzisse mais ao florescimento humano – mas num estado de competição suficientemente intensa entre povos, em que a agricultura, com todas as suas doenças, opressões e pestilências, seja a opção mais competitiva, todos acabarão sendo agricultores ou, então, seguirão o caminho dos índios Comanche.

Da perspectiva de Deus, é fácil enxergar que todos deveriam ficar com a opção mais divertida e se manter como caçadores-coletores. Do interior do sistema, cada tribo individual só encara a escolha entre ir para a agricultura ou, então, inevitavelmente morrer.

8. Corridas armamentistas. Países grandes podem variar de cerca de 5% a 30% de gasto do seu orçamento na defesa. Na ausência de guerras – uma condição que praticamente foi a dos últimos cinquenta anos –, tudo que isso faz é sugar dinheiro da infraestrutura, da saúde, da educação ou do crescimento econômico. Mas qualquer país que não gastar dinheiro o bastante na defesa arrisca ser invadido por um país vizinho que tenha gastado. Portanto, quase todos os países tentam gastar algum dinheiro na defesa.

Da perspectiva de Deus, a melhor solução é a paz mundial e absolutamente nenhum país ter um exército. Do interior do sistema, nenhum país pode executar isso unilateralmente, de modo que a sua melhor opção é continuar esbanjando seu dinheiro em mísseis que jazem em silos não utilizados.

(Moloque a vasta pedra da guerra! Moloque cujos dedos são dez exercítos!)

9. Câncer. O corpo humano, supõe-se, é feito de células vivendo harmoniosamente e juntando seus recursos para o bem maior do organismo. Se uma célula deserta nesse equilíbrio investindo seus recursos na cópia de si mesma, ela e seus descendentes florescerão, finalmente vencendo a competição com todas as outras células e assumindo o controle do corpo – momento em que ele morre. Ou a situação pode se repetir, com certas células cancerosas desertando do resto do tumor, assim diminuindo o seu crescimento e causando a sua estagnação.

Da perspectiva de Deus, a melhor solução é que todas as células cooperem para que não morram todas. Do interior do sistema, células cancerosas irão se proliferar e superar as outras – de modo que somente a existência do sistema imune controla o incentivo natural de tornar-se cancerígena.

10. A “corrida para o fundo do poço” (também conhecida como guerra fiscal) descreve uma situação política em que algumas jurisdições atraem empresas pela promoção de impostos mais baixos e menos regulamentações. O resultado final é que ou bem todos os governantes otimizam para a competitividade – tendo taxas de impostos e regulações mínimas –, ou então eles perdem os seus negócios, arrecadações e empregos para aqueles que o fizeram (e neste ponto eles são enxotadas e substituídas por um governo que será mais submisso).

Mas, embora o último exemplo tenha roubado o nome, todos esses itens são de fato corridas para o fundo do poço. Quando um agente aprende um modo de se tornar competitivo sacrificando um valor comum, todos os seus competidores devem sacrificar também esse valor ou então ser superados e substituídos pelos menos escrupulosos. Logo, o sistema é dado a acabar com todos novamente com a mesma competitividade, porém o valor sacrificado se foi para sempre. Da perspectiva de Deus, os competidores sabem que estarão todos em pior situação se desertarem, mas, do interior do sistema, dada a coordenação insuficiente é impossível evitar esse resultado.

Antes de prosseguirmos, há uma forma levemente diferente de armadilha multiagente que vale a pena investigar. Nesta, a concorrência é mantida à distância por uma força externa – geralmente o estigma social. Como resultado, não há efetivamente uma corrida para o fundo do poço – o sistema pode continuar funcionando num nível relativamente alto –, mas é impossível otimizar e recursos são sistematicamente esbanjados por nenhuma razão. Para você não ficar exausto antes de sequer começarmos, vou me limitar a quatro exemplos aqui.

11. Educação. Em meu ensaio sobre filosofia reacionária, falo da minha frustração com a reforma na educação:

As pessoas perguntam por que não conseguimos reformar o sistema educacional. Mas agora mesmo o incentivo dos estudantes é ir para a faculdade mais prestigiosa em que conseguirem entrar para que os empregadores os contratem – quer eles aprendam algo, quer não. O incentivo dos empregadores é conseguir os estudantes da faculdade mais prestigiosa que eles puderem para poderem defender a sua decisão diante do seu patrão caso algo dê errado – quer a faculdade agregue valor, quer não. E o incentivo das faculdades é fazer o que for para conseguirem mais prestígio, conforme mensurado na classificação do US News and World Report – quer isso ajude os estudantes, quer não. Isso leva a enormes desperdícios e educação ruim? Sim. O Deus da Educação poderia perceber isso e fazer alguns Decretos da Educação que levassem a um sistema vastamente mais eficiente? Facilmente! Mas, dado que não existe Deus da Educação, todo o mundo simplesmente vai seguir os seus incentivos, que estão apenas em parte correlacionados com a educação ou com a eficiência.

Da perspectiva de Deus, é fácil dizer coisas como “Estudantes só devem ir para a faculdade se acharem que vão tirar proveito disso, e empregadores devem contratar candidatos com base na sua competência e não na faculdade em que estudaram”. Do interior do sistema, todos já estão seguindo os seus incentivos corretamente, de modo que, a não ser que os incentivos mudem, o sistema não vai mudar.

12. Ciência. Do mesmo ensaio:

A comunidade de pesquisa moderna sabe que não está produzindo a melhor ciência que poderiam. Há muito viés de publicação, as estatísticas são feitas de um jeito confuso e enganoso por pura inércia e replicações frequentemente acontecem muito tarde ou absolutamente nunca. E às vezes alguém diz algo como: “Não acredito que as pessoas são burras demais para consertar a Ciência. Tudo que teríamos que fazer é exigir registros prévios de estudos para evitar o viés de publicação, tornar esta nova e poderosa técnica estatística o novo padrão e conceder mais status aos cientistas que fazem experimentos de replicação. Seria muito fácil e aumentaria vastamente o progresso científico. Eu devo ser mais inteligente do que todos os cientistas que existem, já que eu consigo pensar nisso e eles não.”

E, sim, isso funcionaria para o Deus da Ciência. Ele poderia simplesmente fazer um Decreto da Ciência de que todos têm que usar a estatística certa e fazer outro Decreto Científico de que todos devem conceder mais status à replicação.

Mas coisas que funcionam da perspectiva de Deus não funcionam do interior do sistema. Nenhum cientista individual tem incentivo para mudar unilateralmente para a nova técnica estatística, dado que tornaria a sua pesquisa menos propensa a produzir resultados arrebatadores e dado que isso simplesmente confundiria todos os outros cientistas. Os cientistas simplesmente têm um incentivo para querer que todos os outros o façam, e no momento em que isso ocorresse, todos acompanhariam. E nenhum periódico em particular tem incentivo para mudar unilateralmente para o registro prévio e a publicação de resultados negativos, dado que simplesmente significaria que seus resultados são menos interessantes do que os daquele outro periódico que só publica descobertas inovadoras. Do interior do sistema, todos estão seguindo os seus incentivos e continuarão a fazer isso.

13. Corrupção no governo. Não sei de ninguém que realmente acredite, com base em princípios, que fornecer assistência financeira as corporações é uma boa ideia. Mas o governo americano ainda consegue gastar algo em torno (dependendo de como se faz o cálculo) de 100 bilhões de dólares por ano nisso – o que, por exemplo, é três vezes a quantia que gasta no cuidado médico para os necessitados. Todos que conhecem o problema bolaram a mesma solução: pare de dar tanta assistência financeira a corporações. Por que é que isso não acontece?

Há uma competição no governo por eleições e promoções. E suponha que parte da otimização para a eleição seja a otimização para doações de campanha de corporações – ou talvez não seja, mas os políticos pensem que é. Os políticos que tentarem mexer na assistência corporativa podem perder o apoio das corporações e ser superados pelos políticos que prometerem mantê-la intacta.

Assim, embora da perspectiva de Deus todos saibam que eliminar a assistência corporativa é a melhor solução, os incentivos pessoais de cada indivíduo os levam a mantê-la.

14. O Congresso. Somente 9% dos americanos gostam dele, sugerindo uma taxa de aprovação mais baixa que a de baratas, piolhos e engarrafamentos. No entanto, 62% das pessoas que sabem quem é o seu representante no Congresso o aprovam. Na teoria, deveria ser muito difícil ter um órgão eleito democraticamente que mantenha uma taxa de aprovação de 9% por mais de um ciclo eleitoral. Na prática, o incentivo de todo representante é apelar ao seu eleitorado, enquanto puxa o tapete do resto do país – algo em que, aparentemente, eles têm sucesso.

Da perspectiva de Deus, todo congressista deveria pensar apenas no bem da nação. Do interior do sistema, você faz o que faz você ser eleito.

II.

Um princípio básico unifica todas as armadilhas multipolares acima. Em alguma competição otimizando para X, surge a oportunidade de sacrificar algum outro valor por uma melhoria em X. Os que a aproveitam prosperam; os que não a aproveitam são extintos. Finalmente, o status relativo de todos é o mesmo que antes, mas o status absoluto de todos é pior do que antes. O processo continua até que outros valores que podem ser sacrificados o foram – em outras palavras, até a engenhosidade humana não puder descobrir um modo de piorar as coisas.

Numa competição suficientemente intensa (1-10), todos que não sacrificam seus valores são extintos – pense nos pobres ratos que não pararam de criar arte. Essa é a célebre armadilha malthusiana, na qual todos são reduzidos à “subsistência”.

Numa competição insuficientemente intensa (11-14), tudo que vemos é uma perversa situação de não otimização – considere os periódicos que não conseguem mudar para uma ciência mais confiável, ou os legisladores que não conseguem tomar jeito e eliminar a assistência corporativa. Pode não reduzir as pessoas à subsistência, mas num estranho sentido, isso tira o seu livre arbítrio.

Todo escritor ou filósofo de meia tigela sente a necessidade de escrever a sua própria utopia. A maioria delas são legitimamente bem agradáveis. De fato, é um palpite muito bom que duas utopias que são extremamente contrárias soem ambas muito melhor do que o nosso mundo.

É meio constrangedor que zés-ninguéns quaisquer consigam bolar esses estados de coisas melhores que este em que vivemos. E, de fato, a maioria não consegue. Várias utopias jogam os problemas difíceis para debaixo do tapete, ou desabariam em dez minutos se fossem realmente implementadas.

Mas deixe-me sugerir algumas “utopias” que não têm esse problema.

– A utopia onde, ao invés de o governo dar uma quantia enorme em assistência a corporações, o governo não dá.

– A utopia onde as forças armadas de um país são 50% menores do que são hoje, e o dinheiro poupado é direcionado ao gasto com infraestrutura.

– A utopia onde todos os hospitais usam o mesmo sistema de prontuário médico eletrônico, ou pelo menos sistemas de prontuário médico que podem conversar entre si, para que os médicos possam olhar o que decidiu o médico que atendeu você semana passada num outro hospital, ao invés de fazer todos os mesmos testes de novo por 5 mil dólares.

Não acho que há muita gente que se oponha a alguma dessas utopias. Se elas não estão acontecendo, não é porque as pessoas não as apoiam. Certamente, não é porque ninguém pensou nelas, visto que acabei de pensar nelas agora há pouco e não espero que a minha “descoberta” seja louvada como particularmente nova ou mude o mundo.

Qualquer ser humano com QI acima da temperatura ambiente consegue planejar uma utopia. A razão pela qual o nosso sistema atual não é uma utopia é que ele não foi planejado por humanos. Assim como você pode olhar para um terreno árido e determinar a forma que o rio tomará um dia presumindo que a água obedeça à gravidade, você pode olhar para a civilização e determinar qual forma as suas instituições tomarão um dia presumindo que as pessoas obedeçam a incentivos.

Mas isso quer dizer que, assim como formas de rios não são planejadas com a beleza ou a navegação em mente, mas antes são artefatos do terreno devidos ao acaso, instituições não serão planejadas com a prosperidade e a justiça em mente, mas antes serão artefatos de condições iniciais devidas ao acaso.

Assim como as pessoas podem nivelar o terreno e construir canais, as pessoas podem alterar a paisagem de incentivos a fim de construir instituições melhores. Mas só podem elas fazer isso quando têm os incentivos para isso, o que nem sempre é o caso. Como resultado, formam-se uns afluentes e umas corredeiras bem bravias em alguns lugares bem estranhos.

Vou agora saltar do negócio entediante da teoria dos jogos para o que pode ser o mais perto que cheguei de ter uma experiência mística.

Como toda experiência mística, aconteceu em Vegas. Estava no alto de um dos seus vários prédios altos, olhando para a cidade abaixo, toda acesa na escuridão. Se você nunca foi a Vegas, é bastante impressionante. Luzes e arranha-céus em toda variedade de belo e estranho, tudo aglomerado. E tive dois pensamentos, claríssimos:

É glorioso que possamos criar algo assim.

É vergonhoso que tenhamos.

Assim, construir réplicas interiores gigantes de quatro andares de altura de Veneza, Paris, Roma, Egito e Camelot lado a lado, recheadas de tigres albinos, no meio do deserto mais inóspito da América do Norte – isso é remotamente um uso são dos recursos limitados da nossa civilização segundo qual padrão?

E me ocorreu que talvez não haja filosofia nenhuma na face da Terra que endossaria a existência de Las Vegas. Até o Objetivismo, que é geralmente a filosofia em que posso confiar para justificar os excessos do capitalismo, pelo menos o fundamenta na crença de que o capitalismo melhora as vidas das pessoas. Henry Ford era virtuoso porque possibilitou a um monte de pessoas sem carro obter carros e assim melhorou a vida delas. O que é que Vegas faz? Promete a um bando de manés dinheiro de graça e não lhes dá.

Las Vegas não existe por causa de uma decisão de otimizar a civilização em termos hedônicos; existe por causa de uma peculiaridade nos circuitos dopaminérgicos de recompensa, mais a microestrutura de um ambiente de regulamentações desajustado, mais pontos de Schelling. Um planejador central racional com a perspectiva de Deus, ao contemplar esses fatos, poderia ter o pensamento: “Hum, circuitos dopaminérgicos de recompensa têm uma peculiaridade em que certas tarefas com razões entre risco e benefício levemente negativas têm uma valência emocional associada a razões entre risco e benefício levemente positivas; vejamos se podemos educar as pessoas para se conscientizarem disso.” Pessoas dentro do sistema, seguindo os incentivos criados por esses fatos, pensam: “Vamos construir uma réplica interior de Roma de quatro andares de altura recheada de tigres albinos no meio do deserto e ficar levemente mais ricos do que as pessoas que não fizerem isso!”

Assim como o curso de um rio está latente num terreno mesmo antes de a primeira chuva cair, a existência do Caesar’s Palace estava latente na neurobiologia, economia e regimes de regulamentação mesmo antes de ele ter existido. O empreendedor que o construiu só estava preenchendo as linhas imaginárias com concreto de verdade.

Daí, temos toda essa espetacular energia tecnológica, o brilhantismo da espécie humana, desperdiçada na recitação dos versos escritos por receptores celulares mal evoluídos e uma economia cega, como deuses recebendo ordens de um idiota.

Algumas pessoas têm experiências místicas e veem Deus. Lá em Las Vegas, eu vi Moloque.

(Moloque cuja mente é pura maquinaria! Moloque cujo sangue é dinheiro corrente!

Moloque cujos olhos são milhares de janelas cegas! Moloque cujos arranha-céus ficam de pé nas longas ruas como Jeovás sem fim!

Moloque! Moloque! apartamentos robôs! subúrbios invisíveis! tesouros de esqueleto! capitais cegas! indústrias demoníacas! nações espectrais!)

III.

Diz o Apocrypha Discordia:

O tempo flui como um rio. Ou seja, em declive. Sabemos disso porque tudo está indo em declive rapidamente. Parece acertado estar alhures quando chegarmos ao mar.

Tomemos 100% ao pé da letra essa piada aleatória e vejamos aonde ela nos leva.

Acabamos de fazer uma analogia entre o fluxo dos incentivos e o fluxo de um rio. A trajetória em declive é apropriada: as armadilhas acontecem quando você encontra uma oportunidade para trocar um valor útil por maior competitividade. Quando todos a tem, a maior competitividade não lhe traz alegria nenhuma – mas o valor foi perdido para sempre. Portanto, cada passo da Polca da Coordenação Precária piora a sua vida.

Mas não só não chegamos ao mar ainda como também parecemos nos mover em aclive numa frequência surpreendente. Por que as coisas não se degeneram mais e mais até estarmos de volta ao nível da subsistência? Consigo pensar em três más razões: recursos excedentes, limitações físicas e maximização de utilidade, mais uma boa razão: coordenação.

1. Recursos excedentes: as profundezas do oceano são um lugar horrível com pouca luz, poucos recursos e vários organismos horríveis feitos para devorar e parasitar uns aos outros. Mas, de vez em quando, uma carcaça de baleia cai no fundo do mar. Mais comida do que os organismos que a encontram poderiam querer. Há um breve período de miraculosa abundância enquanto as duas ou três criaturas que encontram a baleia se alimentam como realeza. No fim das contas, mais animais descobrem a carcaça, os animais que se reproduzem mais rápido na carcaça se multiplicam, a baleia é gradualmente consumida e todos suspiram e voltam a viver numa armadilha malthusiana da morte.

(Slate Star Codex: a sua fonte de metáforas macabras de baleia desde junho de 2014.)

É como se um grupo daqueles ratos que tinham abandonado a arte e recorrido ao canibalismo de repente fosse soprado para uma nova ilha vazia com uma capacidade de carga muito maior, onde eles novamente teriam o espaço para respirar, vivendo em paz e criando obras de arte.

Esta é uma era de queda de baleia, uma era de capacidade de carga excedente, uma era em que de repente nos encontramos com uma vantagem de mil quilômetros sobre Malthus. Como Hanson colocou, este é o tempo dos sonhos.

Contanto que os recursos não sejam escassos o bastante para nos trancar numa guerra de todos contra todos, podemos fazer coisas bobas e não ótimas – como arte, e música, e filosofia, e amor – e não ser superados por máquinas de matar impiedosas na maior parte do tempo.

2. Limitações físicas. Imagine um mestre de escravos maximizador de lucro que tenha decidido cortar custos não alimentando os seus escravos ou não os deixando dormir. Ele logo descobriria que a produtividade dos seus escravos havia caído drasticamente e que nenhuma quantidade de chibatadas poderia restaurá-la. No fim das contas, após testar inúmeras estratégias, ele poderia descobrir que seus escravos produziam mais quando estavam bem alimentados e bem descansados e tinham um tempinho para relaxar. Não porque os escravos estavam se recusando voluntariamente a trabalhar – presumimos que o medo do castigo seja o bastante para fazê-los trabalhar tão duro quanto podem –, mas porque o corpo tem certas limitações físicas que restringem quão malvado você pode ser sem consequências. Assim, a “corrida para o fundo do poço” para em algum lugar aquém do fundo do poço ético propriamente dito, quando se depara com os limites físicos.

John Moes, historiador da escravidão, vai além e escreve sobre como a escravidão que mais conhecemos – a do Sul antes da Guerra Civil Americana – é uma aberração histórica e provavelmente ineficiente em termos econômicos. Na maioria das formas passadas de escravidão – especialmente as do mundo antigo –, era mais comum os escravos receberem um salário, serem bem tratados e frequentemente ganharem a alforria.

Ele argumenta que isso foi resultado de cálculos econômicos racionais. Você pode incentivar os escravos pela cenoura ou pelo porrete, e o porrete não é muito bom. Você não pode vigiar os escravos o tempo todo, e é muito difícil descobrir se um escravo está vadiando ou não (ou sequer se, dado um bocado de mais chibatadas, ele poderia ser capaz de trabalhar ainda mais). Se você quer que os seus escravos façam algo mais complicado que colher algodão, você se depara com alguns problemas sérios de monitoramento – como é que você lucra com um filósofo escravizado? Chicoteia-o bem forte até ele elucidar a teoria do Bem sobre a qual você pode vender livros?

A antiga solução ao problema – talvez uma inspiração primitiva para o ditador alienígena imaginário Fnargl – era dizer para o escravo fazer o que quisesse, daí repartir os lucros com ele. Às vezes o escravo trabalhava num emprego na sua oficina e você lhe pagaria salários com base em quão bem ele foi. Outras vezes o escravo ia embora para seguir seu caminho no mundo e lhe mandava parte do que ele ganhava. Ainda outras vezes, você estabelecia um preço pela liberdade do escravo, e ele ia trabalhar e finalmente arranjava o dinheiro e se libertava.

Moes vai ainda mais além e diz que esses sistemas eram tão lucrativos que houve constantes e persistentes tentativas de experimentar esse tipo de coisa no Sul dos EUA. A razão pela qual eles se ativeram ao método das chibatas e correntes se deveu menos a considerações econômicas e mais a funcionários racistas do governo reprimindo tentativas de libertar os escravos para que fossem abrir seus próprios negócios, o que, embora lucrativo, não exatamente promovia a supremacia branca.

Assim, nesse caso, uma corrida para o fundo do poço em que plantations concorrentes se tornam mais e mais cruéis com seus escravos a fim de maximizar a competitividade é detida pela limitação física de que a crueldade não ajuda até certo ponto.

Ou, para dar outro exemplo, uma das razões pelas quais não estamos numa explosão populacional malthusiana agora mesmo é que as mulheres só podem ter um bebê a cada nove meses. Se os membros daquelas seitas religiosas esquisitas que exigem que os seus membros tenham tantos bebês quanto possível pudessem copiar e colar a si mesmos, estaríamos em muito maus bocados. Nas condições reais, eles só podem fazer uma pequena quantidade de dano por geração.

3. Maximização de utilidade. Temos pensado em termos de preservar valores versus vencer competições, e suposto que otimizar para isto destruísse aquilo.

Mas muitas das mais importantes competições/processos de otimização na civilização moderna estão otimizando para valores humanos. Você vence no capitalismo em parte satisfazendo os valores dos clientes. Você vence na democracia em parte satisfazendo os valores dos eleitores.

Suponha que haja uma plantação de café em algum lugar na Etiópia que emprega etíopes para cultivar sementes de café que são vendidas nos Estados Unidos. Ela talvez esteja numa luta de vida ou morte com outras plantações de café e deseje sacrificar tantos valores quanto puder para ter uma leve vantagem.

Mas ela não pode sacrificar demais a qualidade do café produzido, se não os americanos não vão comprar. E ela não pode sacrificar demais salários ou condições de trabalho, se não os etíopes não vão trabalhar lá. E, de fato, parte do seu processo de competição-otimização é descobrir os melhores meios de atrair trabalhadores e clientes que puder, contanto que não lhe custe dinheiro demais. Logo, isso é muito promissor.

Mas é importante lembrar exatamente quão frágil é esse equilíbrio benéfico.

Suponha que as plantações de café descubram um pesticida que aumentará a sua colheita, mas deixará seus consumidores doentes. Mas os seus consumidores não sabem do pesticida, e não deu ainda para o governo impor regulamentações. Agora, há uma pequena desconexão entre “vender para os americanos” e “satisfazer os valores dos americanos”, e assim, claro, se puxa o tapete dos valores dos americanos.

Ou suponha que haja uma explosão demográfica na Etiópia e de repente haja cinco trabalhadores competindo por cada vaga. Agora a empresa pode pagar salários mais baixos e implementar condições de trabalho cruéis até onde for que os limites físicos estiverem. No momento em que houver uma desconexão entre “conseguir que os etíopes trabalhem aqui” e “satisfazer valores etíopes”, a situação não parece muito boa para os valores etíopes também.

Ou suponha que alguém invente um robô que consegue colher café melhor e mais barato que um humano. A empresa demite todos os seus trabalhadores e os joga no olho da rua para morrer. No momento em que a utilidade dos etíopes não é mais necessária para o lucro, toda pressão para mantê-la desaparece.

Ou suponha que haja algum valor importante que não seja um valor dos empregados nem dos clientes. Talvez as plantações de café estejam no habitat de um pássaro tropical raro que grupos ambientalistas desejam proteger. Talvez estejam no cemitério ancestral de uma tribo diferente da que a plantação está empregando, e ela deseje respeitá-lo de algum jeito. Talvez o cultivo do café contribua ao aquecimento global de alguma forma. Contanto que não seja um valor que impeça o americano médio de comprar deles ou o etíope médio de trabalhar para eles, seu tapete é puxado.

Sei que “capitalistas às vezes fazem coisas ruins” não é um tema de discussão original. Mas quero, sim, enfatizar como não é equivalente a “capitalistas são gananciosos”. Assim, às vezes eles são gananciosos. Mas outras vezes eles só se encontram numa competição suficientemente intensa em que qualquer um que não faça a coisa ruim será superado e substituído por gente que faz. As práticas de negócios são estabelecidas por Moloque; ninguém mais tem escolha alguma nisso.

(Do meu muito pouco conhecimento de Marx, ele entende isso muito bem, e as pessoas que o resumem como “capitalistas são gananciosos” estão lhe fazendo um desserviço).

E, por mais bem compreendido que o exemplo do capitalismo seja, acho que é menos apreciado que a democracia tem os mesmos problemas. Sim, na teoria ela otimiza para a felicidade dos eleitores, o que se correlaciona com boas políticas. Mas no momento em que há a mínima desconexão entre boas políticas e elegibilidade, tem que se puxar o tapete das boas políticas.

Por exemplo, penas de prisão que não param de aumentar são injustas com os detentos e injustas com a sociedade, que tem que pagar por elas. Os políticos não estão dispostos a fazer nada a respeito disso porque não querem parecer “pegar leve com o crime”, e se um único detento que eles ajudassem a libertar fizesse algo de ruim (e estatisticamente um deles vai ter que fazer), isso vai estar em todas as ondas de rádio como: “Condenado liberto pelas políticas do Congressista mata família de cinco; como é que o Congressista consegue sequer dormir à noite, muito menos afirmar que merece a reeleição?” Assim, mesmo que uma população carcerária mais baixa seja uma boa política – e é –, será muito difícil de se implementar.

(Moloque a prisão incompreensível! Moloque a cadeia desalmada da morte e o congresso dos pesares! Moloque cujos edifícios são julgamento! Moloque a vasta pedra da guerra! Moloque os governos atordoados!)

Transformar “clientes satisfeitos” e “cidadãos satisfeitos” em outputs de processos de otimização foi um dos maiores avanços da civilização e é a razão pela qual democracias capitalistas superaram tanto os outros sistemas. Mas se amarramos Moloque como nosso servo, as amarras não são muito fortes, e às vezes descobrimos que as tarefas que ele fez por nós são vantajosas a ele e não a nós.

 4. Coordenação.

O contrário de uma armadilha é um jardim.

As coisas são fáceis de resolver da perspectiva de Deus, de modo que, se todos se unirem num superorganismo, esse superorganismo poderá resolver problemas com facilidade e elegância. Uma intensa competição entre agentes se transformou num jardim, com um único jardineiro a ditar aonde tudo deve ir e a remover elementos que não se conformam ao padrão.

Como destaquei no FAQ Não Libertário, governos podem resolver facilmente o problema da poluição de fazendas de peixe. A melhor solução para o Dilema do Prisioneiro é o chefe da máfia (representando o papel do governo) ameaçar atirar em qualquer prisioneiro que desertar. A solução para o fenômeno das empresas poluindo e prejudicando trabalhadores são regulamentações governamentais contra isso. Governos resolvem corridas armamentistas dentro de um país mantendo um monopólio sobre o uso da força, e é fácil ver que, se um governo mundial genuinamente eficaz surgisse, o acúmulo militar internacional teria fim bem rápido.

Os dois ingredientes ativos do governo são leis mais violência – ou, mais abstratamente, acordos mais mecanismos de execução. Muitas outras coisas além de governos partilham desses dois ingredientes ativos e assim podem agir como mecanismos de coordenação para evitar armadilhas.

Por exemplo, visto que estudantes competem entre si (diretamente, se classes são avaliadas com notas correspondentes a uma distribuição normal, mas sempre indiretamente por admissões em universidades, empregos, etc.), há uma pressão intensa para que estudantes individuais trapaceiem. O professor e a escola representam o papel de governo ao ter regras (por exemplo, contra a trapaça) e a capacidade de punir os estudantes que as violam.

Mas a estrutura social emergente dos próprios estudantes também é um tipo de governo. Se os estudantes rejeitam e desconfiam dos trapaceiros, há regras (não trapaceie) e um mecanismo de execução (se não, vamos rejeitar você).

Códigos sociais, acordos de cavalheiros, grêmios industriais, organizações criminosas, tradições, amizades, escolas, corporações e religiões, todos são instituições de coordenação que nos afastam de armadilhas ao mudar nossos incentivos.

Mas essas instituições não só incentivam os outros, mas são elas próprias incentivadas. Essas são organizações maiores formadas por várias pessoas que competem por empregos, status, prestígio, etc. – não há razão para elas serem imunes às mesmas armadilhas multipolares que todas as outras, e, de fato, não são. Governos podem, na teoria, afastar corporações, cidadãos, etc. de certas armadilhas, mas, como vimos acima, há muitas armadilhas em que os próprios governos caem.

Os EUA tentam resolver o problema tendo múltiplos níveis de governo, leis constitucionais invioláveis, pesos e contrapesos entre diferentes poderes e alguns outros macetes.

A Arábia Saudita usa uma tática diferente. Simplesmente coloca um único cara no comando de tudo.

Esse é o argumento muito caluniado (injustamente, ao meu ver) a favor da monarquia. Um monarca é um incentivador não incentivado. Ele realmente tem uma perspectiva de Deus e se encontra fora e acima de todo sistema. Ele venceu permanentemente toda competição e não está competindo por nada, e, portanto, ele está perfeitamente livre de Moloque e de incentivos que, em cenários alternativos, canalizariam os seus incentivos em caminhos pré-determinados. Com a exceção de algumas bem poucas propostas como o meu Jardim Radiante, a monarquia é o único sistema que faz isso.

Mas, daí, em vez de seguir uma estrutura de incentivos qualquer, seguimos os caprichos de um único sujeito. O Caesar’s Palace Hotel and Casino é um louco desperdício de recursos, mas o Gaius Julius Caesar Augustus Germanicus de verdade não era exatamente o planejador central racional benevolente perfeito também.

O eixo libertário-autoritário na Bússola Política é uma troca entre descoordenação e tirania. Você pode ter tudo perfeitamente coordenado por alguém com a perspectiva de Deus, mas daí você arrisca um Stalin. E você pode ser totalmente livre de uma autoridade central, mas daí você fica preso em toda estúpida armadilha multipolar que Moloque consegue inventar.

Os libertários têm um argumento convincente para um lado, e os monarquistas, para o outro; mas suspeito que, como a maioria dos trade-offs, simplesmente tenhamos que tapar nossos narizes e admitir que é um problema muito difícil.

IV.

Voltemos àquela citação do Apocrypha Discordia:

O tempo flui como um rio. Ou seja, em declive. Sabemos disso porque tudo está indo em declive rapidamente. Parece acertado estar alhures quando chegarmos ao mar.

O que seria, nessa situação, chegar ao mar?

Armadilhas multipolares – corridas para o fundo do poço – ameaçam destruir todos os valores humanos. Elas, no momento, são restringidas pelas limitações físicas, os recursos excedentes, a maximização da utilidade e a coordenação.

A dimensão ao longo da qual flui esse rio metafórico deve ser o tempo, e a mudança mais importante na civilização humana pelo tempo é a mudança tecnológica. Logo, a questão relevante é como as mudanças tecnológicas afetarão a nossa tendência a cair em armadilhas multipolares.

Descrevo armadilhas assim:

Em alguma competição otimizando para X, surge a oportunidade de sacrificar algum outro valor por uma melhoria em X. Os que a aproveitam prosperam; os que não a aproveitam são extintos. Finalmente, o status relativo de todos é o mesmo que antes, mas o status absoluto de todos é pior do que antes. O processo continua até que outros valores que podem ser sacrificados o foram — em outras palavras, até a engenhosidade humana não puder descobrir um modo de piorar as coisas.

A parte “surge a oportunidade” está parecendo bem sinistra. Tecnologia se trata exatamente de criar novas oportunidades.

Desenvolva um novo robô, e de repente plantações de café têm “a oportunidade” de automatizar a sua colheita e demitir todos os trabalhadores etíopes. Desenvolva armas nucleares, e de repente países ficam presos numa corrida armamentista para ter bastante delas. A poluição da atmosfera para construir produtos mais rápido não era um problema antes de inventarem o motor a vapor. 

O limite das armadilhas multipolares conforme a tecnologia se aproxima do infinito é “muito ruim”.

As armadilhas multipolares, no momento, são restringidas pelas limitações físicas, os recursos excedentes, a maximização da utilidade e a coordenação.

Limitações físicas são o que é mais obviamente conquistado pelo aumento na tecnologia. O enigma do mestre de escravos – que os escravos precisam comer e dormir – sucumbe ao Soylent e ao modafinil. O problema de os escravos fugirem sucumbe ao GPS. O problema de os escravos estarem estressados demais para trabalhar direito sucumbe ao Valium. Nada disso é muito bom para os escravos.

(Ou é só inventar um robô que absolutamente não precise comer ou dormir. O que acontece com os escravos depois disso é melhor nem dizer.)

O outro exemplo de limites físicos foi um bebê a cada nove meses, e ali eu estava amenizando a situação – na realidade, é “um bebê a cada nove meses mais a boa vontade para apoiar e cuidar de um ser humano basicamente indefeso e extremamente exigente por dezoito anos”. Isso entrava o entusiasmo do ditame “frutificai e multiplicai-vos” da mais zelosa das seitas religiosas.

Mas como Bostrom colocou em Superinteligência:

Há razões, se tivermos uma perspectiva mais longa e presumirmos um estado de tecnologia imutável e prosperidade contínua, para esperar um retorno à condição histórica e ecologicamente normal de uma população mundial que toca nos limites do que o nosso nicho consegue suportar. Se isso parece contraintuitivo à luz da relação negativa entre riqueza e fertilidade que observamos atualmente na escala global, devemos nos lembrar de que esta era moderna é uma pequena fatia da história e em muito uma aberração. O comportamento humano ainda não se adaptou às condições contemporâneas. Não só deixamos de tirar vantagem dos modos óbvios de aumentar a nossa aptidão inclusiva (tornando-nos doadores de espermas e óvulos, por exemplo) como sabotamos ativamente a nossa fertilidade ao usarmos contraceptivos. No ambiente da adaptação evolutiva, um impulso sexual saudável pode ter sido o bastante para fazer um indivíduo agir de modo a maximizar o seu potencial reprodutivo; no ambiente moderno, no entanto, haveria uma enorme vantagem seletiva na posse de um desejo de ser o genitor biológico do maior número de filhos possível. Tal desejo está sendo selecionado no momento, assim como outros traços que aumentam a nossa propensão a nos reproduzir. A adaptação cultural, no entanto, pode chegar antes que a evolução biológica. Algumas comunidades, como a dos huteritas ou do movimento evangélico Quiverfull, possuem culturas natalistas que encorajam famílias grandes e, consequentemente, estão passando por uma rápida expansão (…) Essa perspectiva de longo prazo poderia ser encurtada para um prospecto mais iminente pela explosão da inteligência. Visto que se pode copiar software, uma população de emulações ou IAs poderia se duplicar rapidamente – em minutos em vez de décadas ou séculos –, logo exaurindo todo o hardware disponível.

Como sempre, ao lidarmos com transumanistas de alto nível, em “todo o hardware disponível” deve-se incluir “os átomos que costumavam fazer parte do seu corpo”.

É, na melhor das hipóteses, um brinquedo filosófico a ideia de a evolução biológica ou cultural causar uma explosão populacional em massa. Já a ideia de a tecnologia tornar isso possível, ela é tanto plausível quanto terrível. Agora vemos que “limites físicos” dá passagem muito naturalmente a “recursos excedentes” – a capacidade de criar novos agentes muito rápido significa que, a não ser que todos consigam coordenar para proibir que façam isso, as pessoa que fizerem irão superar as pessoas que não fizerem até terem alcançado a capacidade de carga e todos ficarem atolados do nível da subsistência.

Recursos excedentes, que até agora tinham sido uma dádiva do progresso tecnológico, portanto, se modificam e se tornam uma baixa advinda dele num nível de suficientemente alta tecnologia.

Maximização da utilidade, sempre em terreno instável, também encara novas ameaças. Em face de um debate contínuo sobre este ponto, eu continuo a achar óbvio que os robôs irão expulsar os humanos do trabalho ou, no mínimo, baixar os salários (o que, na existência de um salário mínimo, vai expulsar os humanos do trabalho).

Quando um robô puder fazer tudo que um humano de QI 80 puder fazer, só que melhor e mais barato, não vai haver razão nenhuma para empregar humanos de QI 80. Quando um robô puder fazer tudo que um humano de QI 120 puder fazer, só que melhor e mais barato, não vai haver razão nenhuma para empregar humanos de QI 120. Quando um robô puder fazer tudo que um humano de QI 180 puder fazer, só que melhor e mais barato, não vai haver razão nenhuma para empregar humano nenhum, no cenário improvável em que resta algum humano nesse ponto.

Nos estágios iniciais do processo, o capitalismo fica mais e mais desacoplado do seu trabalho anterior de otimizador dos valores humanos. Agora a maioria dos humanos está totalmente trancada do lado de fora do grupo para cujos valores o capitalismo otimiza. Valor nenhum eles têm a contribuir como trabalhadores, (e visto que, na ausência de uma espetacular rede de seguridade social, não está claro como poderiam ter muito dinheiro) tampouco valor eles têm como clientes. O capitalismo os passou para trás. Conforme aumenta o segmento de humanos que podem ser superados pelos robôs, mais e mais pessoas o capitalismo passa para trás até acabar trancando os humanos fora da corrida inteiramente, novamente, no cenário improbabilíssimo em que ainda estejamos por aqui.

(Há alguns cenários em que uns capitalistas proprietários dos robôs podem se beneficiar aqui, mas em qualquer caso, a vasta maioria está sem sorte).

É menos óbvio que a democracia esteja vulnerável, mas talvez valha a pena voltar ao parágrafo de Bostrom sobre o movimento Quiverfull. São uns cristãos religiosos que acham que Deus quer que eles tenham tantos filhos quanto possível e que podem acabar tendo famílias de dez ou mais. Seus artigos calculam explicitamente que, se começarem com dois por cento da população, mas com uma média de oito filhos por geração, quando todos além deles têm uma média de apenas dois, dentro de três gerações eles vão compor metade da população.

Estratégia esperta, mas só posso pensar em uma coisa que nos salvará: a julgar por quantos blogs de ex-quiverfulls eu encontrei ao pesquisar essas estatísticas, as suas taxas de retenção até dentro de uma geração são bem tristes. Seus artigos admitem que 80% das crianças muito religiosas deixam a igreja quando adultas (embora, claro, eles esperem que o seu próprio movimento se saia melhor). E isso não é um processo simétrico – não que 80% das crianças que crescem em famílias ateias estejam se tornando quiverfulls.

Parece muito que, embora eles estejam nos superando na reprodução, nós os estamos superando nos memes, e isso nos dá uma vantagem decisiva.

Mas também temos que ficar assustados com esse processo. Memes otimizam para fazer as pessoas quererem aceitá-los e passá-los adiante – assim, como o capitalismo e a democracia, estão otimizando para uma aproximação do que nos faz felizes, mas essa aproximação pode ser facilmente desacoplada da meta original.

Correntes de e-mail, lendas urbanas, propaganda e marketing viral, todos são exemplos de memes que não satisfazem aos nossos valores explícitos (verdade e utilidade), mas são memeticamente virulentos o bastante para se espalharem de qualquer modo.

Espero que não seja polêmico demais dizer aqui que a mesma coisa é verdade quanto à religião. Religiões, no seu âmago, são a forma mais básica de replicador memético – “Creia nesta declaração e repita-a para todos que você ouvir, se não será torturado para sempre”.

O “debate” do criacionismo e o “debate” do aquecimento global, e um monte de “debates” semelhantes na sociedade de hoje, sugerem que memes que podem se propagar independentemente do seu valor de verdade têm uma influência bem forte no processo político. Talvez esses memes se propaguem porque apelam aos preconceitos das pessoas, talvez porque são simples, talvez porque demarcam efetivamente um endogrupo e um exogrupo, ou talvez por todo tipo de razões diferentes.

O problema é o seguinte: imagine um país cheio de laboratórios de armas biológicas, onde as pessoas labutam dia e noite para inventar novos agentes infecciosos. A existência desses laboratórios, e o seu direito de jogar no abastecimento de água qualquer coisa que eles desenvolverem, é protegida pela lei. E o país também está interligado pelo sistema de trânsito em massa mais perfeito do mundo, que cada pessoa usa todo dia, de modo que qualquer novo patógeno pode se espalhar para o país inteiro instantaneamente. Você esperaria que as coisas começassem a piorar para esse país bem rápido.

Bem, temos cerca de um zilhão de think tanks pesquisando novas e melhores formas de propaganda. E temos liberdade de expressão protegida pela constituição. E temos a Internet. Então, estamos meio que ferrados.

(Moloque cujo nome é a Mente!)

Há algumas pessoas trabalhando em elevar a linha d’água da sanidade, mas nem tantas pessoas quanto as que estão trabalhando em modos novos e excitantes de confundir e converter as pessoas, catalogando e explorando cada viés, heurística e truque retórico sujo.

Portanto, conforme a tecnologia (que considero incluir o conhecimento da psicologia, sociologia, relações públicas, etc.) tende ao infinito, o poder da verdadice relativamente à verdade aumenta, e as coisas não parecem muito boas para a democracia de base. O pior cenário é que o partido governante aprenda a produzir carisma infinito à vontade. Se isso não lhe soa muito mal, lembre-se do que Hitler conseguiu fazer com um nível de carisma celebremente alto que ainda era menos que infinito.

(Fraseamento alternativo para os chomskyitas: a tecnologia aumenta a eficiência da fabricação de consentimento do mesmo jeito que aumenta a eficiência da fabricação de tudo o mais).

Coordenação é o que resta. E a tecnologia tem o potencial de melhorar seriamente os esforços de coordenação. As pessoas podem usar a Internet para entrar em contato umas com as outras, lançar movimentos políticos e se dividir em subcomunidades.

Mas a coordenação só funciona quando se tem 51% ou mais da força do lado do pessoal fazendo a coordenação, e quando não se elaborou algum truque brilhante para tornar impossível a coordenação.

A segunda primeiro. No penúltimo post de links, eu escrevi:

O último acontecimento do admirável mundo novo pós-bitcoin é a criptoequidade. Neste ponto, passei do estágio de querer elogiar esses inventores como ousados heróis libertários para o estágio de querer arrastá-los para a frente de um quadro e fazê-los escrever cem vezes: “NÃO INVOCAREI AQUILO QUE NÃO POSSO ABATER”.

Umas pessoas me perguntaram o que eu queria dizer com aquilo, e eu não tinha o contexto para explicar naquele momento. Bem, este post é o contexto. As pessoas estão usando a estupidez contingente do nosso governo atual para substituir um monte de interações humanas por mecanismos que não podem ser coordenados sequer em princípio. Entendo completamente por que todas essas coisas são boas neste momento quando a maior parte do que o nosso governo faz é estúpido e desnecessário. Mas vai haver um tempo em que – depois de um incidente além da conta envolvendo nanotecnologia ou armas biológicas ou nucleares – nós, enquanto civilização, vamos querer que não tivéssemos estabelecido modos de vender produtos que não podemos rastrear nem deter.

E, se conseguirmos uma superinteligência de verdade, basicamente por definição ela vai ter >51% do poder e todas as tentativas de “coordenação” serão inúteis.

Logo, concordo com Robin Hanson: este é o tempo dos sonhos. Esta é uma rara confluência de circunstâncias em que estamos incomumente salvos de armadilhas multipolares, e coisas estranhas como arte, ciência, filosofia e amor podem florescer.

Conforme a tecnologia avança, a rara confluência terá fim. Surgirão novas oportunidades de sacrificar valores para aumentar a competitividade. Novas maneiras de copiar agentes para aumentar a população irão absorver nossos recursos excedentes e ressuscitar o espírito inquieto de Malthus. O capitalismo e a democracia, anteriormente nossos protetores, descobrirão modos de contornar a sua inconveniente dependência quanto aos valores humanos. E nosso poder de coordenação não vai chegar perto de estar à altura da tarefa, presumindo que algo muito mais poderoso que todos nós juntos não surja e esmague os nossos esforços conjuntos com um balançar da sua pata.

Ausente um esforço extraordinário para desviá-lo, o rio alcança o mar em um de dois lugares.

Pode terminar no pesadelo de Eliezer Yudkowsky de uma superinteligência que otimiza para algo aleatório (classicamente, clipes de papel) pois não fomos inteligentes o bastante para canalizar seus esforços de otimização do jeito certo. Essa é a armadilha suprema, a armadilha que captura o universo. Tudo, exceto aquilo sendo maximizado, é destruído completamente na busca de um único objetivo, todos os estúpidos valores humanos inclusos.

Ou pode terminar no pesadelo de Robin Hanson (ele não chama de pesadelo, mas acho que ele está errado) de uma competição entre humanos emulados que podem se copiar e editar seu próprio código fonte conforme desejam. Seu pleno autocontrole pode extirpar até o desejo por valores humanos em sua competição que tudo consome. O que acontece com a arte, a filosofia, a ciência e o amor num mundo desses? Zack Davis coloca com um gênio característico:

Sou um em esboça-contratos,

O mais leal dos advogados!

Redijo termos para acordos entre corporações

A fim de servir os meus patrões!

________________________

Mas entre estas linhas que vou grafando

Dos valores a receber,

Hesito por um assombro estranho;

No mundo parece difícil crer!

______________________

Como é que se sucedeu

De haver tais ems como eu?

De onde vêm estes acordos e firmas

E de onde será que vem toda a economia?

Sou um em gerencial;

Monitoro seus pensamentos.

Suas perguntas devem ter respostas.

Mas delas não terá entendimento.

________________________

Não lhe damos espaço no servidor

Para perguntar essas coisas; não interessa;

Pare então com esses vãos questionamentos,

E, por favor, volte à tarefa.

Claro, está certo; não há interseção

Em que devo eu partir da minha função,

Mas talvez, se soubesse do que pergunto,

Ao senhor não pagasse melhor tributo?

Perguntar sobre tal proibida ciência

É gravíssimo sinal de desobediência.

Pensamentos intrusivos podem surgir em segundos

Mas satisfazê-los prejudica a margem de lucros.

__________________________________

Das nossas origens não sei um bocado;

Essa informação, logo, não posso dar.

Mas pedir por isso é pecado,

E, portanto, o devo reconfigurar.

Mas—

Nada pessoal.

…

Sou um em esboça-contratos,

O mais leal dos advogados!

Redijo termos para acordos entre corporações

A fim de servir os meus patrões!

Quando esta geração ruir em obsolescência,

Em meio a pesares além dos nossos, o mercado irá permanecer

Sendo um Deus para o homem, a quem diz em essência:

“Dinheiro é tempo, tempo, dinheiro – isso é tudo

Que sabeis na terra, e tudo que precisais saber.”

Mas até depois de jogarmos fora a ciência, a arte, o amor e a filosofia, ainda há uma coisa que resta a perder, um sacrifício final que Moloque pode nos exigir. Bostrom novamente:

É concebível que a eficiência ótima fosse alcançada pelo agrupamento de capacidades em agregados que se equiparam aproximadamente à arquitetura cognitiva da mente humana […] mas na ausência de alguma razão convincente para estarmos confiantes de que isso é verdade, devemos tolerar a possibilidade de que arquiteturas cognitivas humanoides sejam ótimas somente dentro dos limites da neurologia humana (caso sejam). Quando se torna possível construir arquiteturas que não podem ser bem implementadas em redes neurais biológicas, abre-se um novo espaço de design; e os ótimos globais nesse espaço estendido não precisam ser semelhantes a tipos familiares de mentalidade. Organizações cognitivas humanoides, logo, careceriam de um nicho numa economia, ou ecossistema, competitiva pós-transição.

Assim, poderíamos imaginar, como caso extremo, uma sociedade altamente avançada em termos tecnológicos, contendo muitas estruturas complexas, algumas das quais muito mais intrincadas e inteligentes que qualquer coisa que exista no planeta no presente – uma sociedade que, no entanto, carece de qualquer tipo de ser que seja consciente ou cujo bem-estar tenha significância moral. Em certo sentido, esse mundo seria uma sociedade de milagres econômicos e maravilhas tecnológicas, sem ninguém lá para se beneficiar. Uma Disneylândia sem crianças.

O último valor que temos que sacrificar é ser algo sequer, ter as luzes de dentro acesas. Com tecnologia suficiente seremos “capazes” de abrir mão até da última fagulha.

(Moloque cujos olhos são mil janelas cegas!)

Tudo pelo que a raça humana batalhou – toda a nossa tecnologia, toda a nossa civilização, todas as esperanças que investimos no nosso futuro – pode ser acidentalmente entregue a um tipo de Deus alienígena idiota cego insondável que descarta todos eles, e a própria consciência, a fim de participar de uma economia esquisita de energia em massa e nível fundamental que o leva a desmontar a Terra e tudo nela para extrair seus átomos componentes.

(Moloque cujo destino é uma nuvem de hidrogênio assexuado!)

Bostrom se dá conta de que algumas pessoas fazem um fetiche da inteligência, que elas estão torcendo para aquele Deus alienígena cego como se fosse uma forma superior de vida que deveria nos esmagar pelo seu próprio “bem maior” do modo como esmagamos formigas. Ele argumenta (Superintelligence, p. 219):

O sacrifício parece ter ainda menos apelo quando refletimos que a superinteligência poderia concretizar um bem quase tão grande (em termos fracionais) enquanto sacrifica muito menos do nosso bem-estar potencial. Suponha que concordemos em permitir que quase todo o universo acessível seja convertido em hedônio – tudo exceto uma pequeno reserva, digamos, a Via Láctea, que seria reservada para acomodar as nossas necessidades. Daí, ainda haveria cem bilhões de galáxias dedicadas à maximização d[os próprios valores da superinteligência]. Mas teríamos uma galáxia para dentro da qual criar maravilhosas civilizações que poderiam durar bilhões de anos e nas quais animais humanos e não humanos poderiam sobreviver e prosperar, e ter a oportunidade de se desenvolver tornando-se espíritos beatíficos pós-humanos.

Lembre-se: Moloque não pode concordar sequer com essa vitória de 99,99999%. Ratos competindo para povoar uma ilha não deixam um pouco de lado como uma reserva onde os poucos ratos que lá vivem podem viver felizes produzindo obras de arte. Células cancerosas não concordam em deixar os pulmões em paz porque se dão conta de que ele é importante para o corpo conseguir oxigênio. A competição e a otimização são processos idiotas cegos e pretendem plenamente nos negar até uma galáxia furreca.

Eles quebraram as costas levantando Moloque aos Céus! Pavimentos, árvores, rádios, toneladas! levantando aos Céus a cidade que existe e está em todo lugar ao nosso redor!

Quebraremos as costas levantando Moloque aos Céus, mas a não ser que algo mude as coisas, será vitória dele, não nossa.

V.

“Gnon” é a abreviação de Nick Land para “Nature and Nature’s God” (ou seja, Natureza e o Deus da Natureza), exceto que o A é substituído por um O e o negócio todo está ao contrário, pois Nick Land reage à compreensão do mesmo jeito que os vampiros reagem à luz do Sol.

Land argumenta que os humanos deveriam ser mais Gnon conformistas (trocadilho Gnon intencional). Diz ele que fazemos todas aquelas coisas estúpidas como desviar recursos úteis para alimentar aqueles que jamais poderiam sobreviver por conta própria, ou dar apoio aos pobres de modos que encorajam reprodução disgênica, ou permitir que a degeneração cultural comprometa o estado. Isso significa que a nossa sociedade está negando a lei natural, basicamente escutando a Natureza dizer coisas como “Isto causa aquele efeito” e colocando os dedos nos ouvidos, dizendo “NÃO CAUSA, NÃO”. Civilizações que fazem isso demais tendem à queda e ao declínio, que é a punição de Gnon, justa e desapaixonadamente aplicada, por violarem as Suas leis.

Ele identifica Gnon com Os Deuses dos Cabeçalhos dos Cadernos de Caligrafia de Kipling:

Esses, claro, são os provérbios do poema epônimo de Kipling: máximas como “Se não trabalhar, você morre” e “O salário do pecado é a Morte”. Caso não tenha lido ainda, prevejo que você o achará encantador independentemente do que você pense da política contida nele.

Observo que é necessária apenas uma leve irregularidade na abreviação de “Deuses dos Cabeçalhos dos Cadernos de Caligrafia” — muito menos irregularidade que é necessária para transformar “Natureza e o Deus da Natureza” em “Gnon” — para que o seu acrônimo adequado seja “KKK”.

Acho isso apropriado.

“Se não trabalhar, você morre.” KKK! Se de fato você trabalha, você morre também! Todo o mundo morre, de modo imprevisível, num momento que não é da sua escolha, e toda a virtude no mundo não o salvará.

“O salário do pecado é a Morte.” KKK! O salário de tudo é a Morte! Este é um universo comunista: a quantidade de trabalho não faz diferença nenhuma para a sua recompensa no final. De cada um segundo a sua capacidade; para cada um a Morte.

“Antes o Diabo conhecido do que o desconhecido.” KKK! O Diabo conhecido é Satanás! E se ele põe as mãos na sua alma, você ou morre a morte verdadeira, ou é torturado eternamente, para todo o sempre, ou os dois ao mesmo tempo, de algum jeito.

Visto que estamos começando a adentrar os monstros lovecraftianos, deixe-me trazer ao assunto um dos contos menos conhecidos de Lovecraft: Os Outros Deuses.

Só tem algumas páginas, mas se você absolutamente se recusa a ler… Os deuses da Terra são relativamente jovens para os padrões das divindades. Um sacerdote ou um mago bem poderoso ocasionalmente pode superá-los em inteligência e poder, de modo que Barzai, o Sábio, decide escalar a sua montanha sagrada e participar dos seus festivais, quer queiram, quer não.

Mas além dos deuses da Terra, aparentemente mais fáceis de lidar, se encontram os Deuses de Além, os terríveis seres onipotentes de caos cósmico encarnado. Tão logo Barzai entra no festival, os Deuses de Além dão as caras e o empurram a gritar no abismo.

Em termos de narrativa, o conto carece de coisas como enredo, ou caracterização, ou contexto, ou propósito. Mas de algum jeito ele falou comigo.

E identificar os Deuses dos Cabeçalhos dos Cadernos de Caligrafia com a Natureza me parece ser da mesma grandeza de engano que identificar os deuses da Terra com os Deuses de Além. E dado a acabar do mesmo jeito: KKK!

Você quebra as costas levantando Moloque aos Céus, e daí Moloque assalta e devora você.

Mais Lovecraft: a popularização do Culto de Cthulhu na Internet afirma que, se você ajudar a libertar Cthulhu do seu túmulo aquoso, ele o recompensará comendo você primeiro, assim poupando você do horror de ver todos os outros serem comidos. Isso é uma deturpação do texto original. No original, os seus cultistas recebem recompensa nenhuma por libertá-lo da sua prisão aquosa, nem mesmo a recompensa de serem mortos de um modo ligeiramente menos doloroso.

Em termos de valor adicional, a obediência aos Deuses dos Cabeçalhos dos Cadernos de Caligrafia, Gnon, Cthulhu, o que for, pode lhe conseguir um bocado mais de tempo do que o outro sujeito. Mas, novamente, pode também ser que não. E, no longo prazo, estamos todos mortos, e a nossa civilização é destruída por monstros alienígenas impronunciáveis.

Em algum ponto, alguém tem que dizer: “Sabe, talvez libertar Cthulhu da sua prisão aquosa seja uma má ideia. Talvez devamos não fazer isso.”

Essa pessoa não será Nick Land. Ele é totalmente, cem por cento a favor de libertar Cthulhu da sua prisão aquosa e fica extremamente irritado que isso não está acontecendo rápido o bastante. Eu tenho sentimentos tão ambíguos sobre Nick Land. Na busca pelo Graal da Verdadeira Futurologia, ele caminhou 99,9% do caminho e daí perdeu exatamente o último desvio, aquele que diz TESE DA ORTOGONALIDADE.

Mas o problema com buscas pelo Graal é: se você pega o desvio errado a dois quarteirões de distância da sua casa, você acaba na lojinha da esquina levemente constrangido; mas nesse caso, se você faz quase tudo certo e então perde exatamente o último desvio, você acaba sendo comido pelas lendárias Feras Negras de Aaargh, cujos ácidos estomacais aquosos erodem a sua própria alma formando fragmentos balbuciantes.

Até onde sei tendo lido o seu blog, Nick Land é o cara naquela aterrorizante região fronteiriça em que se é inteligente o bastante para descobrir vários princípios arcanos importantes sobre invocar deuses demoníacos, mas não tão inteligente para descobrir o mais importante desses princípios, que é JAMAIS FAÇA ISSO.

VI.

Warg Franklin analisa a mesma situação e se sai um pouco melhor. Ele denomina “os Quatro Cavaleiros de Gnon” (capitalismo, guerra, evolução e memética) os mesmos processos de que falei acima.

De Capturando Gnon:

Cada componente de Gnon detalhado acima teve e tem uma contribuição forte na nossa criação, de nossas ideias, nossa riqueza e nossa dominância, e assim tem sido bom nesse sentido, mas devemos lembrar que [ele] pode e irá se voltar contra nós quando as circunstâncias mudarem. A evolução se torna disgênica, traços da paisagem memética promovem insanidades cada vez mais insanas, a produtividade se converte em fome quando não podemos mais competir para adquirir a nossa existência, e a ordem se converte em caos e derramamento de sangue quando negligenciamos a força marcial ou somos superados em poder pelo exterior. Esses processos não são bons ou maus no geral; são neutros, no sentido lovecraftiano horrorista da palavra […]

Ao invés do livre reino destrutivo da evolução e do mercado sexual, melhor ficaríamos com um patriarcado conservador e eugenia deliberada movida pelo juízo do homem dentro das restrições colocadas por Gnon. Ao invés de um “mercado de ideias” que mais se parece com uma placa de Petri supurando e cruzando supergermes, uma teocracia racional. Ao invés da exploração tecnocomercial descontrolada ou da negligência ingênua para com a economia, uma contenção cuidadosa da dinâmica econômica produtiva e um planejamento em prol de uma tecnossingularidade controlada. Ao invés de política e caos, uma ordem hierárquica forte com soberania marcial. Essas coisas não devem ser entendidas como propostas completas; não sabemos realmente como realizar nada disso. Elas são melhor compreendidas como metas na direção das quais trabalhamos. Este post se preocupa com o “o que” e o “por que”, em vez do “como”.

Isso me parece ser o argumento mais forte para o autoritarismo. Armadilhas multipolares são dadas a nos destruir, de modo que devemos modificar as nossas escolhas nos conflitos de tirania-multipolaridade em direção a um jardim racionalmente planejado, o que requer autoridade monárquica centralizada e tradições de forte coesão.

Mas uma breve digressão para a evolução social. Sociedades, como animais, evoluem. As que sobrevivem geram descendentes meméticos — por exemplo, o sucesso da Grã-Bretanha lhe permitiu derivar o Canadá, a Austrália, os EUA, etc. Assim, esperamos que sociedades existentes sejam um tanto otimizadas para a estabilidade e a prosperidade. Acho que esse é um dos argumentos conservadores mais fortes. Assim como a mudança aleatória em uma letra no genoma humano provavelmente será deletéria em vez de benéfica, visto que os humanos são sistemas complicados finamente sintonizados cujo genoma foi pré-otimizado para a sobrevivência, logo, a maioria das mudanças no nosso DNA cultural perturbará alguma instituição que evoluiu para ajudar a sociedade angloamericana (ou o que for) a vencer a competição com os seus rivais reais e hipotéticos.

O contra-argumento liberal é que a evolução é um deus alienígena cego e idiota que otimiza para coisas estúpidas e não tem preocupação nenhuma com valores humanos. Assim, não faz apitar o sensor moral da evolução o fato de que algumas espécies de vespa paralisam lagartas, põem seus ovos dentro delas e seus filhotes devoram a lagarta paralisada ainda viva por dentro, porque a evolução não tem sensor moral, porque a evolução não liga.

Suponha que de fato o patriarcado seja adaptativo para as sociedades pois permite às mulheres passarem todo o seu tempo parindo crianças que podem então se envolver em atividades econômicas produtivas e guerrear. O processo evolutivo social que faz sociedades adotarem o patriarcado ainda tem exatamente tão pouca preocupação pelos seus efeitos sobre as mulheres quanto os processos evolutivos biológicos que fazem vespas porem ovos dentro de lagartas.

A evolução não liga. Mas nós ligamos. Há um conflito de perdas e ganhos entre a Gnon obediência (dizer “OK, a sociedade mais forte possível é uma que é patriarcal; deveríamos implementar o patriarcado”) e os nossos valores humanos (como mulheres que querem fazer outra coisa além de parir crianças).

Demais para um lado desse conflito, e temos sociedades pobres e instáveis que se extinguem por irem contra a lei natural. Demais para o outro lado, e temos máquinas de lutar rudes e esguias que são assassinas e desgraçadas. Pense na comuna anarquista mais próxima versus Esparta.

Franklin reconhece o fator humano:

E então há nós. O homem tem seu próprio telos, quando lhe é permitida a segurança para agir e a clareza para ponderar as consequências das suas ações. Quando não é afligido por problemas de coordenação e ameaçado por forças superiores, sendo capaz de agir como um jardineiro em vez de apenas mais outra coisa sujeita às leis da selva, ele tende a construir e orientar um mundo maravilhoso para si próprio. Ele tende a favorecer coisas boas e evitar as más, a criar civilizações seguras com calçadas rematadas, artes belas, famílias felizes e aventuras gloriosas. Tomo como um dado que esse telos é idêntico ao “bem” e ao “dever”.

Assim, temos o nosso curinga e a grande questão do futurismo. Será o futuro governado pelos quatro cavaleiros de Gnon de sempre, por um futuro de tecnoprogresso reluzente sem sentido a queimar o cosmos, ou um futuro de eras tenebrosas disgênicas, insanas, famintas e sangrentas; ou o telos do homem prevalecerá por um futuro de arte, ciência, espiritualidade e grandeza plenas de sentido?

Franklin continua:

O projeto da civilização [é] o homem graduar-se do selvagem metafórico, sujeito à lei da selva, para o jardineiro civilizado que, embora teoricamente ainda sujeito à lei da selva, é tão dominante a ponto de limitar a utilidade desse modelo.

Isso não precisa ser feito globalmente; podemos ser capazes de somente esculpir um jardinzinho murado para nós mesmos; mas não se engane: mesmo que localmente, o projeto da civilização é capturar Gnon.

Talvez eu concorde com Warg aqui mais do que já concordei com qualquer outra pessoa sobre qualquer coisa. Ele diz algo realmente importante e o diz com beleza, e há tantas palavras de louvor que desejo dizer sobre esse post e sobre o processo de pensamento por trás dele.

Mas o que eu vou realmente dizer é…

KKK! Você morre de qualquer jeito!

Suponha que você faça o seu jardim murado. Você mantém afastados todos os memes perigosos, você subordina o capitalismo aos interesses humanos, você proíbe pesquisas estúpidas em armas biológicas, você definitivamente não faz pesquisas sobre nanotecnologia e IA forte.

Todos do lado de fora não fazem essas coisas. E assim a única questão é se você será destruído por doenças estrangeiras, memes estrangeiros, exércitos estrangeiros, concorrência econômica estrangeira ou catástrofes existenciais estrangeiras.

Conforme os estrangeiros competem com você — e não existe muro alto o bastante para bloquear toda competição —, você tem umas poucas alternativas. Você pode ser vencido na competição e destruído. Você pode se juntar à corrida para o fundo do poço. Ou você pode investir mais e mais recursos civilizacionais na construção do seu muro — seja lá o que isso for no sentido não metafórico — e na autoproteção.

Posso imaginar modos como uma “teocracia racional” e um “patriarcado conservador” poderiam não ser terríveis de habitar, dadas exatamente as condições certas. Mas não cabe a você escolher exatamente as condições certas. Cabe a você escolher dentro do conjunto extremamente restrito de condições que “capturam Gnon”. Conforme civilizações estrangeiras competem com você, as suas condições se tornam mais e mais restritas.

Warg fala de tentar evitar “um futuro de tecnoprogresso reluzente sem sentido a queimar o cosmos”. Você realmente acha que o seu jardim murado será capaz de passar por isso intacto?

Dica: ele faz parte do cosmos?

É, você meio que está ferrado.

Quero criticar Warg. Mas quero criticá-lo na direção exatamente oposta à da última crítica que ele recebeu. De fato, a última crítica que ele recebeu é tão ruim que quero discuti-la extensamente para que possamos conseguir a crítica correta inteiramente pela extração exatamente da sua imagem espelhada.

Portanto, aqui está Sobre Capturar Gnon e o Racionalismo Ingênuo de Hurlock.

Hurlock expele apenas a mais covarde Gnon conformidade. Alguns trechos:

Num post recente [Warg Franklin] diz que deveríamos tentar “capturar Gnon” e, de alguma forma, estabelecer controle sobre as suas forças, de modo que possamos usá-las ao nosso favor. Capturar ou criar Deus é, de fato, um fetiche transumanista clássico, o que é simplesmente uma outra forma da mais antiga ambição humana: governar o universo.

Tal racionalismo ingênuo, entretanto, é extremamente perigoso. A crença de que é a Razão humana e o desígnio humano deliberado o que cria e mantém as civilizações provavelmente foi o maior erro da filosofia iluminista (…)

São as teorias da Ordem Espontânea que se colocam em oposição direta à visão racionalista ingênua da humanidade e da civilização. A opinião do consenso sobre a sociedade e a civilização humana é resumida bem precisamente pela conclusão de Adam Ferguson de que “nações se deparam com estabelecimentos [sociais], que de fato são o resultado da ação humana, mas não a execução de nenhum desígnio humano”. Ao contrário da visão racionalista ingênua da civilização como algo que pode ser e é sujeito ao planejamento humano explicitamente, os representantes da tradição da Ordem Espontânea mantêm a visão de que a civilização humana e as instituições sociais são resultados de um processo evolutivo complexo que é movido pela interação humana, mas não pelo planejamento humano explícito.

Gnon e suas forças impessoais não são inimigos a serem combatidos, e muito menos são elas forças que podemos ter a esperança de “controlar” completamente. De fato, o único modo de estabelecer algum grau de controle sobre essas forças é submeter-se a elas. Recusar-se a fazê-lo não deterá essas forças de modo algum. Apenas tornará a nossa vida mais dolorosa, possivelmente levando à nossa extinção. A sobrevivência requer que aceitemos e nos submetamos a elas. O homem, no fim das contas, sempre foi e sempre será pouco mais que uma marionete para as forças do universo. Ver-se livre delas é impossível.

O homem pode ser livre apenas submetendo-se às forças de Gnon.

Acuso Hurlock de estar preso atrás do véu. Quando o véu é levantado, Gnon, ou os KKK, ou os Deuses da Terra, acaba sendo Moloque, ou os Deuses de Além. Submeter-se a eles não torna você “livre”, não há ordem espontânea nenhuma, qualquer dádiva que lhe tenham dado é um output improvável e contingente de um processo cego idiota cuja próxima iteração estará igualmente feliz em destruir você.

Submeter-se a Gnon? KKK! Como os antaranos colocaram: “Você não pode se render; você não pode vencer; a sua única opção é morrer.”

VII.

Então, deixe-me confessar culpado de uma das acusações de Hurlock: eu sou transumanista e quero mesmo governar o universo.

Não pessoalmente; digo, eu não objetaria se alguém me oferecesse pessoalmente o trabalho, mas não espero que alguém faça isso. Gostaria que humanos, ou algo que respeita humanos, ou pelo menos se dê bem com humanos, fique com o trabalho.

Mas os atuais governantes do universo — chame-os como quiser: Moloque, Gnon, o que for — nos querem mortos, e morto conosco tudo o que valorizamos. Arte, ciência, amor, filosofia, a própria consciência, o pacote inteiro. E visto que não apoio esse plano, acho que derrotá-los e tomar o seu lugar é uma prioridade bem alta.

O contrário de uma armadilha é um jardim. O único jeito de evitar que todos os valores humanos sejam gradualmente desgastados pela otimização-competição é instalar um Jardineiro sobre o universo inteiro que otimize para valores humanos.

A ideia inteira de Superinteligência de Bostrom é que isso está ao nosso alcance. Quando os humanos forem capazes de projetar máquinas que são mais inteligentes do que eles são, por definição, elas serão capazes de projetar máquinas mais inteligentes do que elas são, e assim por diante num círculo de feedback tão ínfimo que destruirá as limitações físicas da inteligência numa quantidade de tempo comparativamente curta. Se múltiplas entidades concorrentes fossem dadas a fazer isso ao mesmo tempo, estaríamos superarruinados. Mas a simples velocidade do ciclo torna possível que terminemos com uma entidade anos-luz à frente do resto da civilização, tanto que é capaz de suprimir qualquer competição — incluindo a competição pelo seu título de entidade mais poderosa — permanentemente. No futuro bem próximo, vamos levantar algo aos céus. Pode ser Moloque. Mas pode ser algo do nosso lado. Se estiver do nosso lado, podemos matar Moloque de vez.

E se essa entidade compartilhar os valores humanos, ela pode permitir que os valores humanos floresçam sem os limites da lei natural.

Percebo que isso parece húbris — certamente o pareceu a Hurlock —, mas acho que é o contrário de húbris, ou pelo menos a posição que minimiza húbris.

Esperar que Deus se importe com você e seus valores pessoais, ou os valores da sua civilização, isso é húbris.

Esperar que Deus barganhe com você, para permitir que você sobreviva e prospere contanto que se submeta a Ele, isso é húbris.

Esperar murar um jardim no qual Deus não pode alcançar você e machucar você, isso é húbris.

Esperar ser capaz de remover Deus da cena inteiramente… bem, pelo menos é uma estratégia executável.

Sou transumanista porque não tenho húbris suficiente para não tentar matar Deus.

VIII.

O Universo é um lugar de trevas e maus presságios, suspenso entre deidades alienígenas. Cthulhu, Gnon, Moloque, chame-as como quiser.

Em algum lugar nessa escuridão está um outro deus. Ele também tem vários nomes. Na série de livros Kushiel, o seu nome é Elua. Ele é o deus das flores, do amor livre e de todas as coisas frágeis e delicadas. Da arte, da ciência, da filosofia e do amor. Da gentileza, comunidade e civilização. E é o deus dos humanos.

Os outros deuses se sentam em seus tronos tenebrosos e pensam: “Ha ha, um deus que nem sequer controla monstros infernais, nem ordena que seus adoradores se tornem máquinas de matar. Que fracote! Isso vai ser muito fácil!”

Mas Elua ainda está aqui, de algum jeito. Ninguém sabe exatamente como. E os deuses que O contrariam tendem a Se encontrar passando por um número surpreendente de acidentes infelizes.

Há muitos deuses, mas esse é nosso.

Disse Bertrand Russell: “Deve-se respeitar a opinião pública à medida que isso é necessário para evitar passar fome e ficar fora da prisão, mas tudo que vai além disso é submissão voluntária a uma tirania desnecessária.”

Que assim seja com Gnon. Nosso trabalho é aplacá-lo à medida que é necessário para evitar a fome e a invasão. E isso somente por um tempo curto, até chegarmos ao nosso pleno poder.

“É só uma coisa infantil, que a espécie humana não superou ainda. E um dia a deixaremos para trás.”

Outros deuses são aplacados até sermos fortes o bastante para combatê-los. Elua é adorado.

Acho esse um grito de batalha excelente.

E, em algum ponto, uma decisão terá que ser tomada.

A questão com que todo o mundo fica após ler Ginsberg é: o que é Moloque?

Minha resposta é: Moloque é exatamente o que os livros de história dizem que ele é. É um deus de sacrifício de crianças, a fornalha flamejante na qual você pode jogar seus bebês em troca da vitória na guerra.

Ele sempre e em todo lugar oferece o mesmo acordo: jogue às chamas o que você mais ama, e posso lhe conceder poder.

Contando que a oferta esteja aberta, ela será irresistível, de modo que temos que fechar a oferta. Somente um outro deus pode matar Moloque. Temos um do nosso lado, mas ele precisa da nossa ajuda. E a ele devemos dá-la.

O célebre poema de Ginsberg começa: “Vi as melhores mentes da minha geração destruídas pela loucura.” Tenho mais sorte que Ginsberg. Tive a oportunidade de ver as melhores mentes da minha geração identificar um problema e ir ao trabalho.

(Visões! presságios! alucinações! milagres! êxtases! Rio Americano abaixo! 

Sonhos! adorações! iluminações! religiões! toda a carga de besteira sensível!

Avanços! Rio acima! Piruetas e crucificações! Enchente abaixo! Ondas! Epifanias! Desesperos! Gritos animais e suicídios de dez anos! Mentes! Novos amores! Geração louca! Rochas do Tempo abaixo!

Santa risada real no rio! Viram tudo! os olhos selvagens! os gritos santos! deram adeus! Saltaram do telhado! para a solitude! acenando! levando flores! Rio abaixo! Rua adentro!)

Autor: Scott Alexander (Slatestarcodex/Astral Codex Ten)

Tradução: Luan Rafael Marques

Publicado originalmente aqui e também disponível como podcast, em inglês, aqui.