Um debate sobre Tecnocracia – por E. Glen Weyl e Scott Alexander

Reproduzimos aqui dois textos: o primeiro, Por que não sou um Tecnocrata por E. Glen Weyl e a resposta a esse artigo Contra Weyl sobre a Tecnocracia por Scott Alexander. Ambos foram traduzidos pelo Chaos Star em seu blog Political Syberia. O debate se estende ainda por outras réplicas e você pode conferi-las em seu blog.

O debate gira em torno dos seguintes pontos: estariam os especialistas, com seu crescente uso de tecnologias e métodos, criando uma forma de Tecnocracia? Estariam, em nome da fidelidade conceitual e otimização de recursos, negando a possibilidade de legibilidade deste novo mundo, legibilidade essa fundamental para a democracia? No que isso deve impactar comunidades e correntes de pensamento em ascensão, tal como o das políticas públicas baseadas em evidências, altruísmo eficaz e dos sistemas humanos?

Boa leitura!

1.Por que não sou um Tecnocrata — E. Glen Weyl.

Nos meses anteriores à conferência da RadicalxChange em Março eu escrevi uma série de críticas contra as ideologias dominantes da contemporaneidade (capitalismo, estatismo e nacionalismo) assim como tentativas de esboço das crenças positivas do movimento RxC. Desde esse período, contudo, ficou aparente que eu omiti uma importante ideologia contemporânea, talvez aquele com que as pessoas mais confundam o RxC ( e aquela a qual a maioria dos membros da RxC eram afiliados): a tecnocracia. Eu mesmo fui educado dentro de uma cultura altamente tecnocrática. Neste post eu irei preencher essa lacuna.

Por tecnocracia eu estou me referindo à visão de que a maior parte da governança e das políticas públicas deveria ser conduzida por algum tipo de “especialista”, distinguido pelo treinamento meritocrático no uso de métodos de otimização de determinados fins sociais. Alguns tecnocratas estão abertos a um certo grau de soberania popular sobre a forma de governo, mas acreditam que tais controles democráticos devem operar em um nível bastante restrito, avaliando o desempenho do governo nos “resultados finais” ao invés dos meios para alcançar tais resultados. Eles, portanto, acreditam que a inteligibilidade e avaliabilidade dos projetos tecnocráticos pelo público são de pouco valor. Dentro dessa definição geral, a tecnocracia vem em muitos sabores. Algumas versões notáveis e muito pouco democráticas são as formas adotadas pelo partido comunista chinês, o movimento “neo-reacionário” e sua celebração da Singapura de Lee Kwan Yew.

No entanto, talvez a versão mais proeminente, especialmente em países democráticos, seja a crença em uma tecnocracia baseada em uma mistura de filosofia analítica, teoria econômica, poder computacional e análise estatística de alto volume, muitas vezes usando de experimentação. Essa forma de tecnocracia é uma visão amplamente aceita por grande parte das elites acadêmicas e do setor de tecnologia, pessoas essas que estão entre os grupos mais poderosos do mundo hoje. Concentro-me nessa tendência, pois presumo que será a forma de tecnocracia mais conhecida e atraente para meus leitores, e porque as tecnocracias neo-reacionárias e comunistas chinesas têm muito em comum conceitual, intelectual e historicamente com ela. Alguns exemplos de versões mais extremas dessa visão, provavelmente populares entre meus leitores, são comuns na comunidade “racionalista” e em projetos adjacentes; como altruísmo eficaz, mecanism design, inteligência artificial e, em menor extensão, human design. Vou criticar cada uma dessas tendências em detalhes como arquétipos da tecnocracia.

Esses projetos racionalistas são geralmente “orientados para resultados” e de viés utilitário; têm grande fé em métodos formais e quantitativos de análise e medição. Seu procedimento operacional padrão é pegar metas abstratas relacionadas ao bem-estar humano, derivar delas uma série de métricas-alvo facilmente mensuráveis (variando do produto interno bruto a resultados de saúde específicos no nível de uma aldeia) e utilizar ferramentas de otimização e análise empírica derivada da economia, ciência da computação e estatística para maximizar esses resultados.

Esse processo é imaginado ocorrendo predominantemente fora dos olhos do público e é visto como de natureza técnica. O público é convidado a apenas julgar os resultados finais e a oferecer sugestões para o processo unicamente por meio de formalismos como “curtidas”, apostas, votos, etc. Restrições neste processo com base na legitimidade democrática ou explicabilidade, restrições de “senso comum” sobre o que deve ou não deve ser otimizado, entrada não estruturada ou verbal no processo por aqueles que não têm treinamento formal, etc. são vistos como ruídos prejudiciais na melhor das hipóteses e como intromissão destrutiva por parte de políticos mal informados na pior.

O problema fundamental com a tecnocracia no qual focalizarei (uma vez que é mais facilmente compreendido na visão de mundo tecnocrática) é que os sistemas formais de criação de conhecimento sempre têm seus limites e preconceitos. Eles sempre deixam de lado considerações importantes que só são descobertas mais tarde e que frequentemente acabam por ter uma relação sistemática com a experiência cultural e social limitada dos grupos que os desenvolvem. Eles estão, portanto, sujeitos a uma ampla gama de falhas que podem ser interpretadas como refletindo uma mistura de corrupção e incompetência da elite tecnocrática. Somente sistemas que deixam uma ampla faixa de latitude para uma entrada social mais ampla podem evitar esses modos de falha. No entanto, permitir tal contribuição social requer simplificação, destilação, colaboração e uma redução relativa do status social e das recompensas atribuídas aos tecnocratas em comparação com o resto da população, indo diretamente contra a ideologia tecnocrática. Embora o conhecimento técnico, apropriadamente comunicado e destilado, traga grandes benefícios em abrir a imaginação social, ele só pode atingir esse potencial se entender a si mesmo como parte de uma conversação democrática mais ampla.

Meu argumento se desenvolve em seis partes:

  1. Os sistemas sociais formais destinados a servir populações amplas sempre têm pontos cegos e preconceitos que não podem ser antecipados por seus projetistas;
  2. Historicamente, esses pontos cegos costumam levar a resultados desastrosos se não forem controlados por informações externas. Se essa entrada for deixada para o estágio dos resultado, desastres devem ocorrer antes que o sistema seja reconsiderado, em vez de os erros serem detectados durante o processo de formulação;
  3. As falhas da tecnocracia no gerenciamento de sistemas econômicos e computacionais hoje carregam uma responsabilidade significativa pelos sentimentos generalizados de ilegitimidade que ameaçam o respeito pela ciência bem fundamentada que os tecnocratas acreditam ser importante o público confiar;
  4. Os insights e projetos técnicos são mais capazes de evitar tais problemas quando, seja qual for sua proveniência analítica, eles podem ser transmitidos de uma forma simples e clara ao público, permitindo que sejam criticados, recombinados e implantados por uma variedade de membros do público fora da classe tecnocrática;
  5. Os especialistas técnicos, portanto, têm um papel importante precisamente por fazerem seus insights técnicos parte de uma conversação democrática que se estende muito além do papel da participação democrática imaginado pelos tecnocratas. Garantir essa função não pode ser separado do trabalho de design;
  6. A tecnocracia divorciada da necessidade de comunicação pública e responsabilidade é, portanto, uma ideologia perigosa que desvia os especialistas técnicos do valioso papel que podem desempenhar, tentando-os a assumir indevidamente o poder.

Em primeiro lugar, os sistemas formais de conhecimento técnico e as culturas que os circundam e policiam são necessariamente estreitos em comparação com as sociedades em que habitam. Tal deve ser porque os sistemas formais que interpretam a riqueza do mundo real conseguem pouco por meio da simplificação, da mesma forma que Jorge Luis Borges observou que um mapa totalmente preciso precisaria ser tão grande quanto a região mapeada.

Além disso, esses sistemas formais nunca são logicamente fechados e, portanto, nunca existem por si próprios, mas são apoiados por uma comunidade de cientistas e engenheiros sociais que policia os limites do que é considerado trabalho válido e valorizado dentro de tal sistema de conhecimento. Tal comunidade forma inevitavelmente uma sociologia própria, repleta de normas, padrões de comportamento, redes sociais e assim por diante. Dado que tal cultura constitui inevitavelmente uma pequena parte da sociedade que pretende servir, e dado que as demandas do trabalho técnico tornam muito improvável que seja uma “amostra representativa” em qualquer sentido significativo, as características sociais dos tecnocratas resultarão em estreiteza e vieses adicionais.

Alguns exemplos desses vieses são:

  • Falhas em considerar lacunas na estrutura formal que não afetam os membros dessa classe social;
  • As suposições implícitas tratadas como questões puramente técnicas frequentemente acabam por carregar um significado ideológico que é ignorado por aquela comunidade visto que é dado como “óbvio” em sua análise política;
  • Uma tendência a defender as ações da classe tecnocrática que atendem a interesses pessoais ou restritos de classe (“corrupção”) e a obscurecer tais ações usando de linguagem técnica.

Quanto mais isolada uma classe tecnocrática está do resto da sociedade, mais distante sua linguagem formal está da linguagem de um público mais amplo. E quanto menos eles sentem a necessidade de justificar sua análise e raciocínio para o público, mais prováveis são os fracassos. Especialmente quando esse isolamento é severo, mesmo uma classe tecnocrática profundamente “bem-intencionada” provavelmente terá falhas graves ao longo da dimensão da corrupção. É provável que tal classe desenvolva uma forte cultura de defesa de sua especialidade e status distintos e será isolada das preocupações externas sobre a justificativa para esse status.

Em segundo lugar, historicamente, essas falhas da tecnocracia não são simplesmente possibilidades teóricas. Eles estão entre as preocupações mais antigas e persistentes do pensamento político e levaram a muitas das mais extremas catástrofes humanas. Na tradição intelectual ocidental, a perspectiva tecnocrática remonta pelo menos até Platão, cuja República defende o governo de uma classe de elite de “reis filósofos” desinteressados. Desde aquela época, repetidas tentativas de estabelecer tal classe foram recebidas com fracasso após fracasso (e alguns grandes sucessos, que são, como discutiremos a seguir, as exceções que comprovam a regra) exatamente nas linhas delineadas acima.

Muitas obras clássicas de filosofia política, como grande parte dos escritos de F. A. Hayek, discutiram os perigos da tecnocracia. Talvez o tratamento definitivo seja Seeing Like a State, de James C. Scott, especialmente porque Scott destaca como uma ampla gama de tecnocracia (seja corporativa ou governamental) pode desencadear várias formas de desastre.

Alguns exemplos importantes dados por Scott e outros autores:

  • O Holodomor: um dos três maiores genocídios de todos os tempos foi uma fome provocada pelo homem na Ucrânia no início dos anos 1930. Resultou de uma política sistêmica do governo soviético da época com o objetivo de extrair excedentes de grãos para financiar a industrialização. No entanto, a maioria dos relatos históricos não sugere que Stalin ou outros líderes soviéticos alguma vez tenham pretendido ou mesmo teriam permitido a morte de milhões de pessoas. Isso contrasta fortemente com os outros dois maiores genocídios, cometidos pelos nazistas, que eram objetivos políticos. Como o estado soviético “acidentalmente” exterminou várias milhões de pessoas?
    Stalin e os outros líderes soviéticos estavam tentando explorar ao máximo possível os excedentes de grãos da Ucrânia, a região mais fértil da União Soviética, para financiar a industrialização. Por razões óbvias, essa política não era particularmente popular na Ucrânia. No entanto, apenas uma pequena fração das mortes no Holodomor foram associadas a prisões ou execuções estatais diretas. A penetração e especialização soviética na sociedade ucraniana eram suficientemente profundas, tornando difícil a resistência direta. O problema, em vez disso, era que a liderança soviética não recebeu indicações claras de que, como resultado de incentivos reduzidos para cultivo e condições climáticas adversas, suas demandas estavam diminuindo os excedentes e os estoques de grãos para a população.
    A fonte dessa falha de comunicação foi a extrema centralização das informações em Stalin e em seu círculo de planejamento. Este grupo estava convencido de que o estado da população ucraniana e os estoques de sementes estavam sendo sistematicamente distorcidos para ganho político por parte dos nacionalistas ucranianos e seus apoiadores estrangeiros. Portanto, eles desconfiavam dos sinais de alerta e tratavam aqueles que os forneciam como ferramentas dos inimigos do Estado, muitas vezes punindo aqueles que transmitiam tais avisos. Isso, por sua vez, suprimiu outros sinais do desastre iminente. Ciclos desse tipo aumentaram até que as evidências de fome se tornaram avassaladoras, em uma altura na qual já era tarde demais para evitar uma catástrofe. Amartya Sen documenta exemplos semelhantes em seu trabalho clássico sobre o fenômeno da fome em regimes autoritários. O Grande Salto para a Frente da China sob Mao Zedong é talvez um exemplo ainda mais claro (embora um sobre o qual eu saiba menos), visto que Mao claramente não pretendia mortes em grande escala.
  • O Planejamento Urbano Modernistainspirados pelo redesenho de Paris no século XIX pelo Barão Haussmann, muitos urbanistas de meados do século XX procuraram projetar ou redesenhar cidades “de cima para baixo”. Esses projetos “altamente modernistas” tinham uma participação limitada dos cidadãos, eram uma equipe altamente especializada com extrema confiança no poder da ciência e da tecnologia para transformar cidades e poderes para varrer as estruturas existentes. Exemplos proeminentes disso incluem as intervenções de Robert Moses na cidade de Nova York e os projetos de habitação em todo o mundo desenvolvido, e especialmente soviético, liderados por Le Corbusier e seus associados.
    Conforme observado pela jornalista que se tornou a maior urbanista do século XX, Jane Jacobs, esses arquitetos ignoraram e, com isso, acabaram destruindo grande parte da microestrutura das cidades que as tornava seguras e habitáveis. Eles se baseavam em categorias abstratas que viam as cidades “de cima” e construíam uma ciência em torno dessa visão. Eles não possuíam a sociologia “na rua” que Jacobs construiu caminhando pelas cidades (especialmente Nova York) e observando a vida de seus residentes.
    O exemplo canônico de tal falha modernista de planejamento urbano foi a capital do Brasil, Brasília, construída em meados do século XX pelo arquiteto brasileiro Oscar Niemeyer. Cada espaço da cidade foi projetado para impressionar quando visto de cima ou visto sem pessoas. Cada uso do espaço urbano foi claramente demarcado, e as finalidades do Estado foram marcadas em cada espaço. No fim das contas, essas eram as únicas virtudes da cidade, que logo estava extremamente congestionada e, ainda assim, uma cidade fantasma em seus desfiladeiros abertos e sem estrutura. Surpreendentemente acima do orçamento, mas ainda assim temida ou ressentida pela maioria dos que foram forçados por conta de empregos públicos a se mudar para lá, Brasília é um monumento em vidro, aço e pedra à arrogância da tecnocracia. Exemplos mais contemporâneos são as cidades fantasmas da China.
  • A Curva de Phillips: uma peça central da política econômica de meados do século XX foi a gestão keynesiana do ciclo econômico por especialistas em econometria. Eles usaram relações históricas entre emprego e inflação para ajustar a política fiscal e, em menor medida, a política monetária para administrar as metas de pleno emprego, também observadas a partir de dados históricos. A base desta análise foi a suposição comum de que o observador científico é externo ao sistema que controla e que as relações medidas são estáveis ao longo do tempo. A experiência de “estagflação” dos anos 1970, com alto desemprego e inflação, desafiou esses pressupostos.
    Eventuais economistas ganhadores do Nobel, como Robert Lucas e Chris Sims, argumentaram que os modelos econômicos não podem ser separados do próprio mundo que analisam porque as escolhas políticas afetadas pelo trabalho dos economistas moldam o comportamento das relações econômicas que eles mesmos modelam. Isso é mais claramente afirmado na lei do economista Charlie Goodhart, segundo a qual “qualquer regularidade estatística observada tenderá a entrar em colapso uma vez que a pressão seja colocada sobre ela para fins de controle”. Lucas argumentou que a grande distância social que havia crescido entre líderes empresariais, por um lado, e planejadores de políticas econométricas e banqueiros centrais, por outro lado, levou os planejadores a subestimar a sofisticação da resposta das empresas às mudanças políticas. Uma vez consideradas, essas expectativas “racionais” minaram muitos dos benefícios potenciais da gestão ativa do ciclo econômico e converteram políticas expansionistas em basicamente inflacionárias.
  • A Terapia de Choque: os fracassos do planejamento “modernista” urbano e econômico dos tipos mencionados acima precipitaram mudanças fundamentais nas ideologias dos tecnocratas. As elites do planejamento econômico abraçaram cada vez mais uma ideologia “neoliberal”, de orientação capitalista, de desregulamentação, privatização e taxas de câmbio flutuantes. No entanto, em parte porque essa ideologia tinha sido central para a crítica da tecnocracia anterior, ela se considerava imune a seus fracassos: permitiria que os “mercados livres” “seguissem seu curso” e evitaria a tecnocracia de cima para baixo. Como se viu, a experiência histórica com uma introdução tão rápida do capitalismo era virtualmente inexistente, especialmente no contexto dos ex-países comunistas, onde essa doutrina de “terapia de choque” foi aplicada com mais vigor. A engenharia de tal transição, portanto, envolveu inúmeras escolhas de técnicas de privatização e leilões, regulamentos dos mercados deles originados, estruturas de negociação coletiva, etc. A maioria dessas escolhas foram feitas por um pequeno grupo de tecnocratas de Harvard com o mínimo de consulta democrática ou participação do público polonês e russo em que esses experimentos foram aplicados. Os resultados foram lucros em grande escala e a monopolização de setores por um grupo de oligarcas, muitos ligados aos próprios designers; esses foram amplamente responsabilizados pelo colapso das economias do Leste Europeu, o declínio da democracia naquela região e a eventual derrubada de um dos tecnocratas como presidente da Universidade de Harvard.

Esses são apenas alguns exemplos das falhas históricas da tecnocracia. É importante reconhecer a questão fundamental em jogo aqui, ilustrada de forma mais nítida pelo último exemplo. Não é geralmente ou fundamentalmente que uma dada tecnocracia omite ou não pode expressar qualquer visão crítica que emerge da experiência ou “de baixo”. Nos dias de hoje, Jane Jacobs está no cerne da educação de qualquer urbanista e a tecnocracia econômica já ultrapassou o neoliberalismo extremo e passou a fazer ensaios clínicos randomizados detalhados, modelos econômicos estruturais e projetos de mercado. A esperança é que essas novas formas de tecnocracia resolvam as limitações daquelas que substituíram e agora, com base em uma mistura de atenção aos detalhes sociológicos, uso de “projeto de pesquisa rigoroso” e uma “abordagem de engenharia para o projeto de mercado”, evitarão os erros do passado.

Em certo sentido, isso é verdade: os modos de falha do passado não surgirão novamente. Um erro comum dos críticos da tecnocracia atual é acusá-la exatamente dos mesmos erros da tecnocracia do passado.

No entanto, existe uma falha mais profunda que é simplesmente inevitável, provavelmente para sempre, pelo menos até que identifiquemos sistemas formais estreitos muito mais capazes de capturar toda a riqueza e profundidade humana. O planejamento keynesiano e as iniciativas de privatização neoliberal são tendências superficialmente opostas. Ainda mais profundamente, eles compartilham a visão de que um formalismo fino, baseado em estatísticas agregadas como inflação, crescimento do PIB, produção, taxas de juros, etc, conforme definido na teoria, e de que isso é suficiente para processar a ampla gama de feedbacks sociais necessários para políticas e tomadas de decisões econômicas. Enquanto eles se comunicam entre si na rica linguagem de documentos, debates de seminários, etc., eles querem que a opinião do público em geral se encaixe no formalismo que eles projetaram para o público, seja na forma de demanda de mercado, votos, respostas de pesquisas, etc. Ambos acreditam que o trabalho confuso da política, engajamento social, persuasão, conversação democrática, etc, são em grande parte distrações ou males necessários para alcançar um planejamento econômico sensato, e não verificações e critérios necessários para avaliar o sucesso dos planos tecnocráticos. Como tal, eles inevitavelmente levam a grandes falhas nos resultados do que um processo mais conectado e aberto permitiria quando as fraquezas em seu formalismo se tornassem proeminentes, deixando de fora as informações e os interesses daqueles de fora da classe que podem falar nessa linguagem formal.

Terceiro, esses são precisamente os tipos de problemas que enfrentamos com a atual tecnocracia. As tentativas atuais de ir além dos limites da tecnocracia anterior resolveram os problemas estreitos dos paradigmas anteriores, mas falharam dramaticamente em resolver os problemas fundamentais da própria atual tecnocracia a um custo social dramático.

Alguns exemplos serão suficientes:

  • A gestão tecnocrática do sistema financeiro era amplamente cega para os crescentes desequilíbrios que eram evidentes nos Estados Unidos na preparação para a crise financeira de 2008. Os reguladores do mercado financeiro e especialistas em economia estavam quase totalmente isolados desses desequilíbrios básicos (ou seja, dos tomadores de empréstimos sobrecarregados e dos banqueiros que estavam assumindo grandes riscos), pois eram de classes sociais muito diferentes daquelas que ficaram mais expostas a esses desequilíbrios. Isso ajudou a lançar as bases para a maior catástrofe financeira global desde a Grande Depressão. Ao mesmo tempo, eles frequentavam os mesmos círculos sociais e intelectuais das elites financeiras cujo aproveitamento desses controles mal planejados ajudou a precipitar a crise;
  • A política antitruste, cada vez mais focada na elaboração de uma classe específica de modelos econômicos, tem ignorado as tendências no crescimento do poder de mercado e nas categorias de poder de mercado que tinham uma lógica econômica clara, mas não se encaixam nos modelos padrão, como o poder dos investidores institucionaiso poder dos empregadores e a dinâmica das fusões de alta tecnologia. Como resultado, apesar da especialização cada vez maior, as evidências sugerem cada vez mais que o poder de mercado está próximo do máximo na história dos Estados Unidos. Essa ascensão do poder de mercado, em grande parte sem solução pelas instituições antitruste existentes, parece um componente importante do aumento da desigualdade, da estagnação salarial e do crescimento do populismo iliberal de esquerda e direita;
  • Os sistemas experimentais e adaptativos de “aprendizado por reforço” são cada vez mais usados em todos os tipos de negócios e políticas para otimizar métricas quantitativas que vão desde o engajamento de publicidade até os resultados de saúde. Esses experimentos, no entanto, são geralmente realizados para tratabilidade em ambientes cuidadosamente controlados com grande número de unidades observáveis, tornando difícil julgar os efeitos sistêmicos da intervenção e geralmente com duração de um curto espaço de tempo, o que inviabiliza utilizá-las para planejamentos de longo prazo. Otimizando fortemente essas métricas sem referência a um impacto social mais amplo que elas falham em capturar, mas que é observado rapidamente por aqueles que estão no terreno, levou a resultados bastante desastrosos, desde a incitação do Facebook a um genocídio em Mianmar com base na maximização das métricas de engajamento até uma série de intervenções de desenvolvimento fracassadas que tiveram sucesso somente em ensaios mais restritos;
  • Os designers de mercado, nos últimos 30 anos, criaram leilões, mecanismos de escolha de escolas, procedimentos de correspondência médica e outras instituições sociais usando ferramentas como leilões e teoria de match (ou teoria do ajuste), adaptados a uma variedade de configurações institucionais específicas por consultores econômicos. Embora os princípios que eles usam tenham uma aparência de objetividade e justiça, eles atuam em contextos de sociedades totalmente diferentes daqueles descritos nos modelos. A teoria do match usa princípios de justiça destinados a se aplicar a uma sociedade inteira, como um modelo para projetar a operação de um mecanismo de correspondência específico dentro, por exemplo, de um determinado distrito escolar, dessa forma, na prática, basicamente encerrando debates cruciais sobre dessegregação, ônibus, impostos, e outras ações necessárias para alcançar a justiça educacional com uma aparência de verdade formal. A teoria dos leilões, baseada em modelos estáticos sem competição de mercado por produto e com direitos de propriedade privada absolutos e não assumindo nenhuma coordenação de comportamento entre os licitantes, é usada para projetar leilões para o mundo incrivelmente dinâmico da alocação de espectro, criando problemas de resistência, reduzindo a competição e criando prêmios enormes para aqueles capazes de coordenar os leilõesmuitas vezes eles próprios especialistas em design de mercados amigos dos designers. As complexidades que surgem no processo servem para fazer com que tais privatizações em massa, muitas vezes feitas para o benefício desses atores conectados e às custas do contribuinte, pareçam a solução “objetivamente” correta e politicamente incontestável;

Em suma, estamos muito longe de descobrir formalismos capazes de capturar e quantificar a maioria dos insumos críticos para o desenho de políticas e sistemas para uma sociedade decente. Muito do que ainda precisamos vive em, por exemplo, os conjuntos habitacionais de baixa renda, as experiências vividas por trabalhadores que enfrentam corporações poderosas, as ONGs locais em Mynamar e os grupos comunitários de justiça educacional. Na medida em que a tecnocracia é uma prática de isolar os formuladores de políticas e designers de sistemas da necessidade de se justificar na linguagem comum, de explicar claramente seus projetos e manter linhas de comunicação abertas a partir desses canais altamente informativos, isso leva a falhas em grande escala, corrupção, crises e reação política justificada e indignação.

Quarto, nada disso deveria sugerir que os insights técnicos não têm valor. Qualquer pessoa que tenha seguido meu trabalho conhece a proveniência (parcialmente) técnica de muitos dos projetos sociais que defendo. Também estou profundamente impressionado com o trabalho técnico, em campos como ciência de dados e design humano, que busca desenvolver novas abordagens para análise de dados e métricas para o sucesso de design. Na verdade, acredito que a única chance que temos de salvar nossa economia política atual da opressão do capitalismo e do Estado-nação passa por avanços substanciais de tipo técnico que podem nos fornecer novos sistemas de entrada democrática, contabilidade de valor e imaginação social e experimentação. O trabalho de designers nesses projetos está entre as atividades que mais admiro hoje.

Ainda assim, um elemento crítico está faltando nas formas de tecnocracia acima e que é necessário para que o novo design técnico desempenhe um papel social necessário. Os designers devem reconhecer explicitamente que há informações críticas necessárias para fazer seus projetos terem sucesso que a) está nas mentes dos cidadãos fora da classe tecnocrática, b) não será traduzido para a linguagem desta classe em velocidade que evite resultados desastrosos e c) não se encaixa no formalismo tênue que os designers permitem.

O caso desses pontos é esmagador. Afinal, os tecnocratas não insistem que se comuniquem entre si usando os formalismos finos por meio dos quais solicitam feedback por meio do público … eles falam uns com os outros em conversas, artigos, seminários, etc., não por meio de votos, curtidas, visualizações de páginas da web e demandas do mercado. Assim, eles reconhecem implicitamente os limites dos mecanismos formais de feedback que eles mesmo projetaram. Além disso, seria necessária uma cegueira extrema para os tecnocratas acreditarem que não existem vieses sistemáticos que filtram as perspectivas relevantes da participação na classe tecnocrática, ou que as perspectivas que essa classe passa a assumir com o seu treinamento não eliminam as perspectivas relevantes. Como observado acima, a experiência histórica mostra de maneira esmagadora isso ocorrendo.

Portanto, se levarmos essa perspectiva a sério, como os tecnocratas deveriam fazer o design? Em primeiro lugar, eles devem buscar constantemente criar sistemas utilizáveis que contabilizem formalmente peças críticas de informações omitidas de procedimentos de entrada formal anteriores, não simplesmente para otimizar ainda mais os modelos de projetos anteriores. Chamemos esse objetivo de “fidelidade”, pois tenta tornar o sistema formal o mais fiel possível ao mundo e contrasta com a “otimização”. No entanto, ao mesmo tempo, eles devem reconhecer que o que quer que eles projetem, não conseguirá capturar os elementos críticos do mundo. Para permitir que essas falhas sejam corrigidas, será necessário que o sistema projetado seja compreensível por quem está fora da comunidade técnica, para que se possa incorporar a informação não formalizada por meio de crítica, reutilização, recombinação e conversação mais ampla em linguagem informal. Chamemos esse objetivo de “legibilidade”.

Em geral, haverá um trade-off entre fidelidade e legibilidade, assim como ambos terão de ser contrabalançados com a otimização. Os sistemas que são verdadeiros para o mundo tendem a se tornar complicados e, portanto, ilegíveis. Embora a essência da tecnocracia seja otimização, os tecnocratas geralmente se sentem confortáveis com o aumento da fidelidade. No entanto, eles desconsideram principalmente ou completamente a legibilidade. No extremo oposto, os sistemas existentes altamente familiares ao público tornaram-se legíveis à medida que sua compreensão se espalhou, mas eles causam grande violência ao mundo que pretendem descrever e estão muito longe de ser o ideal; daí o descontentamento generalizado com as falhas do capitalismo e do estado-nação.

O caminho certo e intermediário é “design com espírito democrático”, que trabalha para encontrar designs para feedback social, rotinas de otimização, educação pública e estratégias de comunicação e padrões claros para avaliação de especialistas que fazem grandes melhorias na fidelidade (ou otimização) em troca de pequenas falhas de legibilidade corrigidas de forma relativamente rápida. Os designers democráticos, portanto, devem atender constantemente, em pé de igualdade, em equipe ou individualmente, aos aspectos técnicos e comunicativos de seu trabalho. Eles devem ver o público de seu trabalho como sendo, pelo menos, o público não técnico mais amplo do que seus colegas tecnocráticos. Eles devem ver a falta de legitimidade de seus projetos com o público como algo tão importante quanto as falhas técnicas do sistema. Eles devem reconhecer e recompensar a excelência na explicação, tanto quanto na otimização, e ver o bom desempenho em ambas as dimensões como muito mais valioso do que o desempenho excelente em uma com falta da outra. Por causa das tensões inerentes entre otimização, fidelidade e legibilidade, os dois não são separáveis; a comunicação não pode simplesmente seguir o design. O design deve ter como objetivo ambos.

Nenhum sistema técnico sofisticado é tão legível quanto os sistemas familiares que já foram incorporados à vida cotidiana. No entanto, os sistemas projetados tendo em vista a legibilidade são óbvios quando você interage com eles, e contrastam fortemente com os mais sofisticados, mas ilegíveis. Os primeiros computadores Apple v. Microsoft; a Internet primitiva vs. plataformas contemporâneas; websites imobiliários com preços publicados v. leilões combinatórios de espectro; o sistema baseado em blister de 99 DOTs para garantir a adesão aos cursos de prescrição versus sistemas de vigilância intermináveis e muito mais caros anteriormente experimentados para os mesmos fins.

Uma característica profundamente frustrante de projetar de forma legível, para designers treinados tecnicamente, é que a própria legibilidade desafia a formalização técnica. Na verdade, é precisamente o residual quando tudo o que pode ser formalizado foi despojado. Sempre houve e provavelmente sempre haverá tentativas de formalizar totalmente a legibilidade. No entanto, embora tragam alguns recursos adicionais para o escopo do modelo, eles nunca eliminam o elemento não formalizado. Por exemplo, uma proposta recente para projetar mecanismos econômicos de uso “óbvio” tem méritos interessantes, mas classificaria o xadrez como óbvio para jogar e qualquer conversa humana normal como extremamente complicada. Obviamente, não é assim que os humanos vêem essas coisas.

No entanto, a falta de formalidade técnica não significa que não haja nada sistemático sobre como alcançar a legibilidade. Na verdade, todos os exemplos que descrevi acima compartilham características comuns. Todos eles envolvem sacrifícios significativos de funcionalidade e otimização (pelo menos nos modelos formais contemporâneos) em relação aos contrastes mais verazes e menos legíveis. Todos eles surgem de culturas onde os designers e engenheiros são obrigados a trabalhar em estreita colaboração com colegas criativos, humanistas e outros menos formalisticamente treinados e serem responsáveis pela percepção de seus projetos conjuntos por uma ampla gama de usuários finais. Essas práticas reduzem sistematicamente a dominação e a importância exclusiva das práticas de design técnico e formal e aumentam o peso na conversação democrática, responsabilidade pública e colaboração multidisciplinar. Estas são as práticas que permitem o design dentro de um espírito democrático.

Finalmente, a necessidade de design com espírito democrático é algo que se tornou cada vez mais evidente para mim com o tempo. Muitos elementos de minha formação são altamente tecnocráticos (tenho um PhD em economia, cresci no Vale do Silício como filho de executivos de tecnologia, trabalhei por muitos anos com política antitruste, muito no paradigma que critiquei acima, etc.). A maior parte da minha carreira, incluindo recente e especialmente meu livro Radical Markets com Eric Posner, que ajudou a lançar o movimento RadicalxChange, está em um modo bastante tecnocrático. Como resultado, aprendi e ganhei muito com o RadicalxChange, que atraiu muitos líderes de algumas das comunidades tecnocráticas mais radicais. Assim, ainda mais do que com outras ideologias com as quais tenho flertado (como o estatismo e o capitalismo), me considero um crítico interno.

Meu objetivo aqui é destacar como os tecnocratas falharão de muitas maneiras em seus próprios termos e em seus próprios objetivos se não democratizarem o espírito de seu trabalho nos termos mais ou menos discutidos acima. Até este ponto, quero encerrar destacando os perigos de algumas das comunidades tecnocráticas das quais participo com frequência e com as quais alguns provavelmente confundiriam o RadicalxChange. Essas comunidades são muito promissoras e eu aprendi muito com elas e, ao mesmo tempo, muitas vezes me vejo profundamente preocupado com seu estilo operacional tecnocrático. Em muitos aspectos, foi essa preocupação que me levou a escrever este artigo.

A tecnocracia envolvendo elementos de conhecimento econômico, tecnologia computacional, filosofia analítica e psicologia comportamental permeia as elites globais. No entanto, existe uma subcomunidade dessa elite que leva essas perspectivas ao extremo, é especialmente insular e transformou essas visões em uma filosofia de vida: o autodenominado “movimento racionalista” formado originalmente em torno dos blogs de Robin Hanson e Eliezer Yudkowsky. As maneiras pelas quais as práticas tecnocráticas desperdiçam conhecimentos técnicos valiosos e percepções são mais claramente manifestadas em várias áreas adjacentes a esse movimento. Concluo discutindo quatro exemplos:

  • Design de Mecanismos: ocampo do design de mecanismos foi fundado de muitas maneiras nos princípios expostos acima: que as informações relevantes são mantidas de forma difusa e que as políticas sociais devem ser planejadas para incorporar essas informações. No entanto, a análise no projeto de mecanismo concentra-se esmagadoramente na otimização exata dos projetos e assume modelos que permitem apenas formas muito específicas de informação difusa, mesmo quando outras formas são conhecidas na literatura. Por exemplo, o modelo canônico de leilões, que é a base da prescrição comum de preços ascendentes não discriminatórios ou leilões de segundo preço, pressupõe que a única informação privada é sobre a avaliação pessoal perfeitamente conhecida de itens. Isso ignora, entre outras coisas, o fato de que os licitantes podem não saber seus valores com antecedência e podem precisar trabalhar para aprender esses valores (e ter informações sobre este processo) e o fato de que os licitantes podem ter preferências sobre os resultados de outros ( à medida que competem ou cooperam com outras, e que esses padrões podem ser informações privadas). Na verdade, eles são conhecidos na literatura por causar problemas desastrosos.
    Mais importante, além dos problemas já identificados, esses designs altamente otimizados são extremamente complicados e opacos, a ponto de essa complexidade ser quase celebrada por seus designers. Na verdade, muitos no campo acreditam que essa complexidade e inacessibilidade para pessoas de fora é uma característica definidora do que constitui um “verdadeiro trabalho no campo”. O manto que envolve os designs de mecanismo torna essencialmente impossível para aqueles de fora do campo levantar questões potenciais com esses designs com base nas informações que eles têm e que os designers não têm; os resultados de leilões de espectro recentes e projetos de escolha de escola descritos acima são exemplos importantes.
    Juntamente com o foco extremo na otimização em vez da fidelidade dentro do campo, esses recursos me preocupam para o fato de o design geral do mecanismo e suas aplicações tenha prejudicado em vez de melhorar resultados. Também permitiu um enorme espaço para a corrupção em que especialistas que podem entender o design e são amigos dos designers podem tirar vantagem deles para obter lucro como consultores e não serem facilmente criticados por aqueles da área devido às estreitas relações sociais e a natureza extremamente hierárquica da disciplina. Mesmo assim, como meus outros trabalhos mostram claramente, acho que é um campo com grande potencial para contribuir para uma sociedade mais justa. É talvez o principal exemplo da tremenda oportunidade que uma atitude tecnocrática desperdiça ou transforma em dano.
  • Altruísmo Eficaz: o movimento do altruísmo eficaz, que em grande parte cresceu diretamente do movimento racionalista, busca maximizar a eficácia com a qual as doações as ONGs são feitas usando métodos racionalistas padrão. É uma comunidade unida que privilegia fortemente as abordagens racionalistas sobre todas as outras formas de produção de conhecimento (como as das humanidades, filosofia continental ou ciências sociais humanísticas) e tende a rejeitar contribuições não formuladas em termos racionalistas. A comunidade também tem uma visão forte e explicitamente declarada de que suas atividades contribuem exclusivamente para a realização do “bem”: de suas cinco principais recomendações de carreiras mais produtivas por uma organização comunitária líder, duas sugerem ser um pesquisador ou equipe de apoio dentro do movimento e outros dois recomendam trabalhar no problema de alinhamento da Inteligência Artificial (veja o próximo ponto). Até recentemente, grande parte da análise e do financiamento proveniente da comunidade apontava para um foco em riscos extremamente improváveis, mas potencialmente catastróficos, como catástrofes alienígenas, asteróides ou ameaças biológicas.
    Ainda assim, curiosamente, as conclusões da análise que emergem da comunidade minam cada vez mais esses focos e a abordagem da comunidade de forma mais ampla. Em particular, pesquisas recentes na comunidade sugerem que os maiores e mais prováveis riscos a serem evitados são antropogênicos (mudanças climáticas, guerra nuclear, o surgimento de um regime totalitário, outras catástrofes ambientais etc.). Os líderes da comunidade, por sua vez, sugeriram que as maneiras mais eficazes de evitá-los são, provavelmente, encontrar soluções para problemas de organização política e legitimidade dos sistemas sociais para ajudar a reduzir a probabilidade de conflito ou incapacidade de cooperar no fornecimento de bens públicos globais essenciais.
    Ironicamente, essas metas “políticas”, reformas sociais e construção da confiança pública são precisamente os tipos de atividades que os altruístas há muito vêem como “não rigorosas” e ineficazes. Pior, a abordagem extremamente elitista, segregada e condescendente à filantropia encorajada pela comunidade criou uma reação pública generalizada que acompanhou de perto uma reação populista mais ampla às elites globalistas impulsionadas pela tecnologia e que cada vez mais parece ser um dos maiores fatores de risco precisamente para os tipos de catástrofes que os altruístas veem cada vez mais como as maiores ameaças ao seu ponto de vista de longo prazo sobre o bem-estar universal. Em suma, parece cada vez mais que, após quase uma década de existência, uma conclusão primária da análise do movimento pode ser que o próprio movimento é uma parte significativa do problema que está tentando combater. Anteriormente, um diálogo mais aberto com uma gama mais ampla de abordagens e classes sociais poderia ter esclarecido isso mais rapidamente e evitado o desperdício associado de talento e recursos, duas coisas que o movimento valoriza muito.
  • Alinhamento de Inteligência Artificial: talvez a maior paixão do movimento racionalista, e de Eliezer Yudkowsky, sua figura mais célebre, seja trabalhar na criação de uma “boa” inteligência artificial, normalmente chamada de “projeto de alinhamento de IA” (AIAP). A ideia básica do AIAP é apenas uma extensão dos problemas de tecnocracia identificados acima. IAs, especialmente IAs “boas”, são sistemas formais criados por classes sociais estreitas de acordo com sua concepção e capacidade de especificar formalmente o bem. Como as IAs podem se tornar muito poderosas, há um grande perigo de que elas “fiquem fora de controle” ao atingir uma meta que não especifica totalmente o que o designer humano almeja. O exemplo clássico é uma máquina de fabricação de clipes de papel que transforma o mundo inteiro em clipes de papel. O AIAP visa criar IAs muito poderosos que, no entanto, serão boas (em algum sentido).
    Embora todo o enquadramento do AIAP seja obviamente informado por muitas das preocupações acima, sua formulação e institucionalização parecem perder o ponto fundamental. Se alguém acredita que sempre haverá informações críticas necessárias para o bem que não serão formalizáveis na linguagem de uma comunidade restrita que pode “resolver” o AIAP ou projetar uma IA “amigável”, então o AIAP é inerentemente insolúvel nos termos em que foi colocado.
    É um pouco como colocar o “problema do alinhamento do ditador inteligente”: como podemos garantir, se houver um ditador inteligente, que ele servirá aos interesses do público em geral? Esta questão pressupõe que devemos aceitar tal ditador ou que tal ditadura seria desejável. A maioria dos defensores de sociedades democráticas ou descentralizadas rejeitaria essa premissa; em vez disso, eles argumentariam que a ditadura deve ser inerentemente evitada e que a medida primária para saber se um ditador é amigável ou não é até que ponto ele perde a maior parte de seus poderes para permitir a inteligência descentralizada. Da mesma forma, se quisermos ter IAs que possam desempenhar um papel produtivo na sociedade, nosso objetivo não deve ser exclusiva ou mesmo principalmente alinhá-los com os objetivos de seus criadores ou da estreita comunidade racionalista interessada no AIAP. Em vez disso, deveria ser para criar um conjunto de instituições sociais que garantam que a capacidade de qualquer oligarquia ou pequeno número de inteligências como uma IA “boa” não possa ter um poder extremamente desproporcional. As instituições que provavelmente conseguirão isso são precisamente os mesmos tipos de instituições necessárias para restringir o capitalismo ou o poder do Estado.
    Um objetivo principal do design de IA não deve ser apenas alinhamento, mas legibilidade, para garantir que os humanos que interagem com a IA conheçam seus objetivos e modos de falha, permitindo crítica, reutilização, restrição, etc. Tal enfoque, embora amplamente alheio à pesquisa em IA e no AIAP, é na verdade um grande foco em grande parte da ciência da computação, especificamente no campo da interação humano-computador. Até mesmo alguns pesquisadores de IA se interessaram por isso, com o objetivo de projetar IAs e robôs que sejam menos eficientes, mas legíveis. A tendência geral dos pesquisadores de IA de ignorar, rejeitar, ver como “não rigoroso” ou “não racional” ou, de outra forma, deixar de se concentrar na natureza distribuída da cognição é um limite severo em sua capacidade de contribuir para o seu próprio objetivo de projetar tecnologias benéficas para as sociedades que visam servir. Isso me deixa profundamente preocupado com a possibilidade de que eles acabem, involuntariamente, sendo vetores primários para a criação de IAs hostis.
    Nada disso exige que se adote um ponto de vista de “excepcionalismo humano” ou veja os IAs como inerentemente não humanos ou inferiores aos humanos. Assim como não queremos que o filho ou dinastia de qualquer família se torne ditador do mundo, também não devemos querer que nenhuma IA o seja. Assim como as IAs devem ser legíveis, os seres humanos não anti-sociais realizam uma enorme quantidade de trabalho para se tornarem legíveis e cooperativos com outros seres humanos; aqueles que normalmente não o fazem acabam na prisão.
  • Sistemas Humanos: Talvez a consequência mais surpreendente do movimento racionalista tenha sido o interesse crescente em “design humano” associado com o Center for Humane Technology. Tenho profunda simpatia por este trabalho e sua trajetória está bem avançada. No entanto, trajetória potencial que deve ser observada se manifesta no trabalho de Joe Edelman e do grupo de Sistemas Humanos (HS) que ele fundou.
    Os mais familiarizados com seu trabalho provavelmente ficarão surpresos, devido à minha discussão acima, que vejo o HS caindo em um conjunto de problemas semelhante ao da tecnocracia. Afinal, o HS é amplamente baseado em uma crítica das abordagens de design existentes que compartilham muito com meus argumentos acima e, de fato, muito da análise acima foi parcialmente inspirada por seu trabalho. No entanto, a simpatia que tenho com sua análise é semelhante à que tenho com as formas acima criticadas de tecnocracia … todas são baseadas em superar algum aspecto falho da tecnocracia passada, como desatenção para informações dispersas, falta de foco no bem social, ou falta de atenção às implicações destrutivas inesperadas de sistemas formais. O HS se concentra nos fundamentos ético-psicológicos dos padrões tecnocráticos e na tentativa de desenvolver métricas que eliciam e rastreiam “valores”, em oposição a preferências, objetivos, prazer, etc.
    Resta saber se é possível projetar sistemas que persuasivamente atinjam esse objetivo; a amplitude dele e a falta de comunidades acadêmicas disciplinares estabelecidas com treinamento formal parecem ter dificultado tais projetos, e geralmente me considero cético quanto ao mérito, mesmo em seus próprios termos, dos projetos que emergem dessa comunidade. No entanto, mesmo que práticas tecnocráticas bem-sucedidas surjam dessa comunidade, ela fundamentalmente compartilha uma falta de preocupação com a legibilidade externa e a responsabilidade com as outras formas de tecnocracia que discuto acima. É esmagadoramente focado em estabelecer conexões estreitas entre uma comunidade de designers que imaginam que, ao extrair valores usando algum procedimento, eles identificarão os “verdadeiros” máximos para o design, que os sistemas devem então otimizar. Na verdade, a gama de vocabulário obscuro e perspectivas técnicas que pretendem empregar para “chegar à raiz” do que as pessoas realmente valorizam faz com que muitas outras formas de tecnocracia pareçam legíveis em comparação e a profundidade que procuram alcançar para chegar ao profundo humano das verdades tornam o que se deve aprender e aceitar para entender seus desígnios próximo aos princípios de uma religião.
    Portanto, o HS certamente não se encaminha exatamente para os mesmos fracassos de outras tecnocracia. No entanto, parece bastante plausível na atual trajetória a possibilidade de criar uma espécie de classe “sacerdotal”, acima e separada do resto do público, interessada em ver as almas do público mais amplo e moldar paternalisticamente suas vidas para servir a esses objetivos espirituais. Se a tecnocracia ou teocracia é a melhor maneira de descrever tal sistema é para meus leitores julgarem, mas em qualquer caso, parece provável (se não mudar sua orientação sociológica em direção a uma legibilidade pública mais ampla, envolvimento e respeito por diversos outros estilos de comunicação) que irão sofrer justamente os problemas delineados acima e compartilhados entre a tecnocracia e a teocracia. Por outro lado, se o HS passar a se ver contribuindo com tecnologias concretas comunicáveis e legíveis em uma gama de sistemas de criação de significado, ele tem, como as outras tradições acima, muito a contribuir.

Eu poderia facilmente adicionar a essa lista muito do meu trabalho em Radical Markets, que manifestou muitas das atitudes tecnocráticas problemáticas que critico acima. Na verdade, planejo lançar em breve uma crítica do livro parcialmente nesse sentido. Foi somente por meio de amplas conversas públicas e começando a ver as consequências de algumas das abordagens que estava adotando que passei a apreciar plenamente os severos limites da tecnocracia. Nesse caso, como em todos os anteriores, existe o sério perigo de grandes mentes técnicas serem desperdiçadas na arrogante busca de refazer o mundo à sua imagem, em vez de contribuir para uma conversação mais aberta. Se o fizerem, irão minar os próprios objetivos que buscam e serão devidamente desacreditados e atacados. Espero que, em vez disso, como eu vi até agora, percebam o valor de buscar o design com espírito democrático, com todos os desafios que isso acarreta. Pessoalmente, tem sido a experiência mais gratificante da minha vida, pois me deu a chance de aprender mais, e mais rapidamente, do que jamais tive no passado com uma ampla gama de pessoas brilhantes que de outra forma nunca teria conhecido, em caminhadas da vida e formas de pensamento.

E. Glen Weyl é o fundador e idealizador do movimento RadicalXChance e escritor, juntamente com Eric Posner, do livro Radical Markets. Atualmente trabalha no Harvard’s Edmond J. Safra Center for Ethics. Seu texto original foi publicado aqui.

2.Contra Weyl sobre a Tecnocracia — Scott Alexander

I.

Eu não estou defendendo a tecnocracia.

Ninguém jamais defenderia a tecnocracia. É como “elitismo” ou “estatismo”. Não existe um Partido Estatista. Ninguém realiza comícios exigindo mais estatismo. Não existe uma página do Citizens for Statism no Facebook com milhares de curtidas e seguidores. No entanto, por alguma razão, os libertários não vencem as eleições nacionais. Estranho, não é?

Talvez essa seja uma daquelas Conjugações de Russell — “Eu sou firme, você é obstinado”. Eu apoio o estado de direito, você é um estatista. Eu quero verificações e equilíbrios nas regras da maioria, você é um elitista. Gosto de políticas baseadas em evidências, você é um tecnocrata.

Não estou defendendo a tecnocracia. Mas eu gosto de políticas baseadas em evidências. Portanto, li com interesse o artigo de Glen Weyl, “Por que não sou um Tecnocrata”. Ele começa com um breve resumo de Seeing Like A State. Ele vincula isso à moderna “política baseada em evidências” e ao “design de mecanismos”. Fala sobre como os tecnocratas sempre terão sua própria cultura insular, preconceitos e paradigmas que os impedem de ver o mundo real em toda a sua complexidade. Portanto, devemos ter cuidado com as políticas supostamente “objetivas” e ter certeza de que elas estão sempre fortemente informadas pelo conhecimento real do público.

Em seguida, ele se baseia em vagos rumores da “comunidade racionalista” e de uma figura sombria chamada “Eliezer Yudkowsky” para criar uma reimaginação completamente fictícia de nós como um grupo de pessoas ignorantes que não entendem nenhuma dessas coisas, e simplesmente ficam dizendo “os sistemas de cima para baixo do hurr durr são ótimos, não há como haver algo que nossos modelos não capturem.”

Gosto de “Seeing like a State” tanto quanto qualquer outra pessoa (embora veja as advertências na Parte VII da minha análise do livro para algumas críticas). Mas me preocupa que todos analisem exatamente os mesmos três exemplos de falhas do planejamento de cima para baixo: fazendas coletivas soviéticas, Brasília e Robert Moses. Eu gostaria de propor alguns outros estudos de caso:

  1. Vacinação Obrigatória: os tecnocratas usaram modelos matemáticos complicados para determinar que a vacinação em massa criaria uma “imunidade de rebanho” às doenças. Certas de que seus modelos eram “objetivamente” corretos e, portanto, possivelmente não poderiam ser falhos, essas elites decidiram forçar vacinas em uma população hostil a elas. Apesar do protesto popular (você sabia que na Inglaterra do século XIX, os protestos contra a vacina contra a varíola atraíram dezenas de milhares de pessoas?), esses tecnocratas continuaram a querer “refazer arrogantemente o mundo à sua imagem” e seguir em frente com seu plano, ignoraram os avisos de cidadãos normais de que suas políticas poderiam ter consequências indesejadas, como causar autismo;
  2. Dessegregação nas Escolas: nove especialistas não eleitos com diplomas de Harvard e Yale, usando um monte de termos latinos como certiori e de facto que as pessoas comuns não podiam entender e muito menos criticar, decidiram derrubar completamente o sistema de educação tradicional de milhares de pequenas comunidades para torná-lo melhor conforme algumas regras escritas em um documento de duzentos anos de idade. As próprias comunidades se opuseram fortemente ao ponto oferecer resistência violenta, mas os tecnocratas superaram todas as objeções e enviaram a Guarda Nacional para fazer cumprir suas ordens;
  3. O Sistema de Rodovias Federais: burocratas do exército da década de 1950, com um certo fetiche prussiano, decidiram que a América precisava de seu próprio equivalente do Reichsautobahn. O governo federal elaborou um plano à la Robert Moses para gastar US$ 114 bilhões ao longo de várias décadas para construir uma grade retangular de estradas gigantes por todo o país, literalmente pavimentando tudo o que estava lá antes, tudo de acordo com os padrões federais. O público teve tão pouco a dizer no processo que deu início a centenas de revoltas em rodovias tentando se organizar para impedir a construção delas em suas cidades; o governo os esmagou quando pôde e realocou as rodovias para áreas de menor influência política quando não pôde;
  4. Mudança Climática: na segunda metade do século XX, os cientistas determinaram que as emissões de dióxido de carbono estavam aumentando as temperaturas globais, com consequências potencialmente catastróficas. Os climatologistas criaram modelos formais complicados para determinar a rapidez com que as temperaturas globais podem subir, e os economistas criaram mecanismos inteligentes que podem reduzir as emissões, como sistemas de cap-and-trade e impostos sobre carbono. Mas essas pessoas eram membros da elite brincando com equações que não podiam incluir todos os fatores relevantes e que eram vulneráveis aos seus próprios preconceitos. Assim, os Estados Unidos decidiram deixar a decisão para os mecanismos democráticos, que permitiam que as pessoas contribuíssem com percepções “fora do sistema” como: “na verdade, o aquecimento global é falso e é tudo uma conspiração chinesa”;
  5. Lockdowns contra o Coronavírus: o governo nomeou um conjunto de sacerdotes-cientistas supostamente infalíveis para determinar quando as pessoas tinham ou não permissão para exercer atividades econômicas normais. Os sacerdotes-cientistas, que nada sabiam sobre o complexo conjunto de fatores que fazem uma pessoa decidir ir a um festival de rock e outra a um bar, decidiram que vastas faixas de atividade econômica que eles não entendiam deveriam parar. As pessoas comuns afetadas tentaram se engajar por meio dos mecanismos usuais da democracia, como reclamar, fazer protestos e conspirar para sequestrar seus governantes — mas os sacerdotes-cientistas, certos de que suas análises eram “objetivas” e “baseadas em fatos”, acharam que as pessoas comuns não eram inteligentes o suficiente para configurar uma ameaça e, por isso, se recusaram a ceder.

Ninguém usa a palavra “tecnocrata”, exceto quando está criticando algo. Assim, a “tecnocracia” acrescenta toda essa linguagem em torno dela — consequências não intencionais, os perigos da suposta “objetividade”, os preconceitos inerentes aos paradigmas da elite. E então, quando você descreve algo usando essa linguagem, é como se dissesse “oh, é claro que vai falhar — tudo assim sempre falhou antes!

Mas se você aceitar que “tecnocracia” descreve outras coisas além da agricultura soviética, Brasília e Robert Moses, o truque para de funcionar. Você percebe que muitas coisas que poderia descrever usando o mesmo vocabulário foram boas decisões e que elas deram certo. Então você tem que se perguntar: Seeing like a State é a prova definitiva de que os esquemas tecnocráticos nunca funcionam? Ou é um compêndio de casos raros do tipo “homem morde cachorro”, interessantes precisamente por serem incomuns?

Quero deixar bem claro que não estou dizendo que a tecnocracia é boa e a democracia é ruim. Estou dizendo que esse é realmente um problema difícil. Não é uma peça de moralidade, onde você conta histórias de fantasmas sobre modernistas assustadores, aponta vagamente na direção de Brasília, diz alguns chavões sobre como nenhum sistema pode ser verdadeiramente imparcial, e então seu trabalho está feito. Na verdade, existem vários motivos complicados pelos quais a perícia formal pode ser mais útil em algumas situações e o conhecimento local pode ser mais útil em outras.

II.

Weyl começa definindo tecnocracia:

“Por tecnocracia eu estou me referindo à visão de que a maior parte da governança e das políticas públicas deveria ser conduzida por algum tipo de “especialista”, distinguido pelo treinamento meritocrático no uso de métodos de otimização de determinados fins sociais (…) talvez a versão mais proeminente, especialmente em países democráticos, seja a crença em uma tecnocracia baseada em uma mistura de filosofia analítica, teoria econômica, poder computacional e análise estatística de alto volume, muitas vezes usando de experimentação. Essa forma de tecnocracia é uma visão amplamente aceita por grande parte das elites acadêmicas e do setor de tecnologia, pessoas essas que estão entre os grupos mais poderosos do mundo hoje. Concentro-me nessa tendência, pois presumo que será a forma de tecnocracia mais conhecida e atraente para meus leitores”

Você notou que nenhum dos exemplos de tecnocracia de Weyl se encaixa nessa definição? Robert Moses não tinha nenhum treinamento formal em planejamento urbano ou qualquer coisa relacionada à construção de cidades. A liderança soviética não foi “escolhida de maneira meritocrática”. E Oscar Niemeyer não construiu uma aldeia planejada do Alto Modernismo e uma aldeia para controle e experimentação, testou qual tinha melhor desempenho em várias métricas e utilizou a melhor como modelo para Brasília.

(Não estou dizendo que necessariamente teria corrido bem se ele o fizesse — talvez os princípios não sejam escaláveis, ou talvez ele tenha escolhido as métricas erradas, ou talvez qualquer uma das milhares de outras coisas pudesse ter dado errado. Mas teria sido melhor do que o que ele realmente tentou, que foi pegar algumas escolhas estéticas estranhas de Le Corbusier e segui-las de maneira cega. Weyl critica exatamente o que Niemeyer não fez, então usa o fracasso de seu projeto para argumentar que fazer isso é ruim!)

Acho que a ideia de “tecnocracia” de Weyl é incoerente porque ele está tentando combinar vários eixos diferentes em uma palavra. Alguns deles podem ser:

  1. Intervenções de cima para baixo vs Evolução de baixo para cima: um sistema evoluiu por conta própria de forma emergente? Ou algum planejador está propondo a forma de antemão e ordenando que ela seja executada? Até certo ponto, a evolução de baixo para cima torna os outros eixos irrelevantes — “tecnocracia” e “democracia” são ambas formas de governo e, se o governo não intervém, não há dúvida de quem decide a forma que a intervenção assume;
  2. Mecanismos vs Julgamentos: o sistema é determinado por algum tipo de mecanismo algorítmico, como “vamos implementar qualquer plano que tenha o preço mais alto em nosso mercado de previsões” / “nossa escola vai admitir quem obtiver a pontuação mais alta no exame de admissão”? Ou depende do julgamento humano, ou seja, “vamos pôr em prática qualquer plano em que nossa assembléia chegue a um consenso” / “nossa escola admitirá quem holisticamente parece corresponder melhor aos nossos valores”?
  3. Autarquia vs Democracia: este é obviamente um espectro, já que até o ditador mais totalitário tem alguns conselheiros, e mesmo o país mais democrático ainda tem presidentes e primeiros-ministros. Mas parece justo dizer que Robert Moses era menos democrático do que algum planejador urbano mais melindroso, com certeza;
  4. Opinião dos Especialistas vs Opinião Popular: novamente, obviamente um espectro. Existem sub-questões aqui onde ninguém discorda — não deveria haver alguns médicos e epidemiologistas na FDA e na OMS? Mas acho que é justo dizer que há uma distinção entre um país onde médicos e epidemiologistas podem proibir unilateralmente os cigarros e outro onde essa decisão é tomada em um nível mais democrático;
  5. Vítimas Ignoradas vs Vítimas Consultadas: isso é um pouco diferente do eixo especialista x público, pois um plano para regulamentar os agricultores pode ser popular entre as massas, mas não incorporar conselhos ou opiniões dos próprios agricultores. Weyl discute se os planejadores buscam feedback democrático, mas desconfio do quanto isso realmente valeria. Suponha que você seja a FDA tentando regulamentar os cigarros e seus médicos e burocratas tenham elaborado um plano. O que você faz agora para “buscar feedback democrático”? Colocar uma caixa de sugestões fora do escritório da FDA? Convidar fumantes selecionados aleatoriamente para a sede da FDA para eles lhe dizerem o que pensam? Supor que, já que as autoridades eleitas indicaram o diretor do FDA, você está de bem com isso?

Esses eixos provam seu valor quando os usamos para analisar as concepções de “legibilidade” de Weyl contra as de Scott. Os dois usam a palavra de maneiras exatamente opostas: Weyl está interessado em saber se os planos dos tecnocratas são legíveis para a população; Scott está interessado em saber se as atividades da população são legíveis para os tecnocratas. Weyl afirma que os planos dos tecnocratas são difíceis para uma pessoa comum entender. Scott pensa exatamente o contrário. Quando Oscar Niemeyer diz “vamos construir prédios de apartamentos gigantes separados por uma grade retangular de estradas”, ele pode facilmente listar as vantagens — viagens curtas, trânsito rápido, impossíveis de se perder. São apenas as desvantagens — “não me sinto em casa”, “às vezes gosto de estar no meio de uma multidão” — que são difíceis de expressar. As vantagens da agricultura coletiva são óbvias: especialize-se em uma safra, ganhe com o trabalho conjunto em vez de competir entre si, use as técnicas agrícolas industriais mais avançadas. As desvantagens são tão misteriosas que você mesmo teria que ser um fazendeiro com habilidades agrícolas complicadas para entendê-las. Os tecnocratas podem sempre apontar para aumentos de X% do PIB, Y empregos extras e assim por diante; as massas estão sempre dizendo “não parece certo”.

Acho que o que está acontecendo aqui é que Scott está se concentrando quase exclusivamente no eixo de baixo para cima versus de cima para baixo; ele acha que os planos de cima para baixo são legíveis e os de baixo para cima não, e ele chama a último de “tecnocracia”. Weyl não se preocupa com este eixo; ele parece estar presumindo que uma intervenção de cima para baixo acontecerá e falando sobre que tipo de intervenção de cima para baixo (em termos dos outros quatro eixos) que vamos ter. Como resultado, os dois conversam um com o outro de uma maneira bizarra.

Em outro caso, Weyl critica os neoreacionários enquanto acidentalmente repetia seus pontos de argumentação; este ensaio neoreacionário é assustadoramente semelhante ao do próprio Weyl. Isso ocorre porque Weyl e os neoreacionários concordam profundamente em tomar o lado do julgamento no eixo mecanismos vs julgamentos, mas discordam no eixo autarquia versus democracia.

Acho os eixos 1, 3, 4 e 5 chatos, uma vez que tomamos tempo para decompô-los. Todo mundo já argumentou os méritos da intervenção governamental vs. libertarianismo, do populismo vs. elitismo, etc. Weyl parece ter um interesse especial no Eixo 2 — mecanismos vs julgamento humano — e eu acho que este é o ponto mais interessante de discordância.

III.

Segundo Weyl:

“Em suma, estamos muito longe de descobrir formalismos capazes de capturar e quantificar a maioria dos insumos críticos para o desenho de políticas e sistemas para uma sociedade decente. Muito do que ainda precisamos vive em, por exemplo, os conjuntos habitacionais de baixa renda, as experiências vividas por trabalhadores que enfrentam corporações poderosas, as ONGs locais em Mynamar e os grupos comunitários de justiça educacional. Na medida em que a tecnocracia é uma prática de isolar os formuladores de políticas e designers de sistemas da necessidade de se justificar na linguagem comum, de explicar claramente seus projetos e manter linhas de comunicação abertas a partir desses canais altamente informativos, isso leva a falhas em grande escala , corrupção, crises e reação política justificada e indignação.”

Por que alguém iria querer um mecanismo? Por que queremos usar formalismos? A tomada de decisão humana é tão versátil e tão boa em levar em conta os problemas externos ao sistema que nos limitarmos a modelos mecânicos nos deixaria inutilmente incapacitados, certo?

Eu sou um fã de fazer as coisas de maneira formal. Minha resposta ao desafio acima é: os mecanismos são restritivos de propósito. É restritivo do mesmo modo que amarrar-se ao mastro para que as sereias não o atraiam para a desgraça é restritivo. O formalismo matemático é um truque para proteger um sistema contra os preconceitos de seus autores e sua eventual corrupção. Deixe-me dar quatro exemplos:

  • Criação de Distritos Mecânicos: os matemáticos desenvolveram várias maneiras de criar distritos parlamentares automaticamente, geralmente algo como “agrupar o estado com polígonos compactos”. Talvez isso seja inferior a ter pessoas sábias que realmente entendem o estado e suas necessidades complexas, aglutinando distritos que agrupam áreas relacionadas de maneira natural e que garantem que todos tenham uma voz igual. Mas, de alguma forma, sempre que pedimos aos nossos sábios-que-realmente-entendem-do-estado para fazer isso, eles sempre vêm com formas estranhas de “limpador de cachimbo” que votam exatamente 51% nos republicanos. Admito que há muitas maneiras de resolver isso, além de agrupar o estado com polígonos compactos. Mas se não pudermos fazer nenhum dos outros funcionar, agrupar o estado com polígonos compactos superaria a forma como fazemos as coisas agora;
  • Admissão para o Ensino Superior baseada em Testes: é assim que a maioria dos países, exceto os EUA, fazem as coisas. Mas os reitores da década de 1920 perceberam que isso permitia a entrada de muitos judeus, então mudaram para um processo de admissão holístico, onde representantes sábios de nossos valores culturais examinavam holisticamente os aspectos bons e ruins de cada candidato. No passado, esse sistema era um método para excluir judeus; hoje é uma método para excluir os asiáticos e para permitir que as pessoas cujos pais doam muito dinheiro entrem pela porta dos fundos. Isso não se aplica apenas às faculdades — sabemos que aplicar testes de QI a todos e permitir que os melhores pontuadores participem de programas para superdotados resulta em uma representação melhor das minorias superdotadas do que permitir que os professores usem seu julgamento. Uma das partes mais irritantes do ensaio de Weyl é onde ele fala sobre como a tecnocracia é ruim porque pode incorporar suposições sutilmente racistas em suas equações — como se pedir a pessoas aleatórias que tomem decisões subjetivas fosse mais seguro contra essa falha!
  • Política Habitacional: eu moro na área da Baía de São Francisco, onde desenterrar o corpo de Robert Moses e nomeá-lo Czar do Planejamento Urbano seria muito melhor do que o que temos agora. Acontece que quando você busca cuidadosamente um feedback democrático sobre as decisões de planejamento, o feedback é geralmente “não construa absolutamente nada perto de qualquer coisa”, nada jamais é construído e sua cidade acaba em uma terrível crise habitacional com muitas pessoas quebradas, sem teto, e miserável. Um dos planos mais empolgantes para resolver a crise do NIMBY é o SB50, um projeto de lei que enumera as restrições mecânicas sobre como todas as decisões de zoneamento devem ser tomadas e bloqueia deliberadamente os vizinhos afetados de ter qualquer palavra a dizer no processo;
  • Democracia: apesar de toda a suposta oposição entre tecnocracia e democracia, vale destacar que as eleições democráticas são um exemplo de mecanismo em ação. Em vez de chegar a um consenso sobre questões difíceis, apenas comparamos dois números — o número de pessoas que votam na decisão e o número de pessoas que votam contra — e o que for maior ganha. Você pode imaginar se, em vez disso, tivéssemos que descobrir o que é bom? Ou se, em vez de usar números, tentássemos julgar a qualidade subjetiva de uma coalizão —”este lado tem mais doutores, mas aquele tem mais veteranos do exército?” Terminaria em guerra civil ou ditadura dentro de uma semana. É apenas a natureza totalmente quantitativa das eleições que as torna difíceis de enviesar ou hackear.

Em cada caso, não confiamos em nenhum ser humano para tomar uma decisão imparcial. Portanto, projetamos um mecanismo que seja o mais imparcial possível e o distribuímos para muitas pessoas para que possam verificar se é imparcial (de uma forma que você nunca poderá verificar se a intuição de alguém é imparcial). Em seguida, tomamos decisões por meio do mecanismo.

Em um mundo perfeito, não teríamos que fazer isso. Bem, no mundo real …você já ouviu sobre a história das regras de previsão estatística na medicina? Isso é algo que os Jedi não contarão para você. Algumas pessoas analisaram um monte de dados sobre ataques cardíacos, criaram um algoritmo e disseram que os médicos deveriam usá-lo ao invés de emitir seus próprios julgamentos. Todo mundo que ouve essa história espera que a moral seja que nenhuma quantidade de processamento de dados do “cara mais inteligente da sala” pode se comparar à experiência holística de médicos treinados com anos de experiência no domínio — mas a verdade é que os algoritmos venceram com facilidade. A parte interessante (pesquise “Goldberg Rule” nesse link) é o que acontece quando você dá aos médicos um algoritmo e diz a eles para usá-lo para complementar seu julgamento. Essa equipe de médicos com algoritmos geralmente ainda se sai pior do que o algoritmo sozinho. E se você explicar isso para o médico — diga “eu sei que você acha que vai superar o algoritmo, mas na verdade as equipes de médicos armadas com o algoritmo geralmente perdem para o algoritmo sozinho, então é melhor você apenas manter o algoritmo, a menos que você tenha certeza de que você tem algum conhecimento especial “- o algoritmo sempre vence.
Nesse caso, suplementar o método tecnocrático com julgamento humano simplesmente piora o método tecnocrático. Não sei se isso se aplica a decisões mais relevantes para a sociedade, mas é o tipo de coisa que você deve considerar.

As pessoas que criam mecanismos às vezes podem ser tendenciosas. Mas elas não podem aplicar seus preconceitos com muita precisão. Talvez a decisão de fazer com que os distritos congressionais sejam hexágonos compactos em vez de pentágonos compactos possa sutilmente favorecer os republicanos de alguma forma. Mas favoreceria menos os republicanos do que reunir um bando de republicanos para desenhar cada distrito exatamente da maneira que mais os favorece; há um limite para o quão tendencioso um algoritmo de desenho de hexágono curto pode ser.
Da mesma forma, se você quiser polarizar um algoritmo de admissão em faculdade contra asiáticos, talvez possa ponderar as pontuações dos testes de matemática um pouco mais baixas do que as pontuações dos testes de inglês. Mas isso seria menos tendencioso do que apenas ter um cara que pode olhar para candidatos asiáticos e dizer “não, ele não”. Além disso, os mecanismos são transparentes e podem ser inspecionados. O país inteiro poderia virar seu escrutínio sobre a decisão de pesar menos os testes de matemática no algoritmo — ao passo que se você estiver usando apenas o “julgamento humano”, cada exemplo particular do oficial de admissões rejeitando um asiático passará desconhecido para qualquer um, exceto o candidato envolvido.

Isso não está tentando dizer que os mecanismos são sempre bons e o julgamento é sempre ruim! Podemos prever casos em que um pode ser melhor do que o outro — e como acontece com os estudos de doutorado e programas de estudos para superdotados, podemos testar quando um é melhor que o outro. Só estou tentando dizer que é uma questão interessante que você não pode resolver apenas jogando uma cópia de Seeing Like A State em alguém.

IV.

Quero responder brevemente à crítica de Weyl à racionalidade e ao altruísmo eficaz:

“o movimento do altruísmo eficaz, que em grande parte cresceu diretamente do movimento racionalista, busca maximizar a eficácia com a qual as doações de caridade são dirigidas usando métodos racionalistas padrão. É uma comunidade unida que privilegia fortemente as abordagens racionalistas sobre todas as outras formas de produção de conhecimento (como as das humanidades, filosofia continental ou ciências sociais humanísticas) e tende a rejeitar contribuições não formuladas em termos racionalistas. A comunidade também tem uma visão forte e explicitamente declarada de que suas atividades contribuem exclusivamente para a realização do “bem”: de suas cinco principais recomendações de carreiras mais produtivas por uma organização comunitária líder, duas sugerem ser um pesquisador ou equipe de apoio dentro do movimento e outros dois recomendam trabalhar no problema de alinhamento de IA (veja o próximo ponto). Até recentemente, grande parte da análise e do financiamento proveniente da comunidade apontava para um foco em riscos extremamente improváveis, mas potencialmente catastróficos, como catástrofes alienígenas, asteróides ou ameaças biológicas.”

Weyl escreveu este ensaio alguns meses antes da COVID, portanto, seu desprezo pela ideia de que poderia haver uma catástrofe biológica é um anacronismo infeliz. Mas acho importante notar que acertamos (e ele errou) precisamente porque “privilegiamos as abordagens racionalistas sobre todas as outras formas de produção de conhecimento”. Pessoas como Toby Ord tentavam calcular o risco de todo tipo de desastre e quão ruim seria — e ao mesmo tempo que Weyl estava zombando de nós por nos preocuparmos com catástrofes biológicas, Ord estava escrevendo sobre como os números sugeriam que doenças zoonóticas de morcegos poderiam causar pandemias catastróficas. Esse tipo de trabalho acabou levando o principal grupo de Altruísmo Eficaz, Open Philanthropy Project, a gastar quase US $ 50 milhões em seu Programa de Preparação para Biossegurança e Pandemia entre 2014 e 2019; se outras pessoas tivessem levado alguns minutos para ler nossos argumentos, em vez de nos repreender por quão ingênuo é priorizar as coisas com base em métodos racionais, talvez o mundo estivesse mais preparado.

Tentando ser caridoso com Weyl, acho que ele está pensando no movimento do Altruísmo Eficaz como uma tentativa de quantificar perfeitamente quantas vidas podem ser salvas por dólar, e então seguir esse número até o fundo de um penhasco. Posso ver como uma varredura de dez minutos do movimento pode causar essa impressão, mas acho que mesmo uma de trinta minutos corrigiria a impressão errada. O Altruísmo Eficaz faz a quantificação como um guia para outras formas de raciocínio. Não há como calcular perfeitamente a devastação de uma potencial pandemia que ainda não aconteceu. Mas uma vez que você faz um esforço fraco, você percebe que todos os números são realmente muito grandes. E uma vez que você faz um esforço para quantificar a importância da causa apoiada pelas humanidades e pela filosofia continental, às vezes você percebe que, sob qualquer conjunto de suposições razoáveis, ela é menor do que o outro número. E, claro, você complementa isso com muitas tentativas de entender as questões complicadas e não quantificáveis envolvidas — sob nenhuma circunstância você pula essa etapa — mas você está apenas tentando fazer uma análise que tem algum contato com algum número baseado na realidade e não é totalmente dependente da opinião popular sobre alguma coisa. Eu acho que isso atinge com sucesso o difícil equilíbrio entre tecnicalidades carregadas e vida real confusa, e qualquer forma de raciocínio que Weyl estava usando para deixá-lo descartar os riscos biológicos sem fazer nenhuma modelagem falhou em atingir esse equilíbrio.

(talvez este seja um debate de bravura — acredito que quase todo mundo está usando o julgamento humano confuso e a orientação das humanidades para decidir como melhorar o mundo, e injetar um pouco de ciência é uma inovação poderosa. Se Weyl acredita no oposto, então faria sentido para ele recomendar a adição de um pouco mais de julgamento humano — embora então ele tivesse que explicar como tantas instituições de caridade surpreendentes para padrões racionais eram subfinanciadas antes do surgimento do Altruísmo Eficaz, e quantas inúteis, segundo padrões racionais, estavam nadando em dinheiro.)

Seguindo em frente:

“Ainda assim, curiosamente, as conclusões da análise que emergem da comunidade minam cada vez mais esses focos e a abordagem da comunidade de forma mais ampla. Em particular, pesquisas recentes na comunidade sugerem que os maiores e mais prováveis riscos a serem evitados são antropogênicos (mudanças climáticas, guerra nuclear, o surgimento de um regime totalitário, outras catástrofes ambientais etc.). Os líderes da comunidade, por sua vez, sugeriram que as maneiras mais eficazes de evitá-los são, provavelmente, encontrar soluções para problemas de organização política e legitimidade dos sistemas sociais para ajudar a reduzir a probabilidade de conflito ou incapacidade de cooperar no fornecimento de bens públicos globais essenciais.”

O link de Weyl não apóia sua afirmação. É uma página de 80.000 horas que diz que é importante proteger o futuro a longo prazo, algo que os altruístas acreditam desde o início. O Altruísmo Eficaz começou com uma espécie de fusão e polinização cruzada entre pessoas tentando salvar vidas, por exemplo, curando a malária, e grupos transumanistas trabalhando na proteção do futuro a longo prazo; manteve-se unido porque ambos os grupos concordam que a posição do outro pode fazer sentido, dados diferentes conjuntos de complicadas suposições sobre ética e tratabilidade. A página que Weyl linka destaca e explica a filosofia em torno disso, mas não afirma que ninguém teve uma iluminação repentina onde percebeu que havia ignorado anteriormente a ameaça do totalitarismo. Todo mundo sempre acreditou que deter a ascensão de um regime totalitário é parte da importante tarefa de proteger o futuro, mas não nos concentramos nisso porque é menos tratável e menos negligenciado do que outros problemas. Pelo que eu sei, continuamos a pensar isso e só não nos concentramos nisso como algo principal, exceto ocasionalmente procurando intervenções tratáveis que perdemos.

Tudo isso é muito ruim, porque se Weyl estivesse certo, isso seria um grande ponto a favor dos métodos racionais. Imagine apontar para uma comunidade que fez algo errado por anos, depois ela aprende que algo estava errado, então admiti e muda — e imagine pensar nisso como um golpe contra os métodos daquela comunidade!

“Pior, a abordagem extremamente elitista, segregada e condescendente à filantropia encorajada pela comunidade criou uma reação pública generalizada que acompanhou de perto uma reação populista mais ampla às elites globalistas impulsionadas pela tecnologia e que cada vez mais parece ser um dos maiores fatores de risco precisamente para os tipos de catástrofes que os altruístas veem cada vez mais como as maiores ameaças ao seu ponto de vista de longo prazo sobre o bem-estar universal. Em suma, parece cada vez mais que, após quase uma década de existência, uma conclusão primária da análise do movimento pode ser que o próprio movimento é uma parte significativa do problema que está tentando combater. Anteriormente, um diálogo mais aberto com uma gama mais ampla de abordagens e classes sociais poderia ter esclarecido isso mais rapidamente e evitado o desperdício associado de talento e recursos, duas coisas que o movimento valoriza muito.”

Na verdade, a maioria das reclamações que ouvi vem de pessoas como Weyl (PhD em Princeton, pós-doutorado em Harvard, Pesquisador Principal da Microsoft New England). O link “reação pública generalizada” vai para um livro de Anand Giridharadas (estudante de doutorado em Harvard, ex-consultor da McKinsey, colunista do New York Times). As pessoas normais com quem converso me apoiam amplamente. Alguns dos comentaristas do meu blog são apoiadores populistas de Trump e, embora às vezes me digam que sou louco por doar meu dinheiro da maneira que faço, eles aceitam que tenho o direito de gastá-lo como quero e não me incomodam muito com relação a isso.

Eu me preocupo que Weyl esteja tentando dar uma resposta ao populismo por meio de uma rendição, uma espécie de “as massas odeiam a ciência, a razão e melhorar as coisas, certo? Então, talvez se nunca fizermos nada disso, então eles nos deixarão viver em paz”. Esta não tem sido minha experiência com as massas. Minha experiência tem sido que eles odeiam as elites que tentam dar-lhes um sermão sobre o que fazer, especialmente se justificado em uma confusão pseudocientífica que eles percebem facilmente.

Então, quem quer doar seu próprio dinheiro de acordo com seu próprio entendimento sobre quais são as melhores causas pode ficar tranquilo. Bill Gates não é oficialmente afiliado ao movimento de Altruísmo Eficaz, mas ele é um modelo de atuação amplamente alinhado que doa para as mesmas causas que os altruístas usando os mesmos métodos baseados em dados. Da última vez que alguém verificou, Gates tinha um índice de aprovação de 76%, o segundo maior de qualquer número questionado e literalmente mais alto do que Deus. Não acho que Gates deva ser considerado um fracasso indutor de reação.

E as sugestões de Weyl realmente ajudariam a prevenir reações populistas? Ele deseja que abandonemos nossos caminhos excessivamente racionais em favor de “humanidades, filosofia continental e ciências sociais humanísticas” — isso não é geralmente um código para coisas como teoria queer, teoria pós-colonial e pós-modernismo? Os apoiadores do Trump da classe trabalhadora estão realmente batendo no teclado quando lêem sobre altruísmo eficaz, gritando “VOCÊ PRECISA PARAR DE TENTAR SER OBJETIVO E BASEADO EM FATOS E ESTAR MAIS ABERTO AOS INSIGHTS DA TEORIA QUEER E DO PÓS-MODERNISMO”?

Isso não significa necessariamente que essas coisas sejam ruins — as populações podem reagir contra todos os tipos de coisas boas; talvez esses campos tenham percepções potencialmente valiosas. Mas eu não acho que seja justo exigir que outras pessoas otimizem sua filosofia para evitar reações populistas completamente hipotéticas, enquanto você está dizendo as coisas mais longe do público e provocadoras de reação populista que se possa imaginar. Eu sou um membro da população e estou tão preocupado com as sugestões de Weyl que escrevi todo este ensaio apenas para argumentar o quão errados elas estavam.

A seção sobre IA é muito pior do que isso, e acho que seria mais gentil com todos os envolvidos simplesmente ignorá-la completamente.

Eu continuo a apreciar a crítica de Seeing Like A State de … aquilo que ele critica, que é um tanto, mas não exatamente semelhante, à nossa palavra “tecnocracia”. Acho que é importante internalizar essa crítica. Mas acho que internalizá-la é diferente de torná-la sua ferramenta infalível que se aplica a tudo em todos os lugares. Existem críticas separadas à intervenção de cima para baixo, tomada de decisão mecanicista, autocracia, opiniões de especialistas e falta de feedback de baixo para cima. Todas essas críticas são importantes — e todas elas são acompanhadas por razões igualmente importantes.

Eu acho que é importante não resumir tudo em apenas “tecnocracia é ruim, detalhes a serem fornecidos mais tarde”. Você não pode simplesmente apresentar Brasília e usar isso como um argumento contra ensaios clínicos randomizados! Você não pode simplesmente argumentar que a coletivização forçada de fazendas causou fome e que, portanto, as pessoas não deveriam avaliar voluntariamente onde doar seu dinheiro de caridade para melhor atender seus próprios objetivos! Talvez eu esteja sendo muito tecnocrático aqui, mas em algum ponto você precisa quebrar as coisas, olhar para isso (o social) cientificamente e tentar descobrir quais partes das coisas são consistentemente ruins e quais partes às vezes parecem ajudar.

Acho que as comunidades racionalistas e de altruísmo eficaz têm trabalhado no projeto de tentar desenvolver a metis de equilibrar tudo isso corretamente, e continuo otimista sobre nosso progresso nessa frente.

*Scott Alexander é o pseudônimo do fundador do blog Slate Star Codex; onde trata de temas de medicina, filosofia, política e futurismo. Atualmente, após um escândalo envolvendo sua quebra de anonimato por parte do New York Times, está escrevendo no substack Astral Codex Ten. O texto original por ser encontrado aqui.

Deixe um comentário

Seu email não será publicado