Altruísmo Eficaz

De Jacob Steinhardt. 4 de janeiro de 2022 O aprendizado de máquina está afetando cada vez mais muitos aspectos da nossa sociedade e o seu efeito só continuará a crescer. Diante…

De Luke Muehlhauser e Anna Salamon. 2012 3. Da IA à superinteligência de máquina Parece improvável que os humanos estejam perto do teto de inteligências possíveis, em vez de serem…

De Jacob Steinhardt. 11 de janeiro de 2022. Em 1972, o físico ganhador do Prêmio Nobel Philip Anderson escreveu o ensaio “Mais É Difrente”. Nele, ele argumenta que mudanças quantitativas podem…

De Scott Alexander. 23 de fevereiro de 2022. Introdução Tenho tentado revisar e resumir os diálogos recentes de Eliezer Yudkowksy sobre segurança da IA. Anteriormente em sequência: Yudkowsky Contra Ngo…

De Richard Ngo. Setembro de 2020. Resumo Este relatório, explora a defesa de por que o desenvolvimento da inteligência artificial geral (IGA) pode impor uma ameaça existencial para a humanidade. Parte…

De Nate Soares. 24 de julho de 2015 A missão do MIRI é garantir que a criação de uma inteligência artificial mais inteligente que a humana tenha um impacto positivo. Por…

De Rishi Bommasani[^1] de colaboradores. 12 de julho de 2022. Resumo A IA está passando por uma mudança de paradigma com o surgimento de modelos (p. ex., BERT, DALL-E, GPT-3)…

As duas tarefas do aprendizado supervisionado: regressão e classificação. Regressão linear, funções de perda e a descida do gradiente. De Vishal Maini. 19 de agosto de 2019. Esta série está disponível…

Erro de Generalização do Objetivo Mesmo sem saber quais objetivos um agente irá aprender, podemos prever algumas propriedades do seu comportamento que seriam incentivadas dados vários objetivos diferentes. Mesmo sem…

Erro de Especificação da Recompensa e Convergência Instrumental Modelos de linguagem muitas vezes "alucinam" fatos falsos realistas. Fazer ajuste fino neles usando o feedback humano torna isso menos comum, mas…