Técnicas Adversárias para Supervisão Amplificável Podemos treinar modelos para nos informar quando outros modelos estão cometendo erros; mas, atualmente, nem sempre conseguem explicar como sabem que os erros estão ocorrendo.…
Decomposição de Tarefas para Supervisão Amplificável Você pode melhorar significativamente o desempenho dos modelos de linguagem em tarefas difíceis ao pedir que eles decomponham o problema da maneira correta. Esta…
De Jacob Steinhardt Anteriormente, argumentei que os futuros sistemas de aprendizado de máquina (machine learning, ML) podem exibir capacidades emergentes e desconhecidas, e que os experimentos mentais fornecem uma abordagem para prever essas…
De Jacob Steinhardt Anteriormente, argumentei que deveríamos esperar que os futuros sistemas de aprendizado de máquina (machine learning, ML) exibissem frequentemente um comportamento “emergente”, no qual adquirissem novas capacidades que não foram…
De Rohin Shah, Vikrant Varma, Ramana Kumar, Mary Phuong, Victoria Krakovna, Jonathan Uesato & Zac Kenton Resumos O campo do alinhamento da IA diz respeito a sistemas de IA que…
De Paul Christiano Postado como parte da sequência do AI Alignment Forum sobre Aprendizado de Valores. Nota de Rohin: Neste post (original aqui), Paul Christiano analisa a ambiciosa abordagem do aprendizado de valores. Ele…
De Paul Christiano A imagem estereotipada da catástrofe da IA é a de um sistema de IA poderoso e malicioso que apanha os seus criadores de surpresa e rapidamente alcança…
De Richard Ngo, Soeren Mindermann e Lawrence Chan Resumo Nas próximas décadas, a inteligência geral artificial (IGA) poderá ultrapassar as capacidades humanas em muitas tarefas cruciais. Argumentamos que, sem um…
De Nisan Stiennon, Paul Christiano, Daniel Ziegler, Ryan Lowe, Jeffrey Wu, Chelsea Voss, Long Ouyang Aplicamos o aprendizado por reforço a partir do feedback humano para treinar modelos de linguagem…
De Dario Amodei, Paul Christiano e Alex Ray Um passo para a construção de sistemas de IA seguros é eliminar a necessidade de os humanos escreverem funções de objetivo, uma…