De Ethan Perez, Saffron Huang, Francis Song, Trevor Cai, Roman Ring, John Aslanides, Amelia Glaese, Nat McAleese, Geoffrey Irving. 7 de fevereiro de 2022. Em nosso artigo recente, mostramos que é…
De Jan Leike, Jeffrey Wu, Catherine Yeh, William Saunders. 13 de junho de 2022. Treinamos modelos de “escrita crítica” para descrever falhas em resumos. Os avaliadores humanos encontram falhas nos…
De Jason Wei e Denny Zhou. 11 de maio de 2022. Nos últimos anos, foi demonstrado que aumentar o tamanho dos modelos de linguagem é uma forma confiável de melhorar o desempenho em…
De Jeffrey Wu, Ryan Lowe e Jan Leike. 23 de setembro de 2021. Amplificando a supervisão humana de sistemas de IA para tarefas que são difíceis de avaliar. Para implementar…
De Paul Christiano e Dario Almodei. 22 de outubro de 2018. Estamos propondo uma técnica de segurança de IA chamada amplificação iterada que nos permite especificar comportamentos e objetivos complicados…
De Samuel Bowman et al. 11 de novembro de 2022. Resumo Desenvolver sistemas de IA de propósito geral seguros e úteis exigirá que avancemos na supervisão amplificável: o desafio de…
Do EA Global. 3 de abril de 2020. https://youtu.be/-vsYtevJ2bc Paul Christiano, pesquisador da OpenAI , discute o estado atual da pesquisa sobre o alinhamento da IA com os valores humanos: o que…
Técnicas Adversárias para Supervisão Amplificável Podemos treinar modelos para nos informar quando outros modelos estão cometendo erros; mas, atualmente, nem sempre conseguem explicar como sabem que os erros estão ocorrendo.…
Decomposição de Tarefas para Supervisão Amplificável Você pode melhorar significativamente o desempenho dos modelos de linguagem em tarefas difíceis ao pedir que eles decomponham o problema da maneira correta. Esta…
De Jacob Steinhardt. 25 de janeiro de 2022. Anteriormente, argumentei que os futuros sistemas de aprendizado de máquina (machine learning, ML) podem exibir capacidades emergentes e desconhecidas, e que os experimentos…