Exercício Este exercício visa ajudar você a consolidar seu entendimento sobre os modos de que a IA pode exacerbar riscos catastróficos duradouros e as novas ameaças apresentadas pelos recursos desta…
Esta página fornece uma visão geral do problema do alinhamento. Ela descreve nossa motivação para realizar cursos sobre alinhamento técnico da IA. Em termos relativos, a terminologia deve ser amplamente…
De Victoria Krakovna, Jonathan Uesato, Vladimir Mikulik, Matthew Rahtz, Tom Everitt, Ramana Kumar, Zac Kenton, Jan Leike e Shane Legg. 21 de abril de 2020. Manipulação da especificação é um comportamento…
Semana 2: Introdução aos Potenciais Riscos Catastróficos da IA Muitos dos principais cientistas e empresários em IA pediram que a mitigação do "risco de extinção advindo da IA" seja tornada "uma…
Exercício Este exercício ajuda você a sintetizar seus pensamentos sobre o progresso da IA, com base em seu conhecimento anterior e nos recursos com os quais você interagiu esta semana.…
De Richard Ngo. 5 de janeiro de 2023. O campo da IA passou por uma revolução na última década, impulsionado pelo sucesso de técnicas de aprendizado profundo. Este post pretende transmitir…
Se você achou que o ritmo de desenvolvimento da IA havia acelerado desde o lançamento do ChatGPT novembro passado, bem, aperte os cintos. Graças ao surgimento de agentes autônomos de IA como…
De Richard Ngo. Publicado em 30 de agosto de 2021 Apesar da popularidade atual do aprendizado de máquina, não encontrei nenhuma breve introdução que corresponda exatamente à maneira como prefiro…
Semana 1: Introdução à IA e ao Aprendizado de Máquina O que aconteceu nos últimos 10 anos de aprendizado de máquina (machine learning, ML)? Quão significativos são os desenvolvimentos recentes…
TL;DR: Estou muito mais interessada em tornar o futuro bom, em vez de longo ou grande, pois não acho que o mundo seja ótimo agora nem estou convencida de que será…