De Holden Karnofsky. 22 de dezembro de 2022. Em artigos anteriores, argumentei que há um risco real e grande de os sistemas de IA desenvolverem seus próprios objetivos perigosos e…
Resumo A definição de normas costuma ser um componente importante da regulamentação de segurança tecnológica. No entanto, suspeitamos que a infraestrutura de definição de normas existente, por padrão, não abordará…
Os formuladores de políticas podem estudar os sucessos e fracassos das medidas de modo a orientar suas próprias abordagens regulatórias. A inteligência artificial (IA) é onipresente e conceitualmente escorregadia, o…
Resumo As abordagens atuais para a construção de sistemas de IA de propósito geral tendem a produzir sistemas com capacidades benéficas e prejudiciais. Mais progresso no desenvolvimento de IA pode…
Muito foi escrito estruturando e articulando o problema da governança da IA a partir de uma lente de riscos catastróficos, mas esses escritos têm sido dispersos. Esta página visa fornecer…
Muito menos gente está trabalhando no problema do que você imagina, e mesmo a pesquisa de alinhamento que está acontecendo não está muito no caminho certo. (Mas esse é um…
Você pode ter visto argumentos (como estes) sobre por que as pessoas podem criar e implementar IA avançada que busca poder e está desalinhada dos interesses humanos. Isso pode fazer…
Em artigos anteriores, argumentei que há um risco real e grande de que sistemas de IA desenvolvam seus próprios objetivos perigosos e derrotem toda a humanidade — pelo menos na ausência de esforços específicos…
De Rohin Shah, Vikrant Varma, Ramana Kumar, Mary Phuong, Victoria Krakovna, Jonathan Uesato e Zac Kenton. 7 de outubro de 2022. Conforme construímos sistemas de IA cada vez mais avançados,…
Esta página fornece uma visão geral do problema do alinhamento. Ela descreve nossa motivação para realizar cursos sobre alinhamento técnico da IA. Em termos relativos, a terminologia deve ser amplamente…