Antigos estoicos, como o imperador romano Marco Aurélio e o ex-escravo Epiteto, tinham um exercício mental chamado premeditatio malorum – a visualização negativa, ou “antecipação da adversidade”. Trata-se de refletir…
[Esta é uma carta aberta publicada em março deste ano pelo Future of Life Institute, uma das principais organizações no mundo focadas na diminuição de riscos catastróficos globais e existenciais.…
Resumo A inteligência artificial (IA) é uma potente tecnologia de uso geral. O progresso futuro pode ser rápido e os especialistas esperam que as capacidades sobre-humanas em domínios estratégicos sejam…
Evitando a destruição não construindo a máquina da destruição Se você teme que alguém construa uma máquina que irá assumir o controle do mundo e aniquilar a humanidade, então um…
Cerca de dois anos atrás, escrevi que “é difícil saber quais 'objetivos intermediários' [por exemplo, objetivos políticos] poderíamos perseguir que, se alcançados, aumentariam claramente as chances de bons resultados finais da IA…
Tenho escrito sobre coisas tangíveis que podemos fazer hoje para ajudar o século mais importante a correr bem. Anteriormente, escrevi sobre mensagens úteis para espalhar e como ajudar por meio do trabalho em tempo integral. Este…
Desenvolvimentos na IA podem exacerbar riscos catastróficos duradouros, incluindo bioterrorismo; desinformação e disfunções institucionais resultantes; uso indevido de poder concentrado; guerra nuclear e convencional; outras falhas de coordenação; e riscos…
Resumo Historicamente, o progresso no campo da criptografia tem sido extremamente importante. Ao longo do século passado, por exemplo, as descobertas criptográficas desempenharam um papel fundamental em uma guerra mundial…
Capítulo 1: “O regime de não proliferação nuclear” 1.1 Histórico O passo mais importante e mais difícil na fabricação de uma arma nuclear é adquirir o material nuclear necessário para…
De Holden Karnofsky. 22 de dezembro de 2022. Em artigos anteriores, argumentei que há um risco real e grande de os sistemas de IA desenvolverem seus próprios objetivos perigosos e…