Desenvolvimentos na IA podem exacerbar riscos catastróficos duradouros, incluindo bioterrorismo; desinformação e disfunções institucionais resultantes; uso indevido de poder concentrado; guerra nuclear e convencional; outras falhas de coordenação; e riscos…
Resumo e introdução As pessoas que desejam melhorar a trajetória da IA às vezes pensam que suas opções para o trabalho em nível de objeto são (i) trabalho técnico de…
Uma potencial maneira de melhorar os impactos da IA é por meio das ações da União Europeia (UE) ou dos governos nacionais europeus, contribuindo para o bom desenvolvimento, defesa ou…
Uma maneira potencial de melhorar os impactos da IA é por meio das ações do governo federal dos EUA[^1], fazendo boas políticas de desenvolvimento, defesa ou implementação[^2]. Para apoiar as…
Resumo e Introdução Uma maneira potencial de melhorar os impactos da IA é ajudar vários atores a descobrir boas estratégias de IA, ou seja, bons planos de alto nível focados…
Resumo Historicamente, o progresso no campo da criptografia tem sido extremamente importante. Ao longo do século passado, por exemplo, as descobertas criptográficas desempenharam um papel fundamental em uma guerra mundial…
Capítulo 1: “O regime de não proliferação nuclear” 1.1 Histórico O passo mais importante e mais difícil na fabricação de uma arma nuclear é adquirir o material nuclear necessário para…
De Yonadav Shavit. 30 de maio de 2023. Resumo Conforme as capacidades avançadas dos sistemas de aprendizado de máquina começam a desempenhar um papel significativo na geopolítica e na ordem…
Pode haver um progresso significativo na IA neste século, levando ao que foi descrito como IA transformadora ou mesmo Inteligência Geral Artificial (IGA). Isso envolveria riscos substanciais, pois sistemas de…
De Holden Karnofsky. 22 de dezembro de 2022. Em artigos anteriores, argumentei que há um risco real e grande de os sistemas de IA desenvolverem seus próprios objetivos perigosos e…