Índice
O desenvolvimento da inteligência artificial
- AlphaGo – O Filme – DeepMind – Um documentário que explora o que a inteligência artificial pode revelar sobre o jogo Go de 3.000 anos e o que isso pode nos ensinar sobre o futuro potencial da inteligência artificial. (Vídeo – 1 hora e 30 minutos.)
- A Revolução da Inteligência Artificial: Parte 1 – Uma divertida e interessante exploração da inteligência artificial pelo popular blogueiro Tim Urban. (45 min.)
Outros recursos sobre o alinhamento da inteligência artificial
- Currículos de Fundamentos de Segurança da AGI
- Meus pontos cruciais pessoais para trabalhar em segurança de IA (65 min.)
- Professor Stuart Russell sobre as falhas que tornam a arquitetura de IA de hoje insegura e uma nova abordagem que pode corrigi-la (Podcast – 2 horas e 15 minutos.)
- Alguns antecedentes sobre nossas opiniões sobre inteligência artificial avançada – Open Philanthropy Project – Uma explicação do por que existe uma possibilidade séria de que o progresso na inteligência artificial possa precipitar uma transição comparável às revoluções Neolítica e Industrial. (1 hora)
- O Precipício – Capítulo 5 (páginas 138-152) – Inteligência Artificial Desalinhada (25 min.)
- Com o que o fracasso se pareceria (12 min.) – Duas histórias específicas sobre como poderia ser uma falha de alinhamento de IA muito ruim para toda a sociedade, que diferem consideravelmente da clássica história de “explosão de inteligência”
- Segurança AGI desde os primeiros princípios (1 hora e 15 minutos) – um pesquisador de IA assume os fatores específicos para o problema de alinhamento da IA geral
- Compatível com humanos: inteligência artificial e o problema do controle (Livro)
- O problema do alinhamento: aprendizado de máquina e valores humanos (Livro)
Governança para inteligência artificial
- A nova equipe de pesquisa de 30 pessoas em DC investiga como as tecnologias emergentes podem afetar a segurança nacional – 80.000 horas – Como a segurança internacional pode ser alterada se o impacto do aprendizado de máquina for semelhante em escopo ao da eletricidade? (Podcast – 2 horas)
- Roleta Tecnológica: Gerenciando a Perda de Controle Enquanto Muitos Militares Perseguem a Superioridade Tecnológica – Center for a New American Security – Um argumento de como os avanços na tecnologia militar (incluindo, entre outros, IA) podem impedir a tomada de decisões relevantes e criar riscos, exigindo assim maior atenção das organizações de segurança nacional. (60 min.)
Trabalho técnico de alinhamento de IA
- Cenário de Alinhamento de IA (Vídeo – 30 min.)
- Pacote inicial de segurança de IA (7 min.)
- Como seguir uma carreira em alinhamento técnico de IA (59 min.)
- Currículo de Alinhamento Técnico (leituras para um curso de 7 semanas)
- O Fórum de Alinhamento, especialmente suas sequências principais
Críticas de preocupações sobre o risco de IA
- Quanta certeza temos sobre essas coisas de IA? (26 min.)
- Um conto de 2,75 teses de ortogonalidade (20 min.)
- Como saber se a IA está prestes a destruir a civilização (resumo, 2 min.)
- O Messias da IA (e o primeiro comentário) (5 min.)
- Quão boa é a humanidade em coordenação? (4 min.)
Publicado originalmente em 15 de julho de 2022 aqui.
Tradução: Bruna Bernardes
Revisão: Fernando Moreno