Exercício
Este exercício visa ajudar você a consolidar seu entendimento sobre os modos de que a IA pode exacerbar riscos catastróficos duradouros e as novas ameaças apresentadas pelos recursos desta semana sobre problemas abertos no Aprendizado de Máquina.
Fazer este exercício o ajudará a construir a sua própria estrutura de diferentes riscos que podem surgir, que você pode ter em mente enquanto aprende sobre soluções de governança em semanas posteriores. Também pode destacar lacunas no seu conhecimento para outras pesquisas ou questões.
Você acha que é mais provável que riscos advindos de uso indevido, de acidentes ou de sistemas de IA-agente rebelde causem dano?
Essa resposta se altera quando você limita o horizonte temporal a 5 anos, 15 anos e 30 anos?
Procure escrever <= 400 palavras.
Talvez queira considerar:
- Se você acha que essas são categorias úteis de risco.
- Qual é a escala de dano causado por cada cenário?
- Como você acha que cada cenário pode se manifestar concretamente num cenário real.
Se não estiver persuadido por nenhum dos riscos descritos nos recursos desta semana, ou da sua experiência, sinta-se livre para estruturar seu ensaio em torno de razões pelas quais você crê que riscos catastróficos não se materializarão.
Observe, por favor, que módulos futuros investigarão as normas, regulamentos e políticas que podem mitigar esses riscos. O objetivo principal desta semana é ajudá-lo a desenvolver um entendimento do potencial panorama do risco de IA.
Instruções adicionais – válidas para todos os exercícios
Neste curso, frequentemente pediremos que você sintetize seu aprendizado fazendo um exercício de “Escrever para aprender”. Nesses exercícios, vamos propor um tema e pedir sua conclusão sobre ele. Nosso objetivo é ajudá-lo a ativar seu conhecimento anterior sobre o assunto, interagir criticamente com os recursos semanais e formular seus pensamentos iniciais sobre o assunto.
Você pode levar o tempo que quiser nesses exercícios e esperar obter o que você tiver colocado neles.
- Achamos que dedicar-se por até uma hora seria suficiente na maioria dos casos, embora você possa gerar subquestões ou confusões interessantes nas quais deseje passar mais tempo ou voltar mais tarde.
- Se você estiver com pressa, nós o encorajamos a pelo menos fazer um rascunho de alguns tópicos resumindo seus pensamentos iniciais.
O resultado dos exercícios de escrever para aprender deve ser de 1/2 a 2 páginas (exceto quando especificado outro tamanho) de redação expressando sua conclusão sobre um tópico, com justificativas e seu raciocínio. O objetivo principal é ajudá-lo a aprender sobre o assunto, em vez de que o conteúdo seja necessariamente correto ou elegante; esperamos que dentro de uma hora você seja capaz de chegar a uma conclusão superficial, mas pode não se sentir totalmente satisfeito com a quantidade de pesquisa que foi capaz de fazer.
Quando terminar sua redação, você pode:
- Pedir feedback a alguém que você conhece: ele concorda com sua conclusão? Você perdeu de vista alguma consideração importante?
- Adentrar-se nas subquestões que você gerou e fazer mais pesquisas.
- Decidir fazer um projeto muito mais aprofundado investigando a questão ou subquestão, o que pode levar você a desenvolver um nicho no qual outras pessoas não estão pensando.
- Aperfeiçoar o rascunho e postá-lo em algum lugar publicamente para obter mais feedback ou engajamento.
Publicado originalmente aqui.
Tradução: Luan Marques