Até agora, cobrimos algumas ideias diferentes para normas e regulamentos de IA. Agora reúna sua compreensão dos riscos de IA e essas abordagens para formular sua melhor conjectura atual sobre uma estrutura regulatória para a IA, especificamente focada no mecanismo de avaliação de modelos.
Nas próximas semanas, daremos uma olhada em modos de tornar planos como esses mais viáveis, mas é um bom exercício de aprendizado que você tente fazer isso nesta fase do curso.
Pedido: desenvolva um mecanismo regulatório para a avaliação da capacidade e alinhamento de modelos, com o intuito de evitar o desenvolvimento de modelos inseguros.
(Busque escrever <= 500 palavras)
Essa é uma questão bem abstrata, e esperamos que a sua resposta final não seja altamente específica. O propósito deste exercício é começar a refletir sobre os componentes que seriam necessários para a governança segura envolvendo avaliações de modelos e despertar ideias para outras investigações mais específicas.
Tente responder às seguintes perguntas:
- Quando as avaliações seriam feitas?
- Quais partes interessadas precisam estar envolvidas, em que pontos?
- O que os desenvolvedores de IA fariam com base nos resultados das avaliações?
- Quais são as razões pelas quais tais regras poderiam fazer avançar a segurança em IA e razões pelas quais elas poderiam ter seus limites e ser prejudiciais?
- Quais são alguns modos de mitigar esses empecilhos?
Algumas coisas a considerar:
- Talvez queira começar declarando o seu objetivo; isso pode ajudar a avaliar o quanto o seu plano declara o seu objetivo.
- Não se preocupe em começar num nível bem abstrato. Você pode voltar e preencher os detalhes conforme itera o seu plano.
- Há mecanismos além da avaliação de modelos que são necessários ou mais apropriados para a redução de riscos?
Instruções adicionais – válidas para todos os exercícios
Neste curso, frequentemente pediremos que você sintetize seu aprendizado fazendo um exercício de “Escrever para aprender”. Nesses exercícios, vamos propor um tema e pedir sua conclusão sobre ele. Nosso objetivo é ajudá-lo a ativar seu conhecimento anterior sobre o assunto, interagir criticamente com os recursos semanais e formular seus pensamentos iniciais sobre o assunto.
Você pode levar o tempo que quiser nesses exercícios e esperar obter o que você tiver colocado neles.
- Achamos que dedicar-se por até uma hora seria suficiente na maioria dos casos, embora você possa gerar subquestões ou confusões interessantes nas quais deseje passar mais tempo ou voltar mais tarde.
- Se você estiver com pressa, nós o encorajamos a pelo menos fazer um rascunho de alguns tópicos resumindo seus pensamentos iniciais.
O resultado dos exercícios de escrever para aprender deve ser de 1/2 a 2 páginas (exceto quando especificado outro tamanho) de redação expressando sua conclusão sobre um tópico, com justificativas e seu raciocínio. O objetivo principal é ajudá-lo a aprender sobre o assunto, em vez de que o conteúdo seja necessariamente correto ou elegante; esperamos que dentro de uma hora você seja capaz de chegar a uma conclusão superficial, mas pode não se sentir totalmente satisfeito com a quantidade de pesquisa que foi capaz de fazer.
Quando terminar sua redação, você pode:
- Pedir feedback a alguém que você conhece: ele concorda com sua conclusão? Você perdeu de vista alguma consideração importante?
- Adentrar-se nas subquestões que você gerou e fazer mais pesquisas.
- Decidir fazer um projeto muito mais aprofundado investigando a questão ou subquestão, o que pode levar você a desenvolver um nicho no qual outras pessoas não estão pensando.
- Aperfeiçoar o rascunho e postá-lo em algum lugar publicamente para obter mais feedback ou engajamento.
Publicado originalmente aqui.
Tradução: Luan Marques