Índice
Objetivo da Sessão
Tendo examinado alguns riscos de segurança de IA, passamos para a discussão sobre como lidar com esses riscos. Especificamente, nos concentraremos em uma ideia proeminente para abordar os riscos de acidentes catastróficos e uso indevido de IA: regulamentar o desenvolvimento da IA em escala industrial. Para começar, esta semana estudaremos o contexto básico sobre normas e regulamentos de IA, bem como qual deve ser seu conteúdo (ou seja, o que deve ser exigido de grandes desenvolvedores de IA). Nas duas semanas seguintes, consideraremos como os formuladores de políticas podem garantir que as regras de segurança de IA sejam aplicadas onde quer que sejam necessárias, em vez de serem aplicadas apenas em alguns dos países relevantes.
Até o final da semana, você deve ser capaz de:
- Articular algumas regras que poderiam ser definidas em torno de avaliações de capacidades e alinhamento de modelos (ou seja, quando as avaliações seriam feitas e o que os desenvolvedores de IA fariam com base nos resultados da avaliação), razões pelas quais tais regras poderiam promover a segurança de IA e razões pelas quais elas poderiam ter seus limites ou ser prejudiciais
- Comparar a eficácia de normas e regulamentos, inclusive o modo como eles são estabelecidos e quais são suas consequências
- Comparar o estado da regulamentação da IA na UE, na China e nos EUA em meados de 2023
Publicado originalmente em 2023 aqui.
Autor: BlueDot Impact
Tradução: Luan Marques