Riscos-s

Ao longo da história humana, as novas tecnologias ofereceram oportunidades sem precedentes, mas também representaram sérios riscos. Combinado com uma preocupação insuficiente com o bem-estar dos demais, o progresso tecnológico às vezes tem causado grandes  sofrimentos. Embora existam boas razões para pensar que esses danos serão temporários, isso pode não ser sempre o caso.

A tecnologia futura provavelmente dará à humanidade um poder sem precedentes, potencialmente nos permitindo transformar todo o universo. Mas se esse poder recém-descoberto for usado de forma irresponsável, poderá levar ao sofrimento em uma escala astronômica. Tais riscos de sofrimento astronômico também são chamados de riscos de sofrimento ou, abreviadamente, riscos-s.

Embora em um primeiro momento esses cenários possam parecer absurdos, temos boas razões para acreditar que a probabilidade de ocorrerem não é desprezível. As pessoas que desejam ajudar aos outros da maneira mais eficaz possível devem, portanto, considerar a redução dos riscos-s como prioridade máxima – especialmente se entenderem que tais riscos tem sido na prática muito negligenciados, ou por outros motivos morais.

Existem três maneiras amplas de reduzir efetivamente os riscos-s:

  • Tentar moldar o desenvolvimento de novas tecnologias cruciais, implementando medidas de precaução contra os riscos-s.
  • Melhorar os valores e as instituições sociais, o que aumenta a probabilidade de que as gerações futuras trabalhem para prevenir (ou pelo menos não causar) riscos-s.
  • Concentrar-se em abordagens que estejam um nível acima, tal como aumentar a conscientização e pesquisa quanto a melhor forma de reduzir os riscos-s.