Superinteligência (em inglês, superintelligence):
Sistema cognitivo cujo desempenho intelectual em todos os domínios relevantes excede em muito o de qualquer ser humano. Formas de superinteligência incluem a superinteligência de qualidade, a superinteligência de velocidade e a superinteligência coletiva.
Se uma superinteligência vier a existir, pode ser uma máquina (criada através de um progresso substancial na inteligência artificial) ou uma entidade biológica (criada por meio de engenharia genética ou outra modificação humana).
Como a inteligência é o traço distintivo que permitiu aos humanos desenvolver uma civilização e se tornar a espécie dominante na Terra, o desenvolvimento de agentes muito mais inteligentes do que nós seria, sem dúvida, o evento mais significativo da história humana.
Embora seja difícil prever, ou mesmo conceber, como seria um futuro em que tais agentes venham a existir, vários filósofos e cientistas da computação tem recentemente argumentado que a chegada da superinteligência, particularmente a superinteligência da máquina, poderia representar um risco existencial. Por outro lado, se esses riscos forem evitados, uma superinteligência pode ser muito benéfica e permitir que muitos dos problemas do mundo sejam resolvidos.
Leitura adicional
Bostrom, Nick (2014) Superinteligência: Caminhos, Perigos, Estratégias, Oxford: Oxford University Press.
Fonte: https://forum.effectivealtruism.org/topics/superintelligence