Nosso estatuto descreve os princípios que usamos para executar a missão da OpenAI.
Este documento reflete a estratégia que refinamos nos últimos dois anos, incluindo o feedback de muitas pessoas internas e externas à OpenAI. A linha do tempo para a Inteligência Geral Artificial permanece incerta, mas nosso estatuto nos guiará para agir pelo melhor interesse da humanidade ao longo de seu desenvolvimento.
A missão da OpenAI é garantir que a Inteligência Geral Artificial (IGA) – com o que queremos dizer sistemas altamente autônomos que superam os humanos no trabalho economicamente mais valioso – beneficie toda a humanidade. Tentaremos construir diretamente uma IGA segura e benéfica, mas também consideraremos nossa missão cumprida se nosso trabalho ajudar outras pessoas a alcançar esse resultado. Para isso, comprometemo-nos com os seguintes princípios:
Benefícios amplamente distribuídos
Comprometemo-nos a usar qualquer influência que obtivermos sobre a implementação da IGA para garantir que ela seja usada para o benefício de todos e para evitar permitir usos de IA ou IGA que prejudiquem a humanidade ou concentrem poder indevidamente.
Nosso principal dever fiduciário é para com a humanidade. Prevemos a necessidade de mobilizar recursos substanciais para cumprir nossa missão, mas sempre agiremos diligentemente para minimizar conflitos de interesse entre nossos funcionários e partes interessadas que possam comprometer o benefício geral.
Segurança a longo prazo
Estamos empenhados em fazer a pesquisa necessária para tornar a IGA segura e em impulsionar a ampla adoção dessa pesquisa em toda a comunidade de IA.
Estamos preocupados com a possibilidade de o desenvolvimento de IGA em estágio avançado se tornar uma corrida competitiva sem tempo para precauções de segurança adequadas. Portanto, se um projeto alinhado em termos de valores e consciente em termos de segurança chegar perto de construir a IGA antes de nós, nos comprometemos a parar de competir e começar a ajudar esse projeto. Elaboraremos detalhes específicos em acordos caso a caso, mas uma condição desencadeadora típica pode ser “uma chance maior que 50% de sucesso nos próximos dois anos”.
Liderança técnica
Para ser eficaz em lidar com o impacto da IGA na sociedade, a OpenAI deve estar na vanguarda das capacidades de IA – a defesa de políticas e segurança por si só seria insuficiente.
Acreditamos que a IA terá um amplo impacto social antes da IGA e nos esforçaremos para liderar nas áreas diretamente alinhadas com nossa missão e experiência.
Orientação cooperativa
Cooperaremos ativamente com outras instituições de pesquisa e políticas; buscamos criar uma comunidade global que trabalhe em conjunto para enfrentar os desafios globais da IGA.
Estamos empenhados em fornecer bens públicos que ajudem a sociedade a navegar no caminho para a IGA. Hoje, isso inclui a publicação da maior parte das nossas pesquisas de IA, mas esperamos que as preocupações com segurança e proteção reduzam nossa publicação tradicional no futuro, aumentando a importância de compartilhar pesquisas de segurança, políticas e normas.
Publicado originalmente em 9 de abril de 2018 aqui.
Autor: OpenAI
Tradução: Luan Marques