Criamos a OpenAI LP, uma nova empresa de “lucro limitado” que nos permite aumentar rapidamente nossos investimentos em computação e talento, incluindo freios e contrapesos para realizar nossa missão.
Nossa missão é garantir que a inteligência geral artificial (IGA) beneficie toda a humanidade, principalmente tentando construir uma IGA segura e compartilhar os benefícios com o mundo.
Experienciamos em primeira mão que os sistemas de IA mais dramáticos usam mais poder computacional, além de inovações algorítmicas, e decidimos amplificar muito mais rápido do que planejamos ao iniciar a OpenAI. Precisaremos investir bilhões de dólares nos próximos anos em computação em nuvem em larga escala, atraindo e retendo pessoas talentosas e construindo supercomputadores de IA.
Queremos aumentar nossa capacidade de angariar capital enquanto ainda cumprimos nossa missão, e nenhuma estrutura legal pré-existente que conhecemos atinge o equilíbrio certo. Nossa solução é criar a OpenAI LP como um híbrido de uma empresa com fins lucrativos e sem fins lucrativos, que estamos chamando de empresa de “lucro limitado”.
A ideia fundamental da OpenAI LP é que investidores e funcionários possam obter um rendimento limitado se tivermos sucesso em nossa missão, o que nos permite aumentar o capital de investimento e atrair funcionários com patrimônio semelhante ao de uma start-up. Mas quaisquer rendimentos além desse valor — e se formos bem-sucedidos, esperamos gerar ordens de grandeza de valor a mais do que o que deveríamos às pessoas que investem ou trabalham na OpenAI LP — são de propriedade da ONG OpenAI original.
Daqui em diante (nesta postagem e em outros lugares), “OpenAI” refere-se à OpenAI LP (que agora emprega a maior parte de nossa equipe), e a entidade original é denominada “ONG OpenAI”.
Índice
A missão vem primeiro
Projetamos o OpenAI LP para colocar nossa missão geral — garantir a criação e adoção de IGA segura e benéfica — à frente da geração de rendimentos para os investidores.
A missão vem em primeiro lugar, mesmo no que diz respeito à estrutura da OpenAI LP. Embora tenhamos esperança de que o que descrevemos abaixo funcione até nossa missão estar concluída, podemos atualizar nossa implementação à medida que o mundo muda. Independentemente de como o mundo evoluirá, estamos comprometidos – legal e pessoalmente – com nossa missão.
A principal obrigação fiduciária da OpenAI LP é promover os objetivos do Estatuto da OpenAI, e a empresa é controlada pelo conselho da ONG OpenAI. Todos os investidores e funcionários assinam acordos de que a obrigação da OpenAI LP com o Estatuto sempre vem em primeiro lugar, mesmo às custas de parte de ou toda a sua participação financeira.
Apenas uma minoria de membros do conselho pode deter participações financeiras na parceria ao mesmo tempo. Além disso, apenas os membros do conselho sem tais participações podem votar em decisões em que os interesses dos parceiros limitados e a missão da ONG OpenAI possam entrar em conflito, incluindo quaisquer decisões sobre pagamentos a investidores e funcionários.
Conforme mencionado acima, os rendimentos econômicos para investidores e funcionários são limitados (com o limite negociado antecipadamente de acordo com o parceiro limitado). Quaisquer rendimentos excedentes vão para a ONG OpenAI. Nosso objetivo é garantir que a maior parte do valor (monetário ou não) que criamos, se tivermos sucesso, beneficie a todos; por isso achamos que esse é um primeiro passo importante. Os rendimentos para nossa primeira rodada de investidores são limitados a 100x seu investimento (proporcionais aos riscos à nossa frente), e esperamos que esse múltiplo seja menor para rodadas futuras à medida que avançamos.
O que o OpenAI faz
Nosso trabalho diário não vai mudar. Hoje, acreditamos que podemos agregar mais valor concentrando-nos exclusivamente no desenvolvimento de novas tecnologias de IA, não em produtos comerciais. Nossa estrutura nos dá flexibilidade para o modo como criaremos um rendimento no longo prazo, mas esperamos descobrir isso apenas depois de criarmos uma IGA segura.
Atualmente, a OpenAI LP emprega cerca de 100 pessoas organizadas em três áreas principais: capacidades (avançar no que os sistemas de IA podem fazer), segurança (garantir que esses sistemas estejam alinhados com os valores humanos) e políticas (garantir a governança apropriada para esses sistemas). A ONG OpenAI administra a OpenAI LP, executa programas educacionais como Scholars and Fellows e acolhe iniciativas políticas. A OpenAI LP continua (em maior ritmo e escala) o roteiro de desenvolvimento iniciado na ONG OpenAI, que produziu avanços em aprendizado por reforço, robótica e linguagem.
Segurança
Estamos animados com o potencial da IGA de resolver problemas de escala planetária em áreas em que a humanidade está falhando e não há solução alguma atualmente. No entanto, também nos preocupamos com o potencial da IGA de causar rápidas mudanças, seja por meio de máquinas que buscam objetivos mal especificados pelo seu operador, seja por humanos maliciosos que subvertem sistemas implementados, seja por uma economia fora de controle que cresce sem resultar em melhorias para vidas humanas. Conforme descrito em nosso Estatuto, estamos dispostos a nos fundir com uma organização alinhada em termos de valores (mesmo que isso signifique lucros reduzidos ou nulos para os investidores) a fim de evitar uma corrida competitiva que dificultaria a priorização da segurança.
Quem está envolvido
- O conselho da ONG OpenAI consiste nos empregados da OpenAI LP Greg Brockman (presidente & diretor de tecnologia), Ilya Sutskever (cientista-chefe) e Sam Altman (diretor-executivo) e nos não empregados Adam D’Angelo, Holden Karnofsky, Reid Hoffman, Shivon Zilis e Tasha McCauley. [Essa lista representa o conselho até 11 março de 2019 e não reflete outras atualizações de membros do conselho.]
- Elon Musk deixou o conselho da ONG OpenAI em fevereiro de 2018 e não está envolvido formalmente com a OpenAI LP. Somos gratos por toda a sua ajuda no passado.
- Nossos investidores incluem a fundação de caridade de Reid Hoffman e a Khosla Ventures, entre outras. Sentimo-nos afortunados de ter investidores prestativos alinhados com a nossa missão e focados em ter impacto!
Estamos viajando por um caminho duro e incerto, mas projetamos a nossa estrutura para nos ajudar a afetar positivamente o mundo caso tenhamos sucesso em criar a IGA — que achamos que terá um impacto tão amplo quanto o próprio computador e melhorará o cuidado médico, a educação, a pesquisa científica e muitos aspectos das vidas das pessoas. Se você gostaria de tornar essa missão realidade, estamos contratando :)!
Publicado originalmente em 11 de março de 2019 aqui.
Autores: Greg Brockman, Ilya Sutskever e OpenAI
Tradução: Luan Marques