Elon Musk processa Sam Altman, Greg Brockman e a OpenAI [PDF]
(courthousenews.com)- Elon Musk apresentou 5 reivindicações, incluindo quebra de contrato, contra Sam Altman, Greg Brockman e entidades relacionadas à OpenAI, além de exigir julgamento por júri
- O ponto central do processo é a alegação de que a OpenAI foi criada em 2015 como um instituto de pesquisa em AGI sem fins lucrativos e firmou um Founding Agreement para divulgar a tecnologia em benefício da humanidade
- A equipe de Musk afirma que o GPT-4 se tornou uma tecnologia fechada, com arquitetura interna e informações de treinamento não divulgadas, e que na prática passou a pertencer à Microsoft, afastando-se da missão inicial da OpenAI
- Com base em declarações públicas de pesquisadores da Microsoft de que o GPT-4 pode ser uma AGI inicial, o processo sustenta que a licença exclusiva concedida à Microsoft em 2020 se aplica apenas a tecnologias pré-AGI
- Após a crise no conselho em novembro de 2023, Musk alega que o novo conselho se inclinou a Altman e à Microsoft, tornando difícil um julgamento independente sobre AGI, e busca obrigar a OpenAI a seguir o Founding Agreement
Partes do processo e escopo das reivindicações
- Elon Musk entrou com uma ação na California Superior Court do Condado de San Francisco contra Sam Altman, Greg Brockman, OpenAI, Inc. e várias outras entidades relacionadas à OpenAI
- As causas de pedir são as 5 seguintes
-
Quebra de contrato
- promissory estoppel
- violação de dever fiduciário
- concorrência desleal nos termos da Cal. Bus. & Prof. Code §§ 17200 e seguintes
- prestação de contas
- Os réus incluem OpenAI, Inc., OpenAI, L.P., OpenAI, L.L.C., OpenAI GP, L.L.C., OpenAI OpCo, LLC, OpenAI Global, LLC, OAI Corporation, LLC, OpenAI Holdings, LLC e Does 1 through 100
- Nos documentos do processo, OpenAI, Inc. é distinguida como entidade sem fins lucrativos ou braço sem fins lucrativos, enquanto “OpenAI” se refere ao conjunto das entidades relacionadas
-
Percepção dos riscos da AGI e contexto da fundação da OpenAI
- AGI é tratada como um sistema de inteligência artificial geral capaz de demonstrar inteligência em diversas tarefas, como um ser humano
- Musk afirma que há muito tempo reconhece que a AGI pode representar uma ameaça existencial significativa para a humanidade, em linha com preocupações manifestadas por Stephen Hawking e Bill Joy
- A lógica apresentada é que, quando o Google adquiriu a DeepMind em 2014, passou à frente na corrida da AGI, e Musk considerou especialmente perigoso que uma empresa fechada com fins lucrativos como o Google controlasse essa tecnologia
- Também são citados anúncios do Google/DeepMind
- O AlphaZero atingiu nível sobre-humano em xadrez, shogi e Go em 24 horas por meio de aprendizado por reforço
- É descrito como tendo vencido programas campeões mundiais em cada uma dessas áreas
Founding Agreement e a OpenAI inicial
- Segundo Musk, em 2015 Altman lhe propôs criar, em oposição ao Google, um instituto de pesquisa em IA sem fins lucrativos
- Musk, Altman e Brockman teriam concordado que o novo instituto teria as seguintes condições
- desenvolver AGI para o benefício da humanidade, e não para o interesse dos acionistas de uma empresa com fins lucrativos
- divulgar a tecnologia, salvo por razões de segurança, e não mantê-la fechada ou secreta por motivos comerciais exclusivos
- O certificado de constituição da OpenAI, Inc., datado de 8 de dezembro de 2015, é apresentado como contendo a formulação de que a tecnologia resultante beneficiaria o público e, quando aplicável, seria open source em prol do interesse público, e que a organização não foi criada para o ganho privado de qualquer pessoa
- Musk afirma que, confiando no Founding Agreement, forneceu mais da metade do financiamento da OpenAI em seus primeiros anos, aconselhou a direção de pesquisa e teve papel central no recrutamento de cientistas e engenheiros, incluindo Ilya Sutskever
- A explicação é que as pesquisas iniciais da OpenAI foram conduzidas com acesso público gratuito a arquiteturas, modelos e código, e que, após a divulgação de modelos de linguagem baseados em Transformer, as comunidades open source e comercial se expandiram
Licença com a Microsoft e a questão do GPT-4
- Altman tornou-se CEO da OpenAI, Inc. em 2019, e em 22 de setembro de 2020 a OpenAI firmou com a Microsoft um contrato de licença exclusiva para o GPT-3
- A equipe de Musk argumenta que, no caso do GPT-3, foi publicado um artigo detalhado descrevendo a estrutura interna e os dados de treinamento, o que permitiu à comunidade criar modelos semelhantes
- A interpretação central do processo é que a licença da Microsoft se aplica apenas à tecnologia pré-AGI da OpenAI, e que a Microsoft não obteve direitos sobre AGI
- Para o GPT-4, divulgado em março de 2023, são apresentados os seguintes desempenhos
- 90º percentil no Uniform Bar Exam
- 99º percentil no GRE Verbal Assessment
- 77% no exame Advanced Sommelier
- A equipe de Musk afirma que a arquitetura interna do GPT-4 é mantida em absoluto segredo pela OpenAI e, segundo informação e crença, também pela Microsoft
- Também é apontado que não existe artigo científico descrevendo o projeto do GPT-4, apenas comunicados à imprensa promovendo seu desempenho
- A alegação é que o GPT-4 foi fechado em benefício dos interesses comerciais exclusivos da OpenAI e da Microsoft e, na prática, tornou-se um algoritmo proprietário da Microsoft, integrado à suíte de produtos Office
Crise no conselho em 2023 e objetivo do processo
- A equipe de Musk sustenta que o GPT-4 é um algoritmo de AGI e está fora do escopo da licença exclusiva concedida à Microsoft em 2020
- Cita-se que pesquisadores da Microsoft declararam publicamente que, considerando a amplitude e a profundidade das capacidades do GPT-4, ele pode ser razoavelmente visto como “um sistema de AGI inicial, ainda que incompleto”
- Também está incluída a afirmação de que a OpenAI desenvolve um modelo conhecido como Q* ou Q star, o que daria base ainda mais forte à alegação de que a empresa atingiu AGI
- Em 17 de novembro de 2023, o conselho da OpenAI, Inc. demitiu Altman alegando que ele “não foi consistentemente sincero com o conselho”
- Musk afirma que, nos dias seguintes, Altman e Brockman, com a Microsoft, usaram a influência da Microsoft sobre a OpenAI para forçar a renúncia da maioria do conselho
- Altman retornou ao cargo de CEO da OpenAI, Inc. em 21 de novembro de 2023
- Alega-se que os novos membros do conselho foram escolhidos pelo próprio Altman e aprovados pela Microsoft, e que não têm a especialização em IA necessária para julgar de forma independente se a AGI foi alcançada
- A equipe de Musk considera que a OpenAI, Inc. se transformou em uma subsidiária de fato fechada da Microsoft, a maior empresa de tecnologia do mundo, e que sob o novo conselho está desenvolvendo e aprimorando AGI para maximizar os interesses da Microsoft
- O objetivo do processo é forçar a OpenAI a seguir o Founding Agreement e a voltar à missão de desenvolver AGI para o benefício da humanidade, e não para os interesses dos réus individuais e da Microsoft
1 comentários
Comentários do Hacker News
Se a OpenAI, ao se converter em organização sem fins lucrativos, escreveu no estatuto que “a tecnologia resultante beneficiará o interesse público e, quando aplicável, buscaremos torná-la open source em prol do interesse público, e a organização não existe para o benefício privado de qualquer indivíduo”, então não parece difícil mostrar que o que ela faz agora é muito diferente do que dizia que faria originalmente
Você investiu em uma empresa open source, mas a empresa não divulgou o código e, em vez de uma tecnologia da qual todos pudessem se beneficiar, manteve tudo fechado e vendeu acesso exclusivo. Parece difícil para a OpenAI defender esse comportamento, e parece possível pedir uma grande indenização pelo dinheiro que investidores gastaram para tentar alcançá-la
Só por essa redação, parece muito difícil dizer que a OpenAI está fazendo algo totalmente diferente do que afirmava no início. O objetivo declarado é financiar P&D em tecnologia de IA; não diz que a tecnologia “pertence” ao público, e sim que “beneficiará o interesse público”, e a divulgação também é limitada ao caso em que for “aplicável”
Também não é ilegal uma entidade sem fins lucrativos ter subsidiárias com fins lucrativos e gerar receita. Muitas entidades sem fins lucrativos obtêm parte substancial de sua receita anual de atividades com fins lucrativos, e essas subsidiárias ou atividades pagam imposto de renda. Basta que essa receita vá para a entidade-mãe sem fins lucrativos e seja usada para seus objetivos sem fins lucrativos, e é isso que parece estar acontecendo aqui. A questão de benefício privado só surge quando diretores ou funcionários recebem benefícios excessivos, como salários ou benefícios acima do padrão de mercado
Para evitar confusão: não estou falando dos parágrafos 127, mas sim 126, 132 e 135. A petição diz que, em razão das violações dos réus, os autores sofreram danos em valor ainda desconhecido, mas muito superior ao mínimo jurisdicional de US$ 35.000, e que poderão prová-los no julgamento, se necessário
Mesmo que esse processo não seja extinto, o resultado final pode acabar sendo apenas a OpenAI pagar aos autores algo equivalente ao valor investido por eles e fazer um acordo. Segundo essa petição, todos nós seríamos terceiros beneficiários do acordo fundador, mas é difícil acreditar que nós realmente receberíamos alguma compensação num acordo real. Os autores claramente querem seu dinheiro de volta e não parecem ter escrúpulos em invocar “o público” como terceiro beneficiário para conseguir um reembolso. Na prática, o interesse deles pelo “público” é duvidoso
Se houver resultado de uma investigação da SEC sobre falsas declarações feitas por Altman a investidores, isso também pode ajudar esses autores
Seja qual for a razão, ressentimento por ter saído cedo demais do barco e perdido a oportunidade ou tentativa de falar em nome da humanidade, há conteúdo aí que precisa ser tratado publicamente, e o tribunal parece o melhor lugar para isso
A sensação é que a Microsoft só está abusando da parceria para impedir que outras empresas tenham acesso à propriedade intelectual. Ela já disse que conseguiu tudo de que precisava e que não precisa da parceria, então também não parece haver motivo para mantê-la
Se a Microsoft estiver abusando da parceria dessa forma, a nova colaboração da Mistral também não parece boa. Isso mesmo que ela ganhe recursos computacionais ilimitados e mantenha a liberdade de tornar seus modelos open source
Agora, o fato de o Mistral Large também não ser um modelo open source parece amargo. Também fico curioso se esse processo foi o motivo de ele ter olhado para o Windows 11
Pelas declarações públicas dele sobre IA, isso parece algo anunciado há muito tempo. O objetivo ao investir na OpenAI era acompanhar de perto o desenvolvimento de IA e, independentemente de acreditar ou não nas falas públicas dele, sinto que existe algum grau de sinceridade nas falas do Elon sobre IA
Ela até poderia divulgar os modelos e vender a API, mas seria difícil oferecer o serviço tão barato quanto empresas como Google/Microsoft/Amazon, que têm vantagem em economia de escala de nuvem, preço de GPU e chips personalizados de inferência
Para vender o modelo em si, não dá para distribuí-lo de graça. Diferentemente de código open source, ainda não parece existir um mercado estabelecido de vendas adicionais, como suporte
De qualquer forma, ele provavelmente não achava que o braço com fins lucrativos viraria uma máquina de imprimir dinheiro
A essência da petição é que Musk fundou e financiou a OpenAI, Inc. com Altman e Brockman confiando no acordo fundador de que a AGI beneficiaria a humanidade, e não uma empresa com fins lucrativos, mas que, em 2023, sua contribuição foi distorcida para beneficiar os réus e a maior empresa do mundo
A analogia também é forte. Seria como doar a uma entidade sem fins lucrativos para proteger a floresta amazônica, e essa entidade usar o fruto das doações para criar uma madeireira com fins lucrativos que derruba a floresta. Também se alega que ele forneceu dezenas de milhões de dólares, além de tempo e recursos, sob a condição de que a OpenAI estivesse irrevogavelmente comprometida em construir uma AGI segura e open source para o interesse público, mas depois abandonou essa missão sem fins lucrativos “irrevogável”, deixou de compartilhar informações publicamente e passou a fornecer e licenciar de forma exclusiva seus algoritmos de AGI para a maior empresa com fins lucrativos do mundo
Enquanto pesquisava a estrutura e a governança corporativa peculiares da OpenAI, encontrei alguns materiais interessantes
OpenAI’s Hybrid Governance: Overcoming AI Corporate Challenges - https://aminiconant.com/openais-hybrid-governance-overcoming...
Nonprofit Law Prof Blog | The OpenAI Corporate Structure - https://lawprofessors.typepad.com/nonprofit/2024/01/the-open...
Artigo de pesquisa AI is Testing the Limits of Corporate Governance - https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4693045
OpenAI and the Value of Governance - https://www.glasslewis.com/openai-and-the-value-of-governanc...
A questão central da OpenAI é que, estruturalmente, os custos de coleta de dados e treinamento de modelos são enormes, a ponto de fazer até modelos de negócio da geração anterior que combinavam software + operação física, como Uber ou Airbnb, parecerem baratos de operar em comparação. Por isso, a OAI acaba ficando mais dependente de provedores de nuvem para computação
Além disso, seu moat defensivo e seus efeitos de rede também dependem de uma oferta mais indireta, baseada em conteúdo gerado por usuários. Como alguns dos textos acima argumentam, o status de organização sem fins lucrativos pode até trazer vantagens para usar propriedade intelectual no treinamento
Este processo alega violação de um “acordo de fundação”, mas não existe um documento real chamado Founding Agreement; só há e-mails que seriam supostamente parte disso
Não sou especialista em direito, mas, considerando que existe um estatuto social, fico em dúvida se esses e-mails teriam tanto peso agora. A petição também menciona o estatuto, mas faz muito mais referência ao “acordo de fundação” sugerido pelos e-mails
Além disso, a parte que diz que o GPT-4 é AGI parece um tanto exagerada. O Elon talvez tenha chance de vencer no ponto de reaver doações, na medida em que levantou recursos prometendo um objetivo específico e depois isso mudou
Mas o objetivo desse processo claramente é restaurar o “Open” de “OpenAI”, compartilhando mais informações sobre o GPT-4 e os modelos posteriores e eliminando a licença exclusiva da Microsoft. Se isso será possível por meio dessa ação, no fim parece depender da interpretação do estatuto
Também certamente já houve casos em que alguém foi responsabilizado juridicamente por responder de um jeito em e-mail e agir de forma oposta depois
O estatuto será o principal documento jurídico, mas o acordo de fundação é importante para mostrar a intenção e a motivação originais das partes. Isso é o que cria a base do caso de que houve algum fator que levou Altman a desviar a empresa para outra direção
Não acho injusto dizer que o Altman manipulou a empresa. A demissão de Altman parece ter sido uma estratégia para expor membros do conselho com inclinação anti-Microsoft, e, depois que eles foram identificados, parecem ter sido facilmente removidos após a volta de Altman. Se Altman não estivesse controlando a situação, não haveria motivo para ele ser recontratado depois da demissão
[1] https://www.youtube.com/watch?v=0hWZJg_nda4
A petição afirma que o GPT-4 não só adquiriu capacidade de raciocínio, como raciocina melhor do que um humano médio, tendo ficado no percentil 90 no Uniform Bar Exam para advogados, no percentil 99 na seção verbal do GRE e obtido 77% no exame Advanced Sommelier
Porém, pode-se argumentar que o ponto em comum entre esses exames é que eles testam memória, e que o desempenho acima da média do GPT-4 não é necessariamente evidência de raciocínio. Ou seja, o GPT-4 pode não ter “entendimento”, mas sim uma velocidade de leitura enorme e grande capacidade de retenção, isto é, memória
Enquanto a preparação para esses exames depende bastante de memorização, outros exames podem dar mais peso a raciocínio e compreensão. Certamente há provas nas quais o GPT-4 reprovaria, mas só foram divulgados os resultados positivos do GPT-4 em exames
https://freeman.vc/notes/reasoning-vs-memorization-in-llms
Até poucos anos atrás, seria absurdo imaginar uma máquina tirando sequer nota de dois dígitos em exames assim. O simples fato de uma máquina conseguir passar em qualquer uma dessas provas já é surpreendente
Se já virou algo banal obter nota de aprovação em alguns exames de entrada para profissões, sinceramente isso é até um pouco decepcionante. Percentil 99 no GRE verbal teria chocado um pesquisador de processamento de linguagem natural em 2010; se agora isso é tratado como “não é raciocínio”, então estamos apenas mudando continuamente o critério do que conta como raciocínio
O exame Advanced Sommelier é parte de um processo que inclui outras provas e etapas; a seção verbal do GRE normalmente é feita junto com outras seções do GRE para admissão em programas, e depois ainda podem ser necessários anos adicionais de estudo. O UBE também costuma ser feito após anos de estudo em um curso aprovado
Os autores da ação precisam sustentar que o GPT-4 é AGI. Isso porque o acordo em questão, que teria dado origem à OpenAI, girava em torno de AGI, e não apenas do desenvolvimento e aprimoramento de um grande modelo de linguagem. Se a OpenAI ainda não alcançou AGI, então pode-se entender que esse acordo não se aplica ao que ela faz hoje
Mas confiança é o que não falta
Está claro que a OpenAI se tornou algo diferente do que pretendia ser em sua fundação. Essa mudança pode ter ocorrido por bons motivos, mas é difícil duvidar do fato de que houve uma mudança
Em justiça, também é verdade que essa expectativa provavelmente estava ligada à expectativa de cumprir o objetivo público de desenvolver alguma forma de AGI
Parece parecido com processar o Google por ter tirado “Don’t be evil” de seu lema
Ainda acho que Musk parece irritado por motivos mais mesquinhos do que os que ele alega, mas mesmo assim fico realmente contente que ele tenha entrado com esta ação
Está bem claro que a OpenAI acabou sendo vendida em grande parte para uma das empresas mais perigosas e irresponsáveis do planeta e, dado o porte da organização, seria preciso alguém com esse nível de dinheiro para ao menos criar alguma possibilidade de responsabilização
Ainda assim, concordo com a avaliação de que ele provavelmente entrou nisso por motivos mesquinhos
Um advogado competente colocaria Musk no banco das testemunhas para fazê-lo repetir suas opiniões sobre os perigos da IA
Se a tecnologia é realmente perigosa, pode-se argumentar que mantê-la mais fechada atende ao interesse público, e a OpenAI já apresentou esse tipo de justificativa antes
Não concordo que código fechado seja do interesse público, mas é perfeitamente possível argumentar que acelerar a velocidade com que agentes mal-intencionados alcançam isso não é algo positivo
Para obter as melhores informações sobre o risco real e como responder a ele, isso precisa ser aberto. Caso contrário, quem fizer a mesma coisa de forma fechada terá ainda mais vantagem ao explorar isso
Ainda assim, é muito improvável que o tribunal vá decidir o que é mais seguro, abertura ou fechamento. O acordo de fundação parece bastante claro ao indicar uma intenção de divulgar por razões de segurança. O tribunal decide se houve violação contratual, não se a violação foi filosoficamente uma boa ideia
Ou se persegue o objetivo aberto, como o nome sugere, ou então a própria estrutura inicial era inadequada desde o começo
Segundo uma matéria do New York Times, Musk criticou repetidamente a OpenAI por ter se tornado uma empresa com fins lucrativos, mas em 2017 ele teria elaborado um plano para tirar de Altman e dos outros fundadores o controle do laboratório de IA e transformá-lo em uma operação comercial que colaboraria com suas outras empresas, como a Tesla, e aproveitaria supercomputadores cada vez mais poderosos
A explicação é que ele deixou o conselho da OpenAI quando sua tentativa de tomar o controle fracassou; se isso for verdade, parece que os advogados da OpenAI podem amarrar esse processo por muito tempo
Se a organização sem fins lucrativos tivesse feito direito o que deveria fazer, ele nem teria precisado tentar tomar o controle
Em processos assim, não é preciso provar danos? Se a OpenAI realmente violou o contrato, qual foi o dano sofrido pessoalmente por Musk
Claro, isso depende dos detalhes do investimento escritos no contrato e da legislação aplicável, e eu não conheço bem nenhum dos dois
https://www.courthousenews.com/wp-content/uploads/2024/02/mu...