OpenAI suspende conta da ByteDance após uso do GPT para treinar seu próprio modelo de IA

• A OpenAI suspendeu a conta da ByteDance
• A ByteDance teria usado o GPT para ajudar a treinar seu próprio modelo concorrente na China
• O porta-voz da OpenAI, Niko Felix, afirmou que os clientes da API devem usar a tecnologia para o bem e anunciou que, embora o uso da API pela ByteDance tenha sido limitado, a conta foi suspensa para investigação
• A ByteDance realizou a maior parte do uso do GPT por meio da plataforma Azure, da Microsoft, e ainda não está claro se a Microsoft, assim como a OpenAI, suspenderá o acesso da ByteDance

Opinião do GN⁺

• Este artigo destaca questões éticas relacionadas ao uso de tecnologia de inteligência artificial e a importância da propriedade intelectual.
• A conduta da ByteDance mostra como a concorrência e a inovação no setor de tecnologia podem, às vezes, testar limites legais e morais.
• Este caso também envia um alerta a outras empresas, lembrando que, ao usar tecnologias de IA, é preciso cumprir políticas de uso e termos de licenciamento com clareza.

[GN⁺]

Opiniões do Hacker News

• Dois pesos e duas medidas em relação à violação de direitos autorais

  Um usuário apontou que é hipócrita a OpenAI usar trabalhos protegidos por direitos autorais de outras pessoas enquanto nega a terceiros a mesma possibilidade em relação ao próprio trabalho. Partindo do princípio de que não tem conhecimento jurídico, disse se sentir confuso sobre a diferença entre moral e lei.

• Uma versão extrema dos direitos autorais

  Critica-se o fato de a OpenAI poder usar imagens e textos do mundo inteiro como dados de treinamento, enquanto dentro do próprio sistema os concorrentes não podem fazer o mesmo, chamando isso da versão mais quebrada de direitos autorais que se pode imaginar.

• Levantamento de questões antitruste

  Além dos direitos autorais, também foram levantadas questões antitruste. Os tribunais em geral apoiam cláusulas que proíbem engenharia reversa, mas a cópia de interfaces tende a ser mais bem aceita porque incentiva substitutos no mercado. A questão nova é se a OpenAI pode restringir o uso da saída de uma ferramenta claramente aberta aos clientes. Além disso, isso se assemelha a licenças de banco de dados que impedem clientes de publicar comparações, o que pode ser anticoncorrencial. A política antitruste costuma ser motivada principalmente em mercados maduros, onde um player domina o setor. Porém, questiona-se se a mesma análise se aplica a um mercado em crescimento. Se o mercado cresce rapidamente, as preocupações podem ser amenizadas porque a dominância ainda é incerta. Por outro lado, se o mercado for especialmente vulnerável à captura, líderes iniciais podem exigir mais atenção. Além do efeito primário de um monopólio na redução da concorrência, um efeito secundário pode ser a queda do investimento em concorrentes, gerando efeitos anticoncorrenciais. Essas preocupações podem ser maiores justamente no início do mercado. Houve curiosidade sobre a existência de algum blog jurídico de advogados sobre o tema.

• Bloqueio de concorrentes e parceria com o pior jornal da Alemanha

  Foi apontado que a OpenAI está bloqueando concorrentes, fazendo parceria com o pior jornal da Alemanha, e que a MS tem assento no conselho da OpenAI. A observação sugere ironicamente que o retorno de Altman está indo muito bem.

• Política de uso da API e uso 'benéfico' da tecnologia

  Foi mencionado que a ByteDance usou a API da OpenAI de forma mínima, mas a OpenAI suspendeu sua conta para investigação adicional. A OpenAI enfatiza que todos os clientes da API devem cumprir as políticas de uso que exigem o uso da tecnologia para fins "benéficos". Aponta-se que a palavra "benéfico" soa positiva para muita gente, mas sempre existe uma zona cinzenta que para alguns pode parecer maligna.

• Discussão sobre uso indevido em uma plataforma interna de comunicação

  Alguém afirmou ter testemunhado funcionários da ByteDance discutindo no Lark, plataforma interna de comunicação, "como diluir as evidências". Também foi mencionado que o uso indevido era tão disseminado que funcionários do Project Seed atingiam regularmente o limite de acesso à API. Ao se perguntar por que outros modelos parecem alcançar o GPT-3.5 rapidamente, mas não superar o GPT-4, o comentário aconselha lembrar da possibilidade de eles estarem apenas treinando com saídas do GPT-3.5, ou simplesmente mentindo.

• Bootstrap usando modelos de grandes players

  Quando o IBM Watson era a grande novidade do momento, houve quem se perguntasse como seria fácil usar modelos de grandes players para dar bootstrap no próprio modelo. Com a chegada da OpenAI, parecia que isso não seria mais necessário, mas a situação mudou quando a empresa decidiu não divulgar mais seus modelos. Ainda assim, o Llama e muitos outros continuam levando essa tocha adiante. Isso parece um jeito interessante de melhorar modelos.

• A impossibilidade de impedir a extração de modelos

  Aponta-se que, se a ByteDance ou qualquer outra empresa tiver motivação suficiente para tentar extrair os modelos da OpenAI, isso não poderá ser impedido. Também seria possível terceirizar a coleta de dados para outras pessoas.

• Pergunta sobre como treinar e copiar um modelo via API

  Um usuário pediu que explicassem como alguém poderia usar um modelo existente como o ChatGPT, acessível apenas por API, para treinar o próprio modelo e como poderia copiar aspectos dele. Disse não ter uma compreensão intuitiva de como começar uma lista de prompts cobrindo todo o conhecimento, nem de como distinguir saídas úteis de alucinações sem sentido. Também sente que está deixando passar detalhes importantes que o artigo e os links não explicam.

• Sátira sobre o motivo de a OpenAI ter suspendido a conta da ByteDance

  Sobre a suspensão da conta da ByteDance por treinar seu próprio modelo de IA usando GPT, um comentário ironizou que isso é como uma criança que roubou doces de uma loja reclamar que o irmão mais novo roubou aqueles mesmos doces.