- O ex-pesquisador Suchir Balaji, citado como potencial testemunha e detentor de materiais no processo de direitos autorais contra a OpenAI, foi encontrado morto em sua casa em San Francisco em 26 de novembro, e as autoridades classificaram a morte como suicídio
- Antes de morrer, Balaji criticou publicamente a OpenAI, dizendo que a empresa violou a lei de direitos autorais dos EUA no processo de treinamento do ChatGPT e que o uso dos dados de treinamento não se enquadra em uso justo
- Em documento apresentado à corte federal em 18 de novembro, advogados do New York Times identificaram Balaji como alguém que possuía “unique and relevant documents” que poderiam ajudar no processo
- Após o lançamento do ChatGPT, escritores, programadores e veículos de imprensa processaram a OpenAI, alegando que ela usou ilegalmente materiais protegidos por direitos autorais no treinamento; o Mercury News, sete veículos irmãos e o New York Times também participam
- A OpenAI rebate dizendo que seu trabalho é legal sob a doutrina de uso justo e que ferramentas de IA como o ChatGPT podem fortalecer a relação entre editoras e leitores, além de melhorar a experiência com notícias
Morte de Suchir Balaji e conclusão das autoridades
- O ex-pesquisador da OpenAI Suchir Balaji foi encontrado morto aos 26 anos em 26 de novembro em seu apartamento na Buchanan Street, em San Francisco
- A polícia foi enviada à residência em Lower Haight por volta das 13h daquele dia
- O motivo da ida foi uma solicitação para verificar seu bem-estar
- A polícia de San Francisco e o escritório do legista-chefe confirmaram a morte nesta semana
- O escritório do legista concluiu que a causa da morte foi suicídio
- A polícia afirmou que, no momento, não há evidências de crime
- Enquanto lamentava a morte do filho, a mãe de Balaji pediu respeito à privacidade
Papel no processo de direitos autorais contra a OpenAI
- Esperava-se que as informações de Balaji tivessem papel importante no processo contra a OpenAI, sediada em San Francisco
- Em documento apresentado à corte federal em 18 de novembro, advogados do New York Times identificaram Balaji como alguém que possuía “unique and relevant documents” úteis no processo contra a OpenAI
- Antes do procedimento de depoimento, ele era uma das pelo menos 12 pessoas citadas em documentos judiciais como detentoras de materiais úteis para o caso
- Muitas delas eram ex-funcionários e funcionários atuais da OpenAI
Questionamentos sobre os dados de treinamento do ChatGPT
- A morte de Balaji ocorreu três meses depois de ele criticar publicamente a OpenAI por violar a lei de direitos autorais dos EUA durante o desenvolvimento do ChatGPT
- O ChatGPT é um programa de IA generativa usado por centenas de milhões de pessoas no mundo e foi lançado no fim de 2022
- Em entrevista ao New York Times publicada em 23 de outubro, ele afirmou que a OpenAI prejudica empresas e fundadores que são os proprietários originais dos dados usados no treinamento do ChatGPT
- Balaji disse: “Se você acredita no que eu acredito, precisa simplesmente deixar a empresa” e também afirmou: “Não é um modelo sustentável para todo o ecossistema da internet”
- No fim de outubro, publicou em seu site pessoal uma análise defendendo que o uso dos dados de treinamento do ChatGPT não se enquadra em uso justo
- Ele escreveu que era difícil encontrar fatores que favorecessem o uso justo nesse caso
- Acrescentou, porém, que esse argumento não se limita ao ChatGPT e pode se aplicar de forma semelhante a produtos de IA generativa em várias áreas
Período na OpenAI e mudança de visão
- Balaji cresceu em Cupertino e estudou ciência da computação na UC Berkeley
- Na época, ele acreditava nos potenciais benefícios que a IA poderia trazer à sociedade e também via possibilidades como cura de doenças e prevenção do envelhecimento
- Entrou na OpenAI como pesquisador em 2020
- A partir de 2022, sua visão começou a se tornar negativa
- Ele passou a se preocupar especialmente com o trabalho de coleta de dados da internet para o programa GPT-4
- Segundo relatos, esse programa analisou texto de quase toda a internet para treinar a IA
- Balaji entendia que essa prática entrava em conflito com a lei dos EUA sobre uso justo, que regula o uso de publicações existentes
Processos contra a OpenAI e veículos de imprensa
- Desde o lançamento do ChatGPT no fim de 2022, uma série de processos foi movida contra a OpenAI
- Escritores, programadores de computador e jornalistas afirmam que a OpenAI tomou ilegalmente materiais protegidos por direitos autorais para treinar seus programas e elevou o valor da empresa para mais de US$ 150 bilhões
- O Mercury News e sete veículos de notícias irmãos processaram a OpenAI no último ano, junto com vários jornais, incluindo o New York Times
- Os veículos de imprensa alegam que a OpenAI e a Microsoft plagiaram e roubaram artigos, enfraquecendo o modelo de negócios das notícias
- Os documentos do processo afirmam que Microsoft e OpenAI usam o trabalho de repórteres, colunistas e editores que produzem notícias das quais as comunidades dependem, sem considerar seus direitos legais
- A Microsoft tem relação comercial com a OpenAI e também é alvo do processo movido pelo Mercury News
Contestação da OpenAI e expansão da IA generativa
- A OpenAI rejeita energicamente essas alegações
- A empresa enfatiza que todo o seu trabalho é legal sob a lei de uso justo
- Quando os processos foram apresentados, a OpenAI afirmou que ferramentas de IA como o ChatGPT têm grande potencial para aprofundar a relação entre editoras e leitores e melhorar a experiência com notícias
- Programas de IA generativa funcionam analisando enormes volumes de dados da internet e, depois, respondendo a prompts de usuários ou gerando texto, imagens e vídeo
- O lançamento do ChatGPT acelerou rapidamente o crescimento de uma indústria de empresas focadas em escrever ensaios, criar arte e gerar código
- Muitas das empresas mais valiosas do mundo atuam na área de IA ou fabricam os chips de computador necessários para executar esses programas
- O valor de mercado da OpenAI quase dobrou ao longo do último ano
Informações de apoio em crise
- Pessoas que enfrentam depressão ou pensamentos suicidas podem receber apoio gratuito 24 horas, informações e recursos na 988 Suicide & Crisis Lifeline
- É possível entrar em contato pelo número 988 por ligação ou mensagem de texto, e também conversar pelo site 988lifeline.org
1 comentários
Opiniões do Hacker News
Fui parceiro de projeto do Suchir em uma disciplina de CS em Berkeley (sistemas operacionais), e ele era realmente inteligente, humilde e uma boa pessoa.
Parecia claro que ele faria grandes coisas no futuro; é algo terrível demais.
Vejo alguns comentários bastante frios nesta thread.
Suchir tinha só 26 anos e havia se formado em Berkeley havia apenas 3 anos. O site pessoal dele é https://suchir.net/.
Acho bastante corajoso alguém que se formou há poucos anos enfrentar uma injustiça supostamente cometida por uma das maiores empresas do mundo. Não sei quantas pessoas, na mesma situação, fariam isso.
Meu coração fica com a família. Ele claramente era um engenheiro talentoso, e o histórico de prêmios em programação competitiva no LinkedIn também impressiona. Imagino que ele também tivesse uma conta no HN.
Antes de escrever sobre a definição de denunciante ou teorias de assassinato, gostaria que as pessoas pensassem por um momento se gostariam de ver esse tipo de texto caso elas mesmas ou um amigo estivessem na mesma situação.
Se eu tivesse encerrado minha vida em silêncio por conta própria, gostaria que isso passasse em silêncio; mas, só pela matéria, não fica claro quão central essa pessoa era para o processo que se aproximava.
Há uma frase dizendo que “as informações que ele possuía eram esperadas para ter um papel central no processo contra a empresa sediada em San Francisco”.
É realmente triste que isso tenha se tornado o legado público dele. Ele certamente era uma pessoa brilhante e, se tivesse vivido mais algumas décadas, teria ajudado muito a mudar o mundo para melhor.
Dito isso, teorias de assassinato são literalmente apenas teorias; em sentido estrito, até chamá-las de “teoria” é forte demais. Na prática, estão no nível de boato, e, como não há nenhuma ponta por onde puxar, esse caminho parece pouco produtivo.
Em qualquer fórum da internet sempre há algumas falas grosseiras, mas essas já foram empurradas para baixo.
Que descanse em paz.
Aqui, o termo “denunciante” me deixa um pouco confuso. Ele de fato revelou algo que não era público?
Parece que ele discordava de a prática ser “uso justo” e recebeu atenção por ser alguém de dentro da empresa. Os fatos em si sempre foram conhecidos, e também era sabido que a OpenAI treinou com dados de texto protegidos por direitos autorais disponíveis publicamente. Acho que daria para chamá-lo de opositor ou crítico interno.
É bem provável que também tivesse comunicações internas sobre a legalidade do próprio trabalho, e ele vinha questionando abertamente seus superiores sobre essa questão.
http://suchir.net/fair_use.html
Texto de Suchir Balaji, quando a IA generativa se enquadra em uso justo
Ele explicou que abordou uso justo e IA generativa em uma matéria do NYT, e que escreveu em detalhes em um post no blog (https://suchir.net/fair_use.html) por que acredita que, em muitos produtos de IA generativa, “uso justo” dificilmente seria uma defesa convincente.
Disse que trabalhou na OpenAI por quase 4 anos, sendo o último 1,5 ano no ChatGPT, e que no começo não sabia muito sobre direitos autorais e uso justo, mas passou a se interessar ao ver processos contra empresas de IA generativa. Depois de analisar mais a fundo, concluiu que, pelo motivo básico de esses produtos poderem criar substitutos que competem com os dados de treinamento, a defesa de uso justo é bastante difícil para muitos produtos de IA generativa.
Disse ainda que não é advogado, mas considera importante que não juristas também entendam o texto da lei e por que ela existe; e que não queria que essa questão fosse lida como uma crítica apenas ao ChatGPT ou à OpenAI. Enfatizou que pesquisadores de machine learning precisam aprender mais sobre direitos autorais, e que precedentes frequentemente citados, como o Google Books, talvez não sejam tão favoráveis quanto parecem à primeira vista.
Para alguém que não era advogado, parecia muito perspicaz. Que descanse em paz.
Primeiro, autores na prática não obtêm receita com royalties de direitos autorais e acabam dependendo de receita publicitária, o que leva à deterioração do serviço. Artistas, redatores e músicos morreriam de fome se tentassem viver apenas de royalties.
Segundo, os direitos autorais estão cada vez mais concentrados nas mãos de poucas empresas e não trazem grandes benefícios aos autores ou leitores reais.
Terceiro, o concorrente de novas criações, na verdade, não é a IA, mas as criações antigas acumuladas na web nos últimos 25 anos.
O que é necessário não é um direito autoral mais restritivo, na minha opinião. As pessoas já migraram do consumo passivo para a interação e preferem jogos, redes sociais e mecanismos de busca a TV, imprensa e rádio. É uma tendência criada pela internet e não dá para voltar atrás.
Hoje temos Wikipedia, GitHub, Linux, open source, domínio público, publicação científica aberta e um ambiente sem restrições para compartilhamento e comentários.
Se levarmos a proteção dos direitos autorais ao extremo, a conclusão será que devemos proteger não apenas expressões, mas também ideias abstratas, porque a IA generativa consegue contornar facilmente a expressão. Mas impedir a reutilização de abstrações seria desastroso para a criação. A meu ver, o direito autoral é hoje, na prática, uma instituição moribunda.
A polícia agora diz que a conclusão foi suicídio
https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...
Suchir era uma pessoa de princípios, e é bem provável que tenha tido de abrir mão de suas opções da OpenAI por causa dessa posição. Há relatos de que o contrato de saída da OpenAI era muito restritivo [1]
“Ex-funcionários são impedidos de criticar seu antigo empregador pelo resto da vida. Até reconhecer a existência do NDA é uma violação
Se um funcionário que está saindo se recusar a assinar os documentos ou violá-los, poderá perder todo o equity já adquirido durante o período na empresa, que provavelmente vale milhões de dólares”
[1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...
Chega a parecer que consideram contagioso até tornar pública a causa da morte de um denunciante
É realmente ridículo que a OpenAI tenha tanto medo de críticas. Estão agindo como uma criança fazendo birra quando as coisas não saem do seu jeito, e é preciso lembrar sempre que, pela idade, quem faz isso são adultos
Independentemente de o funcionário ter assinado ou não um acordo de desligamento ou um acordo de não difamação, o equity já adquirido não será cancelado
Ex-funcionários foram liberados das obrigações de não difamação
A OpenAI informou funcionários atuais e antigos que “nunca cancelou unidades já adquiridas e não o fará no futuro”
https://www.theregister.com/2024/05/24/openai_contract_staff...
https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
Digo “cômico” porque empresas às vezes tentam empurrar cláusulas pequenas e depois pedem desculpas, mas dizer que alguém está preso pelo resto da vida é nível comédia
Meus sentimentos à família. Ele parece ter sido uma pessoa muito ponderada e de princípios
Muito triste. Suchir estudou no meu ensino médio, e nós dois fomos para Berkeley. Ele claramente era muito inteligente, e eu sempre tive certeza de que teria muito sucesso ou faria algo interessante
Se você está tendo dificuldade ao ler isto, quero dizer que você não está sozinho. Mesmo que agora não pareça, o mundo deseja sinceramente que você seja feliz
O caminho está aberto: Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
[0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
[1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
[2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...
Os pais dele duvidam da conclusão de suicídio e encomendaram uma segunda autópsia independente: https://sfist.com/2024/12/26/parents-of-openai-whistleblower...
É realmente muito triste, e meu coração fica com a família e os amigos de Suchir
Como alguém que trabalha no setor de tecnologia há mais de 10 anos e já lutou contra pensamentos suicidas, fico me perguntando se a cultura insana do setor de tecnologia da Bay Area teve alguma participação nisso
Não é só a cultura extrema do hustle; há também um otimismo tecnológico ingênuo que pode enlouquecer uma pessoa. Você fica cercado de gente que acha que tudo bem violar a lei, que explora trabalhadores de países em desenvolvimento em troca de suporte técnico barato, e ainda assim acredita que está mudando o mundo vendendo eletrodomésticos inteligentes para a cozinha. Tudo isso enquanto passa por vítimas de overdose do lado de fora do próprio condomínio
Essa mentalidade é tão difundida que faz você se perguntar se o estranho é você por ter empatia ou senso de justiça
Não sei de nada em particular, mas imagino que a transição de um estudante claramente brilhante de Berkeley para uma startup implacável como a OpenAI tenha sido chocante. É como chegar ao objetivo pelo qual você se esforçou a vida inteira e descobrir que o trabalho que faz está completamente desalinhado com sua moral e seus valores
Isso mesmo que o empregador que causou o problema não retalie ativamente; e, se houver retaliação do tipo departamentos de RH do mesmo setor compartilhando listas negras entre si, as perspectivas ficam ainda mais sombrias
A síndrome do impostor é alta entre engenheiros de todos os níveis de carreira e habilidade. Há a pressão da própria engenharia, somada a outros motivos pelos quais as pessoas sentem estresse ou pressão, além dos fatores amplificadores específicos da Bay Area
Você ficaria surpreso ao saber quantas pessoas brilhantes e competentes já desmoronaram. Se alguém está se sentindo sozinho, espero que não se sinta assim. Mesmo que todos ao seu redor pareçam felizes e confiantes, posso garantir que muito mais gente do que você imagina está passando por dificuldades
Uma delas está agora sendo processada pela FTC por grandes violações. Eu detestava aquela mentalidade imoral de sacrificar tudo para vencer, desde o conforto dos funcionários até ilegalidades descaradas contra os clientes