- Ele avalia positivamente o uso de código open source no treinamento de IA, descrevendo isso como “um processo que amplifica o valor de um presente dado ao mundo”
- Alguns veem o open source como um meio de mudança social ou de construção de reputação, mas a posição dele é que sua essência é um ‘ato de doação’ compartilhado livremente
- Em resposta, outros desenvolvedores apontam como problema a estrutura em que grandes empresas não devolvem nada e o aumento do desgaste dos contribuidores
- Vários participantes discutem, sob diferentes perspectivas, a relação entre IA e open source, o papel da GPL e as mudanças no ecossistema causadas pela IA
- De forma geral, a combinação entre open source e IA é vista como um movimento que amplia o acesso ao desenvolvimento e acelera a disseminação da criação
A fala de John Carmack e os principais argumentos
- Carmack descreveu os mais de 1 milhão de linhas de código open source que publicou como “um presente dado ao mundo”
- Explicou que a GPL era um mecanismo para impedir a exploração por concorrentes, mas que sua essência era um meio de permitir o compartilhamento
- Enfatizou que, quando a IA aprende com esse código, o valor do presente se expande
- Ele afirma que “o treinamento de IA não entra em conflito com o espírito do open source”
- Mencionou que o objetivo do open source é permitir que outras pessoas aprendam e melhorem aquilo, e que o treinamento de IA está na mesma linha
Reações e debate na comunidade
- Alguns desenvolvedores levantaram a questão de que “grandes empresas recebem o presente e não devolvem nada”
- Em resposta, Carmack rebateu dizendo que “o fato de empresas receberem o presente não impede que outras pessoas também o recebam”
- Ele expressou gratidão pelo código open source do PyTorch, da Meta
- Outros participantes analisaram que “a GPL não é um presente, mas um mecanismo de proteção por meio de restrições”, e que é daí que surge o ponto de interseção entre open source e o movimento anti-IA
- Um usuário apontou que a IA aumenta a quantidade de PRs (pull requests) sem sentido, ampliando a carga sobre quem faz manutenção
A interação entre open source e IA
- Em vários comentários, houve a avaliação de que a IA está contribuindo para o crescimento do ecossistema open source
- Segundo estatísticas do GitHub, 36 milhões de desenvolvedores ingressaram no último ano, e foi mencionado que a IA acelerou esse ritmo de crescimento
- Forma-se uma estrutura cíclica em que o código open source treina a IA, e a IA, por sua vez, aumenta a produtividade de novos desenvolvedores ao escrever código
- Alguns, em contraste com a preocupação de que “a IA vai matar o open source”, disseram estar se preparando para publicar open source usando IA
Questões éticas e sociais
- Surgiu a crítica: se o treinamento de IA provocar desemprego em massa, isso ainda pode ser chamado de presente?
- Outra opinião apontou que empresas de IA estão elevando os preços do hardware e reforçando estruturas monopolistas
- Também houve quem dissesse que isso seria aceitável se os modelos fossem abertos como open source após certo período
- Alguns defenderam reforço de segurança, afirmando que a IA pode ser usada indevidamente no desenvolvimento de tecnologias destrutivas (por exemplo, armas biológicas)
Diferença de perspectiva entre criadores e desenvolvedores
- Foi apontado que desenvolvedores de software tendem a ter uma atitude positiva em relação ao uso de IA, enquanto o setor de artes visuais reage mais negativamente por temor de violação de direitos autorais
- Um desenvolvedor comentou que publicou como open source uma ferramenta para gerar jogos em Godot com IA, mas a reação da comunidade foi fria
- Ainda assim, ele enfatizou que “esse projeto em si só foi possível graças à estrutura open source do Godot”
- Alguns criadores afirmaram que não se importariam se sua música fosse usada no treinamento de IA, vendo o ciclo de influência e inspiração como parte essencial da criação
O futuro do open source e o papel da IA
- Surgiu a proposta de que, para a IA ser usada eticamente, seriam necessários modelos treinados apenas com código open source
- Outra opinião expressou preocupação de que a mediação da IA possa enfraquecer o reconhecimento das contribuições e a motivação por recompensa dos desenvolvedores
- Vários participantes avaliaram que open source e IA são, em essência, compatíveis por serem ferramentas que permitem que mais pessoas criem alguma coisa
1 comentários
Comentários do Hacker News
Antigamente, nas atividades de código aberto, não se discutia tanto monetização como hoje
Houve um caso em que alguém corrigiu um erro no Google Maps no Reddit e foi criticado por “trabalhar de graça para uma grande empresa”
Se algo foi distribuído sob uma licença aberta, é preciso respeitar claramente esses termos, e depois dizer “na verdade não era bem isso” me parece injusto
O núcleo das licenças de software livre é que qualquer pessoa pode se beneficiar, mas assume certas obrigações. Acho que as pessoas que criaram licenças como GPL e MIT são realmente admiráveis
Muitas vezes, usuários do Reddit ficam mais na rebeldia simbólica do que em ações concretas. Por isso, quando alguém faz algo produtivo, acaba sendo criticado
O problema é que a relação é unilateral. As grandes empresas de tecnologia querem maximizar lucros em vez de apoiar a comunidade
Mesmo que o Google ganhe mais 10 bilhões de dólares graças a voluntários, não acho que isso torne o mundo melhor
Entre 1977 e 2007, os EUA foram um período relativamente bom para trabalhadores assalariados, e foi aí que F/OSS cresceu
Naquela época, era natural contribuir gratuitamente no tempo livre, mas hoje a insegurança econômica eliminou essa margem
Pesquisadores recebem salário, mas o valor dos resultados só é recompensado de forma indireta. Por isso, é importante que outras pessoas reconheçam esse valor
A estrutura é de contribuição recíproca e compartilhamento de benefícios, mas as grandes empresas a transformam em uma estrutura de exploração
Mesmo que você envie correções para o Google Maps, em vez de recompensa só aumentam os anúncios e o rastreamento. Então não há motivo para trabalhar de graça para grandes empresas
Tornar jogos antigos open source é um caso especial
Pessoas com estabilidade econômica garantida têm uma postura diferente em relação à contribuição, e isso gera o efeito colateral de ficarem insensíveis à desigualdade de riqueza
Muita gente se sente desconfortável com o fato de a IA aprender com código open source para gerar lucro
Carmack diz que publicou seu código como um presente, mas empresas como Anthropic e OpenAI estão lucrando com isso
Mesmo que os autores originais não quisessem dinheiro, ignorar que terceiros ganham dinheiro com isso parece estranho
Não me importa se alguém lucra com isso. Se o mundo melhorar nem que seja um pouco, isso já basta
O cenário ideal é quando até projetos pagos conseguem contribuir para o open source
A GPL também não impede empresas de usar sem enviar patches
Equiparar as duas coisas, como Carmack faz, é impreciso
É por isso que Linus não fica bravo ao ver empresas ganhando dinheiro com Linux
Eu também contribuo para open source e, ao mesmo tempo, ganho dinheiro com IA, então tenho sentimentos conflitantes
À medida que a IA substitui trabalho, o otimismo tecnológico está se fortalecendo
Figuras como Carmack ignoram o impacto social da IA
Mesmo que apenas parte dos empregos de colarinho branco desapareça, a economia pode entrar em colapso, mas pessoas ricas não sentem esse impacto na pele
O desaparecimento de telefonistas, datilógrafos e calculistas no passado aconteceu no mesmo contexto
Dá para atrasar por um tempo, mas no fim a tecnologia avança
Quando a subsistência entra em colapso, o extremismo cresce, e isso pode ser seguido por violência política, como rejeição a imigrantes
Carmack, na verdade, não é um ativista de OSS voltado à manutenção
Ele apenas publicou código concluído, sem gerenciar uma comunidade no longo prazo
Isso continua sendo excelente, claro, mas é diferente do open source tradicional
Participação comunitária não é requisito obrigatório
Também existe a liberdade de parar a qualquer momento
Como no modelo “open core”, distribui-se de graça e cobra-se por serviços adicionais
Nesses casos, o treinamento de IA pode parecer simples apropriação indevida
Além disso, ele também fundou uma empresa de IA
Acho que a posição de Carmack foi influenciada pelos interesses da sua empresa de IA
Muitas empresas de IA lucram sem a contribuição do open source
Licenças copyleft são mecanismos para proteger bens comuns, mas a IA embaralha isso
As licenças precisam ser atualizadas para acompanhar a época
Carmack pode ser generoso porque já conquistou liberdade financeira
Quem pode viver sem trabalhar o resto da vida consegue doar código com facilidade
Mas me parece que ele tem pouca empatia
Ser rico ou não não é o ponto central
Se o objetivo é lucrar, é preciso usar outra licença
Muitas críticas à IA vêm de problemas como queda de qualidade técnica ou impacto ambiental
Se a IA aprender com código GPL e gerar código fechado, isso ameaça o ecossistema FOSS
Às vezes a IA também é útil para eliminar abstrações desnecessárias. Há uma sensação de libertação quando algo pode ser substituído por um script simples
Casos em que a IA ignora copyright devem ser tratados como casos de falha
Empresas comemoram, mas criadores se sentem ameaçados
A maior parte do FOSS não é um presente totalmente gratuito, mas embute uma estrutura de compensação
A MIT exige crédito; a GPL exige crédito e obrigação de compartilhamento
A IA se torna problemática porque remove esse crédito e reproduz o código
Só que ela ainda precisa manter compatibilidade com a GPL
Não sou contra IA, mas o ato de mudar a licença via reescrita por IA ignora o esforço humano
Treinar em cima de testes ou APIs de código existente e depois alegar que “a IA escreveu de novo” é algo próximo de roubo
Se essa prática for permitida, pode levar ao fim da propriedade intelectual
Numa era em que a IA auxilia o trabalho humano, é ainda mais importante deixar clara a titularidade das criações
Acho que tentar proteger a própria API por copyright é uma ideia perigosa