Richard Stallman revela diagnóstico de câncer em palestra do encontro de hackers GNU 40 [vídeo]
(audio-video.gnu.org)- A questão central do movimento do software livre é a liberdade de redistribuir software livre recebida pelo usuário, e os contratos de suporte da Red Hat constituem uma pressão antissocial que enfraquece essa liberdade
- Ele não conclui se os contratos de suporte da Red Hat violam a GNU General Public License, mas a prática de impedir a redistribuição do usuário por meio da possibilidade de cancelamento do contrato de suporte deve ser interrompida
- Modelos de linguagem como o ChatGPT não entendem nem sabem de fato, então chamá-los de inteligência artificial aumenta o risco de fazer as pessoas confiarem em seus resultados
- Para impedir usos nocivos da IA, não se deve restringir a liberdade de executar software por meio de licenças, mas proibir usos específicos por meio de leis aprovadas democraticamente
- A forma como os motores de recomendação funcionam para manter usuários engajados por mais tempo amplia o vício e os danos sociais, e pode afetar negativamente a geração mais jovem e a comunidade de software livre
COVID e estado de saúde
- Ele pede aos participantes que mantenham distância e usem máscara, esperando que não sofram danos permanentes por causa da COVID
- A Long COVID pode deixar brain fog por toda a vida e fadiga persistente, por isso o uso de máscara é necessário para proteger a si mesmo e aos outros
- O motivo original para tomar cuidado com a COVID era não querer perder a capacidade de continuar fazendo coisas e contribuindo
- Atualmente ele tem um tipo de câncer, lymphoma, mas é controlável, há chance de continuar vivo por vários anos, e não haverá uma grande mudança fundamental em sua vida
- Ele continua trabalhando por várias causas que apoia além do software livre, e ainda está envolvido em fazer os projetos avançarem
Contratos de suporte da Red Hat e liberdade de redistribuição
- Uma das questões enfrentadas pelo mundo do software livre é o caráter problemático dos contratos de suporte da Red Hat
- Ele não dá uma resposta definitiva sobre se esse contrato viola a GNU General Public License, mas está claro que é antissocial
- Pressionar usuários dizendo que o contrato de suporte pode ser cancelado se redistribuírem o software livre recebido da Red Hat não é moralmente diferente de declarar que o contrato será cancelado
- Cobrar suporte de acordo com o número de usuários ou de máquinas atendidas é uma questão secundária, e ele não vê isso como especialmente prejudicial
- O problema central é a tentativa de impedir que usuários redistribuam software livre, quando compartilhar e redistribuir estão próximos do próprio propósito do software livre
- Ele espera que a influência da comunidade ajude a mudar esse tipo de prática contratual da Red Hat
A confusão criada pelo nome inteligência artificial
- intelligence significa a capacidade de conhecer ou compreender um determinado domínio, portanto sistemas que não compreendem de fato não deveriam ser chamados de inteligentes
- Sistemas como o ChatGPT não entendem nada nem sabem nada, então estão mais próximos de um bullshit generator que produz saídas com aparência fluida
- A saída desses sistemas pode estar errada em qualquer parte, por isso não se pode confiar nela como está
- Dar a esses sistemas o nome de inteligência artificial faz com que as pessoas passem a acreditar em suas saídas, aumentando assim o potencial de dano
- A verdadeira inteligência artificial pode existir, e um programa que avalia com mais precisão do que médicos humanos se uma imagem ampliada de células indica câncer seria um exemplo disso
Usos nocivos da IA de verdade e motores de recomendação
- Sistemas de IA muito eficazes em capturar a atenção das pessoas são usados em anti-social media platform e funcionam bem para criar dependência nos usuários
- Sistemas que recomendam itens com maior probabilidade de aumentar o engajamento do usuário viciam as pessoas e, independentemente de funcionarem com IA ou machine learning, deveriam ser ilegais
- O impacto social desses sistemas de recomendação é terrível e desastroso, incluindo suicídios
- Para impedir que programas sejam usados de forma nociva, são necessárias leis que proíbam esse próprio tipo de uso
- É legítimo que um país democrático crie leis que proíbam a operação de plataformas voltadas à maximização de engajamento, mas não é legítimo que o criador do programa imponha isso nas licenças
Licenças de software não são ferramenta para restringir usos
- Licenças de software não são uma ferramenta adequada para impedir usos nocivos de programas, e tampouco são fortes o bastante para alcançar esse objetivo
- Como as condições de licença são escolhidas por agentes privados, deixar que agentes privados determinem quais comportamentos devem ser proibidos socialmente é antidemocrático
- A abordagem de tentar resolver os riscos da IA real restringindo as condições de execução de programas é ineficaz, não confiável e nega as liberdades que todo programa deve dar ao usuário
- Já houve antes licenças que restringiam o propósito de uso de um programa, mas essa abordagem sempre foi equivocada
- Usos realmente nocivos da IA, como deepfake, devem ser proibidos por leis criadas por governança democrática, e não por licenças feitas por indivíduos
Rotulagem de saídas de modelos de linguagem e resiliência social
- Exigir que saídas de modelos de linguagem venham com algo como “isto foi gerado por um language model, não acredite que seja verdade” pode ajudar
- Se esse tipo de exigência for necessário, também deve ser feito por meio de leis aprovadas democraticamente, e não por licenças de software
- Não chamar modelos de linguagem de inteligência artificial e esperar que suas saídas contenham erros ajuda a reduzir danos sociais
- Modelos de linguagem podem produzir frases fluidas, mas essa fluidez não garante veracidade
Geração mais jovem e software livre
- Um dos desafios enfrentados pela comunidade de software livre é como fazer os jovens se interessarem por free software
- Crianças podem se interessar por software livre, mas quando começa a pressão dos colegas pode surgir o problema de manter esse interesse
- Pessoas que já desistiram de ser populares podem estar relativamente livres da pressão dos colegas, e pode haver chance de fazê-las se interessar por software livre
- É necessário encontrar ou criar uma comunidade fora da competição superficial em que todos imitam uns aos outros
Mídia antissocial e liberdade de expressão
- Plataformas de mídia antissocial agravam a pressão dos colegas e alimentam um ambiente em que as pessoas competem entre si e fazem coisas tolas
- Entre os efeitos nocivos dessas plataformas estão transtornos psicológicos, suicídio, loucura e desconfiança séria entre as pessoas
- Se for proibido projetar motores de recomendação para aumentar a participação do usuário na plataforma, esses problemas podem ser reduzidos
- Não há motivo para permitir que empresas projetem motores de recomendação de acordo com a maximização de seus lucros
- Projetar motores de recomendação de acordo com os desejos corporativos é menos liberdade de expressão e mais liberdade de manipulação, liberdade de transformar o cérebro humano na vítima ideal
- Se forem contidas plataformas que ampliam determinada influência por meio do vício, também podem ser reduzidos alguns dos danos temidos quando certa censura invade o campo da expressão e do pensamento
1 comentários
Opiniões no Hacker News
Já que o prognóstico é bom, espero que ele se cuide bem e aguente por muito tempo.
Precisamos de absolutistas como Stallman. Deixando de lado por um momento as avaliações sobre sua personalidade, comportamento ou higiene, sem ele o mundo seria muito diferente e muito mais pobre.
Justamente agora, quando o “Free” do FOSS é substituído por “apenas open source” ou “código aberto”, quando DRM entra profundamente na vida e tudo vira um serviço hospedado, precisamos voltar aos ideais que ele apresentou e enfrentar os elementos que tentam nos controlar.
Nem todo mundo precisa ser absolutista, mas é algo pelo qual devemos ser gratos e que vale apoiar o fato de existirem pessoas assim dando continuidade a isso na comunidade FOSS do mundo todo.
No passado, cheguei a mandar um e-mail irritado porque ele não quis liberar um livro antigo de Lisp sob a licença de documentação da FSF, mas aceitei de bom grado porque entendia de onde ele vinha.
Richard, espero que você se recupere bem.
O núcleo da GPL era empoderar os usuários, mas hoje ela está fracassando de forma bastante clara. Provedores de SaaS oferecem acesso a software GPL, mas o usuário não pode decidir qual versão executar, se vai mover seus dados, ou se vai usar uma versão anterior quando uma nova versão vier com restrições injustas, cláusulas de vigilância ou preços absurdos. Agora, para a maioria, FOSS nem sequer é grátis no sentido de cerveja grátis.
A Red Hat, na prática, disse que não vai mais seguir a GPL. A estrutura é pegar código de terceiros, modificá-lo e distribuir binários, enquanto ameaça cortar o acesso ao código ou aos binários caso alguém exerça seus direitos sob a GPL.
Ironicamente, hoje as licenças BSD e Apache parecem preservar melhor a liberdade do usuário. Isso porque permitem distribuição comercial em hardware e SaaS. A GPL 3, na prática, acaba funcionando no sentido de forçar o modelo de negócio *aaS.
Espero que RMS se recupere logo, mas é bem desanimador ver a GPL ter seguido esse rumo.
Enviei um e-mail para Stallman sobre isso e recebi uma resposta.
O conteúdo era algo como: “Parabéns pelos 40 anos do GNU; não pude ir ao encontro GNU40, mas ouvi rumores de que você está com câncer; gostaria de saber se pode contar mais e se é algo administrável; espero que continue conosco por muito tempo.”
Stallman primeiro anexou sua assinatura habitual, pedindo a agentes da NSA e do FBI que pensem se seguir o exemplo de Snowden é uma forma de defender a Constituição dos EUA, e respondeu que agradecia a preocupação, mas estava decepcionado com o fato de as pessoas espalharem rumores incompletos em vez de tudo o que ele havia dito.
Ele disse que o prognóstico é bom e que espera poder viver por muitos anos ainda.
Dr Richard Stallman (https://stallman.org)
Chief GNUisance of the GNU Project (https://gnu.org)
Founder, Free Software Foundation (https://fsf.org)
Internet Hall-of-Famer (https://internethalloffame.org)
Por causa do personagem do Stallman, pensei várias vezes em criar algo como uma igreja da computação. Uma “religião” organizada para garantir proteções e direitos religiosos aplicáveis ao mundo moderno.
Por exemplo, o direito de se recusar a usar o app de uma empresa e aceitar o EULA dela para interagir com órgãos do governo ou escolas públicas. Em muitos países, algumas dezenas de pessoas bastam para criar uma igreja com status legal.
A FSF e a EFF são ótimas, mas uma igreja dá proteções legais adicionais aos fiéis.
A esse ponto, isso beira uma espécie de fervor religioso. Já disse a empresas para me contatarem por Signal ou e-mail, esperarem até eu chegar ao local ou procurarem outro contratado, e que não usaria WhatsApp por dinheiro nenhum.
Produtos da Microsoft/Google/Amazon são parecidos. Aprender suas APIs e produtos significa que meu capital humano e minhas habilidades podem ser tomados e desvalorizados por alguém que nunca encontrei, tornando minha renda irrelevante.
Basta imaginar investir bastante tempo e esforço em um ecossistema proprietário e, por causa da empresa ou de um concorrente, esse ecossistema desaparecer, sem que você consiga migrar rapidamente para um produto concorrente obscuro.
É um texto bem-humorado dizendo algo como: “Para ser santo na Igreja do Emacs, é preciso levar uma vida pura, mas não é preciso ser celibatário”. Stallman diz que santidade é expulsar sistemas operacionais proprietários malignos dos computadores que estão sob seu controle ou que você usa regularmente, instalar um sistema operacional totalmente livre e instalar e usar apenas software livre no sistema.
Ele diz que celulares e tablets também são computadores, portanto estão incluídos nesse voto. Ao entrar na Church of Emacs, qualquer pessoa pode se tornar santa, e o humor continua com coisas como a auréola de St IGNUcius ter sido um prato de disco em uma vida passada.
Ciência da computação não é uma ciência de verdade. Computadores não são objetos naturais encontrados na natureza, mas coisas construídas; portanto, do ponto de vista da filosofia da ciência, a metodologia de pesquisa não pode ser a mesma.
Assim como a matemática é tratada pela inteligibilidade, e não por experimentos, não dá para dizer que computadores sejam estudados como em experimentos físicos. Os “experimentos” com computadores são, na prática, testes de ponta a ponta, uma prática filosoficamente diferente de experimentos físicos com medições muito precisas.
A filosofia da química embaça a fronteira entre “fazer” e “experimentar”, então vale pensar nisso.
Fiz a piada de criar uma religião, mas o RMS também faz uma piada parecida. A academia, afinal, começou na religião, e o RMS também é um acadêmico; portanto, se existe um departamento de computação, ele já pode ser visto como uma espécie de igreja, isto é, uma igreja acadêmica 2.0.
Olhando ao redor, dá para ver que estamos em uma situação bem bagunçada. Praticamente não há plataformas de IoT realmente utilizáveis nem opções de sistemas operacionais mobile/desktop que não infernizem o usuário. Privacidade, bloqueios, seja o que for, tudo vira problema.
Só recentemente percebi que deveríamos ter dado um pouco mais de ouvidos a esse homem. Agora é tarde demais; é como se já tivéssemos sido vendidos.
Sr. Stallman, desejo uma boa recuperação.
Padrões como Zigbee/Matter foram amplamente adotados como padrões abertos sem aprisionamento a fornecedores, e coisas como o Home Assistant estão recebendo atenção e financiamento sérios.
Poderia ter sido muito pior.
Mas, quando alguém oferece muito dinheiro, muitos fecham os ouvidos ao ideal do software livre e se submetem a empresas em troca de emprego estável.
O verdadeiro problema são os sistemas operacionais móveis. Celulares Android estão ficando cada vez mais fechados, e está se tornando quase impossível usar uma ROM sem Google Services.
Não quero nada de nuvem. Um dispositivo simples — embora, claro, na prática não seja tão simples assim — já seria suficiente.
Sem o GNU, isso não passaria de um sonho inútil.
Hoje em dia há muitos cânceres com boa chance de sobrevivência, então espero que o caso dele seja um desses.
É uma notícia realmente triste, e desejo que ele se recupere da melhor forma possível.
Vejo Stallman como uma das pessoas mais influentes das últimas décadas não só no GNU ou no software livre, mas na tecnologia em geral. Ao mesmo tempo, é uma pena que tanta gente subestime seu trabalho e sua visão.
Para mim, ele também foi uma grande inspiração até hoje, e espero que permaneça neste mundo por muito tempo.
Ele enxergou quase meio século à frente e ainda agiu de fato com base nisso. Desejo sorte e uma recuperação completa.
Aos 70 anos, ele está fazendo discursos mesmo passando por quimioterapia. Ainda é uma força da natureza.
Espero que se recupere bem ou, pelo menos, que tenha muito tempo bom pela frente.
Houve comportamentos controversos ou difíceis de aceitar, mas acho que temos uma grande dívida com ele. Ele criou softwares incríveis, definiu coisas importantes e nos empurrou para avançar na direção certa.
Agora estou em um ensaio clínico com comprimidos, mas mesmo quando recebia tratamento por infusão, nos piores casos eu ficava cerca de 4 dias sem conseguir fazer nada. No dia da quimio, era mais por causa da agenda do que dos efeitos colaterais, e depois o 4º e 5º dias, e às vezes o 6º, eram difíceis. O restante era bem administrável, e eu até ficava esperando poder trabalhar.
Não quero diminuir a experiência dele; desejo que tudo dê certo e entendo perfeitamente que, no geral, a pessoa fica pior do que o normal. Mas estar fazendo quimioterapia nem sempre deixa alguém tão incapacitado quanto se imagina.
Para mudar o mundo, é preciso, em certa medida, não pertencer a ele e se rebelar contra as normas sociais. Quem se rebela contra normas sociais não se rebela apenas contra as normas certas; às vezes também está errado.
Conversei rapidamente com ele há mais de 20 anos, e ele me mostrou um notebook com software livre instalado.
Na época eu era jovem e só achei aquilo peculiar, mas olhando para trás agora, eu também faço um trabalho em um contexto parecido graças a uma montanha de software livre.
Sempre sorrio ao lembrar aquele momento em que simplesmente conversei com RMS, e fico pensando em quantos estudantes ingênuos de ciência da computação tiveram contato com outra forma de fazer as coisas e mudaram de vida.
Sr. Stallman, melhoras rápidas.
RMS é uma das pessoas mais surpreendentes que conheço e mudou minha vida para sempre. Espero que continue neste mundo por muito tempo.
Isso me faz lembrar do que outro grande líder de projeto de software livre, Ton Roosendaal, disse no discurso de encerramento da BlenderCon 2020 sobre sua experiência com câncer, as lições aprendidas e a continuidade da liderança em projetos de software livre.
Richard Stallman conseguiu inspirar pessoas como Ton e fazer a chama continuar acesa. Espero que ele tenha acesso a bons cuidados médicos e tenha tanta sorte quanto Ton.
Vale a pena reservar um momento para homenagear Ton Roosendaal: https://www.reddit.com/r/blender/comments/jlaxaf/can_we_just...
“Money doesn't interest me” - entrevista com Ton Roosendaal: https://www.youtube.com/watch?v=qJEWOTZnFeg
Transcrição do discurso de encerramento da BlenderCon 2020: https://news.ycombinator.com/item?id=24951703
Vale a pena ver o vídeo completo. Ele aborda a introdução e o encerramento de Ton, além das contribuições incríveis dos artistas e desenvolvedores do Blender: https://news.ycombinator.com/item?id=24951550, https://www.youtube.com/watch?v=uEjmbsiflMU
Parece que Ton deixou a notícia pessoal importante para o final para que o foco da conferência virtual não se desviasse do Blender, da comunidade e dos desenvolvedores.
Ele explicou que foi diagnosticado com leucemia promielocítica aguda, APL, uma doença fatal em que, se o tratamento não funcionar, normalmente a pessoa não sobrevive nem duas semanas. Felizmente, transfusões de sangue e quimioterapia fizeram efeito, ele entrou em remissão e disse que recuperou a vida depois de um longo tratamento de manutenção.
A principal lição que ele aprendeu é que sobreviver ao câncer não é uma “luta” nem uma “vitória”. O que é necessário é um pouco de autocuidado e, acima de tudo, sorte. Ele disse que teve sorte porque a ciência encontrou o tratamento certo, porque tinha família, amigos e uma equipe, e porque, graças ao sistema universal de saúde da Holanda, não precisou se preocupar com os custos do tratamento.
Ele também disse que percebeu que vinha se sacrificando demais e que queria tornar o projeto mais forte, cercando-se de pessoas fortes para o futuro do Blender. O Blender era o trabalho da vida dele, sua comunidade e sua família, por isso ele não estava pronto para abrir mão.
Por fim, encerrou dizendo que 2020 não conseguiu derrubá-lo e que esperava que todos cuidassem um pouco de si mesmos, uns dos outros e do Blender.