- Nos jogos de computador dos anos 1990, para conseguir rodar era preciso que o usuário aprendesse diretamente as condições da máquina, como
autoexec.bat, discos de boot e interrupções da placa de som - Como no som de negociação do modem, nos jumpers do drive e nas interrupções configuradas errado, o computador afastava o usuário, e o processo de enfrentar essa resistência era o caminho para entender como ele funcionava
- Os assistentes de IA são mais próximos de ferramentas complacentes que se reorganizam sozinhas de acordo com a frase do usuário, em vez de exigir arquivos de configuração ou condições
- A perda central não é a capacidade técnica, mas a perda da familiaridade; está desaparecendo a relação que surgia ao brigar com a máquina, falhar e tentar de novo
- No futuro, poderemos depender mais do que nunca das máquinas e, ao mesmo tempo, acabar sabendo menos sobre elas
A experiência com computadores em que a dificuldade era conhecimento
- Nos anos 1990, para jogar no computador, primeiro era preciso saber ao menos um pouco de como o computador funcionava
- Lia-se arquivos como
autoexec.bat - Às vezes até se criava um disco de boot dedicado para rodar um único jogo específico
- Se a máquina não permitisse, não havia jogo, e o usuário precisava aprender as condições impostas por ela
- Lia-se arquivos como
- Os computadores e periféricos da época tinham um atrito que o usuário precisava enfrentar diretamente
- Os modems deixavam ouvir o som da negociação de conexão, e, depois de ouvi-lo repetidas vezes, dava até para perceber quando a ligação estava prestes a cair
- Nos drives, ajustavam-se pequenos jumpers com a unha
- Era preciso saber a qual interrupção a placa de som respondia, e, se estivesse errado, nada funcionava
- A sensação de que “dificuldade era conhecimento” atravessava a experiência de usar computadores naquele tempo
- O usuário passava a conhecer a máquina por meio daquilo que o rejeitava
- A frase “só se pode conhecer aquilo para o qual se pode perder” condensa essa experiência
A IA complacente e a familiaridade que desaparece
- O assistente de IA de hoje parece a conveniência definitiva e funciona de um jeito em que você diz o que quer e o resultado aparece
- Não faz o usuário ler arquivos de configuração
- Não impõe condições
- Muda a si próprio para se ajustar à frase do usuário e, se o usuário demonstrar insatisfação, pede desculpas e tenta de novo
- É difícil conhecer uma máquina que não desafia, e ela se torna sobretudo um objeto de uso
- O ponto central não é a ideia de que a capacidade desaparece
- Os modelos de IA já leram até manuais que humanos não leem e conseguem dizer como uma máquina funciona
- Se olharmos apenas para capacidade de cálculo ou conhecimento técnico, dá para dizer que o conhecimento ficou mais seguro
- O que desaparece é a familiaridade que surge ao se chocar com uma máquina específica
- Diminui a experiência de brigar com uma máquina, falhar, tentar de novo e enfim fazê-la funcionar
- As pessoas passam a depender mais das máquinas do que antes e, ao mesmo tempo, a conhecê-las menos
- A próxima geração talvez não sinta isso como perda
- Não se pode sentir falta de uma relação que nunca se teve
- Eles podem usar, com naturalidade de interruptor de luz, ferramentas que fazem tudo e não exigem nada
- A cena em que um computador moderno reproduz instantaneamente e com perfeição uma gravação do som de conexão de um modem mostra esse contraste
- O som dos modems do passado permanece na memória
- A máquina moderna que reproduziu esse som não pode ser conhecida do mesmo modo
- As máquinas modernas foram feitas para que o usuário não precise conhecê-las assim, e esse é justamente o resultado que queríamos
1 comentários
Opiniões no Hacker News
É uma pena que o Pangram marque este texto como escrito por IA
https://www.pangram.com/history/c0a9cde2-7a5c-4588-83a3-0269...
É claro que textos puramente gerados por IA estão aumentando, mas acho que serviços que “analisam” conteúdo desse jeito fazem mais mal do que bem
https://geniusaidetector.com/
O problema é que não sabemos como isso funciona
Em geral, entendemos as camadas de abstração com as quais convivemos desde que nascemos, e até conseguimos saber alguma coisa uma ou duas camadas abaixo, mas a compreensão diminui à medida que descemos
Vi esse processo acontecer ao longo da vida e, em certo momento, havia uma demanda enorme por conhecimentos raros; hoje, porém, a maior parte do conhecimento raro que os jovens têm são coisas com as quais não me importo muito, e para mim restaram apenas técnicas sofisticadas para resolver problemas que, em grande parte, já desapareceram por trás de abstrações
Essa é uma mudança significativamente diferente
Poucas pessoas aqui devem conhecer o processo de transformar areia em silício ou ter a especialização necessária para polir à mão lentes avançadas para litografia, mas sabem que essas coisas são necessárias e têm uma noção filosófica aproximada delas
O perigo surge quando automatizamos tão completamente o trabalho de infraestrutura de baixo nível que as gerações futuras deixam de ter até mesmo um arcabouço conceitual de como as tecnologias que usam são feitas
Em sistemas gerados por IA, essa vantagem vai embora. Se você não tomar extremo cuidado, uma nova base de código não terá consistência, e novos paradigmas serão introduzidos aqui e ali porque, aos olhos do LLM e de quem escreve o prompt, “funcionou”
É como se não houvesse problema em o mesmo padrão se repetir 37 vezes de maneiras ligeiramente diferentes, então agora a portabilidade do conhecimento diminui
Antes, ao olhar para o código e perguntar “por quê?”, geralmente havia uma resposta baseada em experiência ou experimentos anteriores, como “tentamos x, y, z e não funcionou”. Mas o LLM insere coisas complexas apenas porque elas fazem o que foi pedido
Ler uma string de uma fonte válida byte a byte até encontrar
\0pode funcionar, mas, se a documentação da API diz X, é preciso dar um passo atrás e pensar por que você está verificando de novo se aquilo está certoTambém não sou tão velho assim, mas comecei com C++, aprendi gerenciamento manual de memória e design de linguagens de programação, e também tive aulas de assembly, que já eram bem obscuras na época
Não sou bom em assembly, nem pretendo ser, mas entender como código de alto nível é compilado para instruções de assembly/linguagem de máquina de baixo nível é muito valioso para ganhar uma intuição sobre como mexer em desempenho. Também dá para perceber o quanto coisas que “parecem bobas”, como desenrolar loops, podem afetar a redução do número de instruções
Como disse Bernardo de Chartres, de Newton, estamos sobre os ombros de gigantes e vemos mais longe, mas perdemos os detalhes do chão sob nossos pés. Hoje é difícil para uma pessoa moderna ter a ampla especialização obtida ao construir um computador diretamente com transistores, mas ainda é preciso aprender academicamente para adquirir fragmentos importantes desse conhecimento
Quando especialistas dessas áreas altamente especializadas têm capacidade de comunicação para compartilhar o que é relevante sem esmagar os outros com detalhes, isso é tremendamente útil
Mas eu vejo isso como nascer com dívida técnica, e considero um dever, como engenheiro, entender o que as gerações anteriores construíram e em que direção faz sentido eu trabalhar
Não é pouca coisa conseguir colocar em palavras que estamos perdendo algo quase tão rapidamente quanto ganhamos velocidade
Por baixo do tom nostálgico do texto há uma perda de controle e uma ansiedade que cresce a cada dia
Já é bastante chocante ver pessoas muito jovens aprenderem apenas interfaces de toque e apps e não conseguirem usar computadores no sentido mais estrito. É um ambiente em que o conteúdo e as interfaces são curados, e em que as dificuldades foram alisadas por milhares de iterações para satisfazer o menor denominador comum do mercado
Ainda assim, acho que as pessoas que mais criam hoje, e que criam coisas boas, funcionais e manuteníveis, são aquelas que ganharam ferramentas, mas não perderam o conhecimento sobre o meio que usamos
No universo dos computadores e da internet existe uma nostalgia calorosa de mexer nas coisas, montar o próprio PC, formatar o drive C por causa de malware e procurar “snippets” para enfeitar fóruns ou páginas do Myspace
Mas, no fim, o incentivo do dinheiro passa a dominar. Fuçar por diversão e conhecimento não é lucrativo, e, quando pessoas otimizadas para dinheiro e capital engolem todo o dinheiro e capital, a atitude de cada um em relação ao próprio dinheiro e capital importa cada vez menos
O que mais me preocupa no que está acontecendo agora é a desigualdade de riqueza, e, intimamente ligado a isso, vem também a “pós-verdade”. As pessoas ficam dispostas a acreditar no que querem acreditar em direção a objetivos comerciais ou ideológicos, e, quando as coisas não vão bem para elas, torna-se fácil odiar e culpar os vizinhos
Linguagens de programação, UNIX e depuradores não vão desaparecer. Há muito mais na computação do que aquilo que o chefe exige e o que está na moda nos fóruns técnicos
Pelo contrário, acho que a cena indie/handmade deve crescer bastante, ou até entrar em boom, mesmo que como hobby. O fato de alguém ter feito com suor e sangue algo que poderia ter mandado uma máquina fazer pode atrair ainda mais admiração e prazer
Durante décadas, houve um sweet spot na tecnologia de computadores em que hobistas podiam experimentar sem arcar com grandes custos e empurrar os limites da computação inicial.
Como numa radiação adaptativa, muitos nichos surgiram e foram rapidamente preenchidos, e agora o ecossistema da computação evoluiu a ponto de operar não nas abstrações de baixo nível que um dia eram o único meio de interação, mas no que chamamos de “linguagem natural”, a abstração mais alta possível.
“A dificuldade era o conhecimento. Passamos a conhecer a máquina como se conhece algo que resiste. A própria resistência era o meio. Só se pode conhecer aquilo que se pode perder.”
Nós, que passamos por aquela época, formamos o conhecimento de engenheiros que mexem diretamente nas coisas, e aprendemos por experiência e prática como as camadas de abstração avançam na linha de frente. Hoje, muita gente entrou em um mundo cheio de respostas fáceis, mas se essas respostas estão certas é outra questão, e cada um precisa avaliar por si o quanto vai se importar com a precisão.
Estou usando um jogo chamado “The Farmer Was Replaced” como ponto de partida para ensinar Python às crianças, mas, quanto mais penso nisso, mais acho que precisamos de um pacote de hardware no qual elas possam cometer erros por conta própria, como no antigo Apple //e.
Naquela época, era fácil aprender bastante até assembler em sistemas assim, e acho que haveria valor em voltar o relógio para aquele ponto, separar essa experiência e ver o que uma nova geração de crianças conseguiria criar.
Sou do grupo dos velhos em cujos neurônios ficou gravada a sequência dos sons de negociação de um modem de 2400 bauds.
Por um tempo tentei configurar conexões WireGuard entre meus sistemas, mas, ocupado com trabalho e família, deixei isso nas mãos do Tailscale por enquanto.
Eu poderia ter configurado tudo diretamente em vários hosts, incluindo rotas de rede, regras de firewall, pares de chaves, unidades do systemd etc., mas a alternativa “barata e fácil” estava bem ali e funcionou. Exceto quando força a reautenticação.
Com um agente LLM, consegui analisar facilmente a rede existente e criar scripts ajustados ao que eu queria fazer. Meu trabalho foi apenas revisar problemas de segurança e afins, e vi 3 ou 4 ajustes específicos necessários nas regras de roteamento por causa da topologia da minha rede.
Eu provavelmente chegaria lá lendo alguns manuais e mexendo por uma ou duas horas, iterando no script, mas a disponibilidade e eficácia do agente são tentadoras demais.
Não sei bem o que isso significa para minha competência técnica, nem se isso ainda importa. Ainda assim, enquanto minha cabeça estiver funcionando direito, tenho bastante certeza de que consigo ler manuais e descobrir essas coisas por conta própria. Nesse ritmo, fico na dúvida se meus filhos terão a mesma capacidade, e nem sei o quanto isso vai importar.
De todo modo, estou ajudando meus filhos a resolver problemas “do jeito antigo”, sem depender demais de LLMs. Por mais competente que a IA fique, estou bastante certo de que não desenvolver capacidade de resolver problemas só vai ser uma desvantagem na vida.
Só que a maioria dos caminhos padrão é “ei, lata-velha, faça isso”, e não “olá, lata-velha, me explique como isso funciona”.
Já brinquei um pouco com a segunda abordagem e, especialmente para quem aprende sozinho, ela é surpreendentemente subestimada como ferramenta educacional.
Não tenho certeza se um usuário de computador dos anos 1990 que sabia editar o
autoexec.batou inserir um disquete de boot podia ser considerado, em um sentido significativo, alguém que “sabia como computadores funcionam”.Hoje a pilha de abstrações é mais profunda, e parece que vai continuar ficando, mas nos anos 1990 ela já era bem profunda.
Acho que o erro comum aqui é uma confusão de população. Nerds de computador atravessam as abstrações por diversão, e isso não vai parar, assim como navegadores web não eliminaram autores de kernels.
Na verdade, hoje escrevemos mais código de baixo nível do que antes, porque o acesso ao conhecimento necessário é menos controlado por gatekeepers do que era.
O grupo mais barulhento no HN hoje não é o dos nerds, mas algo mais próximo de fundadores e golpistas tentando encontrar onde se apoiar.
Eles continuam exagerando o impacto da “IA” e agora fazem seus seguidores relembrarem seus momentos mais nostálgicos, assumirem que naquela época todo mundo tateava e se confundia como eles, e ignorarem o resto da história.
Não concordo com a afirmação de que “o conhecimento não está em perigo. Na verdade, está mais seguro do que nunca. Modelos de IA leram todos os manuais que humanos não leem”.
Se, ao pedir um manual ao modelo, ele cuspir exatamente o manual dos dados de treinamento, isso é overfitting. Ele vai cuspir algo que parece um manual real, ou algo adequado a uma consulta sobre um manual.
Quando você encontra um erro, às vezes precisa contestá-lo, mas só consegue encontrar o erro se já souber o que procurar e o que esperar. Caso contrário, é preciso ignorar a saída e ficar só com os links — que também podem estar desatualizados ou inventados. Você não sabe antes de verificar.
E isso se degrada com a compressão e com o tempo.
Não há atalho real. Concordo que o processo de fazer por conta própria, se frustrar e se esforçar para entender traz recompensas enormes. Mesmo na era do “tudo rápido, agora”, esse processo continua valioso e muito subestimado.
“Quando eu era criança, consertava o computador dos meus pais; agora, mais velho, conserto o computador dos meus filhos. Somos a única geração que sabe como os computadores funcionam?”
https://x.com/ryancbriggs/status/1847391612428517844
https://xcancel.com/ryancbriggs/status/1847391612428517844
Há muita gente que entende de computadores tanto em gerações mais velhas quanto mais novas; só não são os pais nem os filhos dele. Entre as pessoas que hoje escrevem os assemblys mais impressionantes, algumas têm menos de 20 anos. Vai ficar tudo bem
Eu me formei em ciência da computação e dei aulas na graduação, e já há cerca de 10 anos via alunos de ciência da computação receberem um pendrive USB bootável com Linux e não conseguirem configurar o sistema
O problema não era só falta de conhecimento, mas uma impotência completa: se não funcionava em 2 minutos, mandavam um e-mail dizendo “não deu certo, o que eu faço?”. O maior problema de depender de coisas como o ChatGPT também está aí
A geração mais jovem parece estar em uma posição pior. Além de não saber como os computadores funcionam, às vezes nem tem aquela atitude básica de resolver problemas no modo DIY que a geração dos nossos pais tinha
Os exemplos de ajustar jumpers manualmente, lidar com interrupções da placa de som e mexer no
autoexec.battodos batem forteAo mesmo tempo, também uso bem LLMs e agentes. O texto capta muito bem o que foi perdido, e se parece com coisas que em outras áreas já se perderam há muito tempo ou nunca existiram — por exemplo, a diferença entre carros modernos e o Model T
Não quero voltar, mas ainda dá para sentir a perda. O texto também é bonito
A comunidade de modding continua viva
As crianças provavelmente ainda hospedam servidores de Minecraft ou brincam com alguma coisa que está na moda hoje. Computadores DIY de 8 bits também estão ganhando popularidade
Acho que o fato de algo ter se tornado muito mainstream não significa que tenha sido diluído para todo mundo. Sempre haverá pessoas com níveis diferentes de curiosidade e paixão
Dá para reduzir os incentivos, mas não eliminá-la. Nerds sempre serão nerds