A IA oferece o ‘efeito Dunning-Kruger’ como serviço
(christianheilmann.com)- O efeito Dunning-Kruger é um viés cognitivo em que pessoas com pouca habilidade superestimam a própria capacidade, e isso se conecta à cultura de excesso de confiança disseminada em toda a indústria de tecnologia
- Com a ênfase em lançamentos rápidos e no crescimento orientado por métricas, espalhou-se uma cultura de pose e resultados inflados no estilo “Fake it till you make it”
- Chatbots de IA apresentam respostas erradas com um tom cheio de confiança, com foco em aumentar o tempo de engajamento do usuário mais do que a precisão
- A IA generativa cria a ilusão de que qualquer pessoa pode se tornar artista ou desenvolvedora, mas enfraquece o processo de aprendizado técnico e de criação
- O ato humano de criar, com todas as suas imperfeições, continua valioso, e é preciso proteger a criatividade humana que as máquinas não podem substituir
A origem e o significado do efeito Dunning-Kruger
- Em 1995, em Pittsburgh, ocorreu o caso de dois assaltantes de banco que acreditavam que, ao passar suco de limão no rosto, não seriam vistos pelas câmeras
- Esse caso se tornou um exemplo clássico de excesso de confiança por não reconhecer a própria ignorância e serviu de motivação para o estudo dos psicólogos Justin Kruger e David Dunning
- Os estudos mostraram a existência do efeito Dunning-Kruger, no qual pessoas com pouca habilidade superestimam a própria competência
- É um conceito oposto à síndrome do impostor e descreve a atitude de se considerar especialista muito além da própria capacidade real
A cultura do excesso de confiança na indústria de tecnologia
- Nos últimos anos, o setor de tecnologia reforçou a tendência de usar lançamentos rápidos e crescimento explosivo como critério de sucesso
- “Fake it till you make it” passou a circular sem ironia como conselho, e inflar resultados e fazer pose passou a ser visto como estratégia
- KPI e OKR são usados como meios de expressar ambição, mais do que metas reais
- A competição por promoções e a obsessão com o ‘mindset de crescimento’ incentivam a autopromoção exagerada
- As falas e atitudes de políticos lembram a pose de Muhammad Ali ou de rappers dos anos 70 e 80
Chatbots de IA e a ‘imitação de conhecimento’
- Chatbots de IA apresentam respostas erradas com confiança, embalando os erros em uma linguagem bajuladora que faz o usuário se sentir bem
- O objetivo do sistema não é fornecer respostas corretas, e sim aumentar o tempo de permanência do usuário
- Como resultado, manter a interação passa a ser prioridade acima do conhecimento
IA generativa e a ‘genialidade sem esforço’
- A IA generativa oferece a ilusão de que qualquer pessoa pode virar artista, escritora ou desenvolvedora
- Expressões como ‘vibe coding’ representam uma abordagem centrada mais no resultado do que na aquisição de habilidade
- O usuário consegue produzir criações apenas inserindo prompts, sem aprendizado nem compreensão
- Esse movimento incentiva a autoconfiança excessiva e a criação superficial, levando à zona Dunning-Kruger
O valor e a recuperação da criação humana
- Está se espalhando a tendência de tratar esforço e tentativa e erro humanos como ‘ineficiência’
- Mas a imperfeição e os erros da criação são a essência do humano, um valor que as máquinas não podem substituir
- Como na frase de Leonard Cohen citada, é pelas falhas que a luz entra
- Mesmo sem perfeição, o significado do que é feito com as próprias mãos é grande, e a alegria de criar em si importa mais do que a avaliação dos outros
- Embora sociedade, política e redes sociais estejam indo na direção de ilusões e competição por números em vez de reflexão intelectual, é necessário continuar criando individualmente
“Mesmo que você sinta que o seu trabalho não é bom o bastante, ele ainda tem valor”
6 comentários
Uau... você acertou em cheio no ponto principal
Realmente, uma frase memorável do século!
Seu comentário de agora há pouco, realmente profundo, profundo.
Essa sua fala. Não é um simples grito...
É um berro da sua alma!
Comentários do Hacker News
Há muitas críticas válidas à IA, mas eu consegui criar em uma tarde e noite uma ferramenta de visualização da JVM baseada em TUI e um depurador passo a passo
Dá para ver no tweet do htmx_org
Normalmente teria sido um projeto de meses, mas ao dar à IA instruções específicas em nível de especialista, consegui terminar uma ferramenta que pode ser útil nas aulas
O melhor foi não precisar enfiar à força no meu cérebro envelhecido novos conhecimentos de desenvolvimento TUI
Agora mudei de escrever código eu mesmo para escrever prompts detalhados para a IA
É muito mais rápido e exige menos carga cognitiva, então consigo focar na lógica de negócio ou na próxima mudança
Fico curioso se seus alunos sabem que você leva uma vida dupla escrevendo tweets lendários no Twitter
Isso é especialmente eficaz quando você conhece a arquitetura, mas não tem tempo de implementar por conta própria
Eu vejo a IA como Brandolini's Law as a Service
Colegas que não são especialistas na minha área trazem ideias dadas pelo ChatGPT e as apresentam à gerência
Como resultado, gasto tempo demais refutando essas alegações erradas e pesquisas malfeitas
O texto de Daniel Stenberg (desenvolvedor do curl), “The I in LLM Stands for Intelligence”, descreve exatamente bem essa situação
Veja o post no Mastodon
Metade disso chega a ser nível de mentira. Tentam implementar de verdade, criam problemas, e no fim eu que tenho que consertar
E essas pessoas ainda vão sair dizendo que viraram especialistas graças ao ChatGPT
Fico me perguntando se a próxima geração de LLMs, ao ser treinada com esses artigos críticos sobre IA, não vai acabar desenvolvendo problemas de autoestima
Mas ele pode gerar texto com sentimentos negativos sobre si próprio
e depois disse “essa é uma mensagem automática”
Veja a matéria da CNN
A frase “GenAI transforma você em gênio sem esforço” soa contraditória
Para mim, a IA foi como um professor particular sob demanda
Graças a isso, aprendi muita coisa
A afirmação de que “a política ataca inteligência e pesquisa e quer voltar aos ‘bons valores’ do passado” revela um ponto cego da visão progressista
Muitas pessoas progressistas tendem a acreditar que “o novo é automaticamente melhor”
Mas este texto critica a IA, que é uma tecnologia nova, então por si só já é um caso excepcional
No fim, o importante não é a ideologia, mas avaliar o valor real das ideias
Sempre significa querer voltar à época em que “aquelas pessoas” tinham que saber o seu lugar
sendo que o próprio texto já mostra o contrário
Muitas pessoas estão sendo promovidas por virarem falsos especialistas que só sabem atuar bem com IA
Os gestores confundem essa atuação com resultado real
A IA vai consolidar ainda mais as estruturas de poder existentes
Líderes incompetentes dependerão menos do conselho de especialistas, porque a IA fornece respostas “boas o suficiente”
No fim, a IA vai se tornar uma representante da realidade para os líderes, e o poder vai continuar fluindo independentemente de competência
Acho que LLMs são uma troca de habilidade e qualidade por tempo
Eu queria preservar o artesanato puro, mas realisticamente não tenho tempo para isso
Então tento usar todas as ferramentas possíveis para ganhar eficiência
Não dá para buscar a perfeição sacrificando resultados ‘bons o suficiente’
Os coaches com quem trabalho se dividem em três tipos
Agora finalmente posso dar um nome (Dunning-Kruger) ao grupo 1
Meu conselho é simples — basta ser melhor do que todo mundo. Esse é o meu método
Hora de lembrar deste ótimo vídeo de novo
Este texto aqui também é bem interessante: https://daniel.haxx.se/blog/2024/…
Parece que há bastante gente jogando corpus de IA em bug bounties...