Se você mencionar IA de novo, vou te dar um piledriver
(ludic.mataroa.blog)"Inovações recentes em IA, como o GPT-4, terão impactos amplos na sociedade. Vão desde uma utopia que elimina trabalhos monótonos até uma distopia que ameaça o sustento de artistas, chegando até a uma ameaça existencial à própria humanidade."
- O autor teve formação formal como cientista de dados e é talentoso o bastante para ter vencido uma competição de ML realizada em uma das melhores universidades da Austrália
- Mas não é o melhor, e está mais no nível de usar bibliotecas feitas por instituições de elite e implementar soluções conhecidas em linguagens avançadas
- Mas, se alguém mencionar IA de novo, vai ganhar de graça um ajuste de coluna do tipo "quebrar o pescoço", então o autor já pede desculpas sinceras de antemão
I. Mas nós vamos alcançar uma eficiência enorme com machine learning-
"Você não ouviu o que eu acabei de dizer?"
- O autor trabalhou como cientista de dados desde 2019, mas em 2021 percebeu que a área era grande, porém cheia de picaretagem
- A maioria das lideranças nem tinha lido 30 minutos sobre IA, mas insistia que precisava focar nisso
- O número de empresas iniciando iniciativas de IA superava em muito o número de casos de uso reais
- O mercado estava cheio de golpistas e incompetentes
- O autor migrou para engenharia de dados/software
- Hype não faz bem para desenvolvedores
- Ele tem amigos honestos e alma, mas não dá para trocar de área com facilidade
- Os empregos de ciência de dados desapareceram, e o ciclo de hype foi parar em engenharia de dados
- Justo quando ele achou que a IA finalmente tinha acabado...
- Aí alguém criou o ChatGPT, e agora estão torrando um esforço gigantesco de engenharia para adicionar suporte a chatbot em toda aplicação
- Sendo que metade da indústria nem sabe como testar backup de banco de dados regularmente...
- O motivo de ter que partir para a violência contra o próximo idiota que sugerir que IA é o futuro dos negócios é que agora eles ficaram indistinguíveis de centenas de milhões de idiotas deliberados!
II. Mas precisamos de IA para continuar competitivos-
"Ó senhor misericordioso, por favor pare de falar. A menos que você seja uma das poucas empresas que sabem exatamente como usar IA, você não precisa de IA"
- A inteligência artificial útil que existe hoje provavelmente já está integrada à cadeia de fornecimento do software empresarial
- Um provedor gerenciado de segurança provavelmente já usa algoritmos embutidos em software de laboratório para detectar tráfego anômalo
- Eles também não fizeram muito trabalho de IA; só compraram software em um pequeno segmento de mercado onde realmente vale contratar cientistas de dados
- Você pode querer ser como Steve Jobs e falar sobre sua capacidade de inovar, mas isso não quer dizer que pode usar gola rolê
- E, mesmo que pudesse, para sobreviver ao ataque do autor precisaria usar armadura de placas em vez de suéter
- A maioria das empresas não consegue nem desenvolver e implantar com sucesso, no prazo e dentro do orçamento, nem mesmo a aplicação CRUD mais simples
- Se você trabalhar com pessoas inteligentes e fornecer requisitos razoáveis, uma equipe competente consegue fazer isso sempre
- Os clientes com quem o autor trabalha hoje, mesmo sem serem nada ligados em tecnologia, respeitam a inteligência uns dos outros e "conversam como adultos" para resolver problemas juntos
- Mas a maioria das empresas é operacional e culturalmente aleijada demais para fazer isso
- O tempo médio de permanência de um engenheiro é de 1 a 2 anos, então a organização sofre de amnésia institucional retrógrada
- Se alguém propõe cancelar o privilégio de trabalho remoto da equipe de engenharia, os melhores engenheiros vão embora
- Toda vez que acontece um ataque de ransomware, descobre-se que ninguém testava os backups havia 6 meses e que metade dos sistemas legados não pode ser recuperada
- O autor viu isso pessoalmente duas vezes em quatro anos. Você tem noção de como isso é insano?
- A maioria das organizações não consegue entregar de forma consistente nem mesmo a aplicação mais básica, e aí você está dizendo que adotar tecnologia experimental é a melhor forma de seguir competitivo
- Uma tecnologia que está um nível acima de qualquer coisa que o departamento de TI opera, sem experiência de contratação e sem nunca ter usado GPU
- E, mesmo que tudo isso fosse bem feito, ainda existe a possibilidade de que o problema não possa ser resolvido por causa dos dados e da natureza do negócio
- Isso não é uma receita para o desastre; é um livro de receitas para quem quer preparar uma catástrofe de 12 pratos
- Que tal continuar competitivo simplesmente "consertando direito o próprio trabalho"?
- O autor já viu permitirem que um cientista de dados sênior com acesso a registros sensíveis de clientes guardasse senhas em um arquivo de texto no desktop
- E você está preocupado se usar IA para melhorar segurança por meio de um mecanismo que você nem inventou ainda é o melhor para os clientes?
- Você está falando como um "idiota", então o autor vai te chutar a mandíbula até que um médico a amarre com arame para tranquilizar todo mundo e nos dar os benditos 10 segundos de silêncio em que possamos "resolver problemas reais"
III. Mas nós já vimos ganhos amplos-
"Quando eu era mais novo, li o romance clássico de fantasia 'O Fragmento de Cristal', de R.A. Salvatore. Nele há uma cena em que o protagonista Wulfgar desafia um chefe bárbaro para um duelo, a fim de conduzir seu povo para uma guerra que salvará o mundo. A luta termina com Wulfgar largando a arma, agarrando a cabeça do chefe com as mãos nuas e 'implorando' para que ele se renda, para não ter de se tornar um assassino"
- Pois é, esse sou eu. Implorando para você parar de mentir. Eu realmente não quero esmagar a sua cabeça.
- "Mas, se você me obrigar, eu vou fazer isso".
- Ontem o autor viu o "Relatório de Preparação para IA 2024" da Scale, e 8% das empresas no gráfico diziam não ter tido resultados produtivos com adoção de IA
- Você tem que ser muito burro para acreditar que só "8%" das empresas fracassaram em projetos de IA
- Nem com app CRUD isso é gerenciado com consistência, e você acha que esse número não é ridículo?
- Durante a febre dos LLMs, "algumas" empresas podem até ter se beneficiado, mas não "92%"
- 34% das empresas relataram que IA generativa está ajudando em decisões estratégicas?
- Que diabos você está falando? O GPT-4 não consegue nem escrever Elixir consistente e de alto nível como escreve Python
- E você está admitindo que está deixando a tomada de decisão na mão de uma coisa que "às vezes manda pessoas prepararem toxinas letais para a própria família consumir"?
- O autor não acredita nisso. Ninguém em sã consciência acredita
- Se o conselho acreditar no que você escreveu na pesquisa, deveria te demitir
- Só agora ele entende por que alguns dos amigos dele sentem que "precisam" estar em posições de liderança
- Porque alguém precisa arrancar as rédeas do poder das suas garras de lagarto antes que você nos jogue coletivamente de um penhasco
- Alguns anos atrás, um amigo foi convidado para uma organização FAANG e visitou os Estados Unidos, onde muitas apresentações eram demos técnicas de produtos impressionantes de inteligência artificial
- Como engenheiro de software, ele passou tempo nos bastidores com os desenvolvedores e descobriu que "a maioria das demos era manipulada"
- O produto não funcionava e não conseguia resolver nem problemas simples, como "de fato prever aquilo que deveria prever"
- Mesmo assim, isso não impediu que despejassem uma hora de completo absurdo sobre uma plateia ofegante!
- Como engenheiro de software, ele passou tempo nos bastidores com os desenvolvedores e descobriu que "a maioria das demos era manipulada"
- Outro amigo estava avaliando software para serviços de emergência, mas os vendedores não esperavam que o comprador desses serviços fosse um programador fanático
- Por causa dessa frouxidão em segurança, eles "acabaram revelando por acidente que o serviço era, no fim das contas, só um cara qualquer na Índia"
- O autor diz para não levar para o lado pessoal, porque se ele trocasse de lugar com os primos indianos dele também seria só um cara qualquer na Índia
- Mas "usar a palavra IA para vender para um governo estrangeiro o trabalho de pessoas que se parecem comigo" é uma merda, e você é um monstro antiético
- Se continuar tentando "try { thisBullshit(); }", vai acabar recebendo "catch (theseHands)"
IV. Mas precisamos nos preparar para o futuro-
"Vou perguntar ao ChatGPT como preparar uma corda, e depois vou te estrangular com ela. E tudo o que vai te restar é 'rezar' para que o ChatGPT enlouqueça nos 10% de chance dele e diga que a corda deve ser feita só de papel e maldade."
- Vi executivos debatendo que precisam adotar IA generativa imediatamente para se preparar para o trabalho do futuro
- Todos os discursos soam iguais, mas, vendo as mãos se mexendo, a fala saindo e o esforço para não babar, fica claro que ensaiaram bastante!
- Falando sério por um instante:
- O autor "não" faz parte do campo, igualmente nada sério, que acha que a IA generativa não tem potencial para mudar o mundo drasticamente
- Lembra de ter visto os primeiros demos do GPT-2 e ficado meio convencido de que aquilo tinha sido manipulado de algum jeito, mas estava errado
- Então, já não dá mais para ter certeza do que está acontecendo
- Mas há bagagem técnica suficiente para entender os princípios centrais da tecnologia, e parece que estamos indo em uma de três direções
- Acontece uma explosão de inteligência, a IA passa a se autoaperfeiçoar recursivamente e nós somos colhidos para virar átomos de configuração
- Porque o algoritmo de mercado descobre que humanos podem ser convertidos em um novo epóxi chamado "Gloobna" para alienígenas que têm grande demanda por consertar máquinas de café
- Nesse cenário, o autor não se importa muito com a receita da empresa
- Fica claro que a abordagem atual não escala tanto quanto se esperava, por vários motivos, como falta de dados, problemas de arquitetura etc.
- Nesse universo, "alguns" setores, como atendimento ao cliente, por exemplo, vão sofrer uma grande desordem
- Se continuar entregando ganhos incrementais desse tipo, então a empresa simplesmente não precisa de IA generativa. Se realmente precisar, vai saber "exatamente" por que precisa
- Coisas como o recurso do Todoist que converte filtros em linguagem natural para a linguagem interna de filtragem realmente ajudam. Mas esse tipo de funcionalidade ampla não é tão útil assim se "não houver um caso de uso"
- O que precisa ser feito é apenas "melhorar as operações e a cultura", e então haverá capacidade para usar IA quando ela se tornar relevante
- Todo mundo fala de geração aumentada por recuperação, mas a maioria das empresas na verdade não tem documentação interna que valha a pena recuperar. Por favor, "façam o trabalho direito".
- Esses problemas fundamentais são resolvidos e isso termina em algo que substitui a programação como a conhecemos hoje, ou que pode ser identificado como uma inteligência amplamente geral
- Se a IA generativa decolar como um foguete, "criar um chatbot aleatório não vai te preparar para o futuro"
- Digitar "import openai" não significa que você esteja na fronteira da inteligência artificial
- O negócio vai entrar em desordem em "exatamente o mesmo nível" de quando não fez nada, e muito pior do que teria sido se tivesse se mantido firme no básico
- Ensinar os funcionários a usar o ChatGPT para escrever e-mails para stakeholders "não vai fazer a empresa sobreviver a isso"
- Se isso passar pelo buraco da agulha entre um impacto moderado e um impacto de asteroide-que-mata-os-dinossauros, tudo "vai mudar para sempre", e sua preparação morna vai ter tanta influência quanto uma formiga se segurando "com muito esforço" sob a sombra de um tsunami gigantesco
- Se a IA generativa decolar como um foguete, "criar um chatbot aleatório não vai te preparar para o futuro"
- Acontece uma explosão de inteligência, a IA passa a se autoaperfeiçoar recursivamente e nós somos colhidos para virar átomos de configuração
- Se aparecer outro idiota me dizendo para implementar code review com base em LLM "para elevar o padrão" em vez de ensinar às pessoas o mínimo de disciplina, vou aprender judô o suficiente para arremessá-lo no Sol
- Não dá para enfatizar isso o bastante: ou você está "na fronteira absoluta, produzindo nova pesquisa", ou, tirando pequenas concessões para integrar LLMs, deve fazer exatamente o que fazia há 5 anos
- "Não faz sentido nenhum ficar no meio do caminho". A menos que você trabalhe em um dos raros setores que estão "entrando em completo caos agora mesmo".
V. Mas dizem que todo mundo está usando-
"Você consegue imaginar quantas políticas públicas o ChatGPT realmente escreve antes de algum burocrata entediante ir para casa mexer na grama? Quantos departamentos existem em que as LLMs ficam girando em círculos umas com as outras enquanto as pessoas, de saco cheio da própria besteira, colam trocas de e-mails em threads sem fim? Eu 'garanto' que, num raio de 10 km de mim, houve médico enfiando sintomas num chatbot e diagnosticando errado um paciente"
- O que "nós" estamos fazendo como sociedade?
- Perguntei a um executivo de uma instituição que concede credenciais importantes — usadas para verificar aptidão para trabalhos potencialmente salvadores de vidas e para a legislação de imigração — se eles conseguiam detectar quando alunos colavam
- Eu ia dizer "não, provavelmente não vão conseguir", mas... bateu a dúvida, então em vez disso falei:
"Acho que talvez consigam, mas no momento mais de 50% dos alunos estão colando, então vocês teriam de suspendê-los, o que provavelmente teria um impacto sério na receita. Mesmo assim, quer que eu investigue?"
- Desde então, eles não tocam mais nesse assunto
- Perguntei a um mentor que atualmente trabalha no setor público sobre uma conversa especialmente constrangedora que testemunhei
Eu: pergunta séria, as pessoas realmente acreditam nessas coisas tão idiotas? Ou isso tudo é, na maior parte, um teatro sofisticado numa tentativa triste de arrancar dinheiro de golpistas de IA?
Mentor: respondendo da forma mais política possível... tem gente que bebeu o Kool-Aid. Tem gente que não bebeu. E tem gente tentando misturar o máximo possível de Kool-Aid. Descubra por si mesmo quem está em qual grupo.
- Eu decidi, e embora não consiga distinguir entre quem bebe Kool-Aid como se fosse uma arma e quem o produz em massa, vou pegar "alguns deles" antes que as autoridades me peguem
- Com sorte, vão desperdiçar meses perguntando a uma LLM onde eu estou
- Eu estava passando férias em Fiji, e no último café da manhã no resort a garçonete trouxe um formulário de inscrição
- Era totalmente grátis e ainda vinha com brindes. Todo mundo no restaurante começou a assinar na hora
- Dei uma olhada nos termos de serviço e dizia que eles tinham o direito de usar todos os dados que eu fornecesse para treinar modelos de IA, e também o direito de compartilhar esses modelos com um número indeterminado de empresas afiliadas
- Eu só queria comer minhas panquecas em paz, seus idiotas
VI.
"O motivo da minha fúria não é que eu 'odeie' LLMs ou a febre da IA generativa em si. Eu me diverti com o Copilot, mas acabei concluindo que ele só me deixou mais burro. É impressionante, mas na prática não "serve" para muito além de despejar código boilerplate. Programação é design, e essas ferramentas ainda não são boas o bastante para ajudar seriamente nisso, então não trouxeram o enorme ganho de produtividade que eu imaginava."
- O que eu odeio são as sanguessugas que se agarraram à IA, sugando sangue e se contorcendo cegamente
- São os mesmos que, quando não estava na moda, adoravam falar sobre o potencial do blockchain para os negócios
- Quando fui a uma conferência recentemente, estavam debatendo sem parar sobre o "potencial do quântico", mas aparentemente sem ter muita clareza do que isso sequer era
- Embaixo de um artigo que li na semana passada apareceu uma pesquisinha; era voltada para executivos de segurança, mas cliquei rápido só para ver quais eram as perguntas
- Pois bem, aqui está. Caro líder, no que você tem mais interesse? Inteligência artificial, blockchain ou computação quântica?
- Eles sabem exatamente quem é seu mercado-alvo. São gente poderosa, encarregada do "dinheiro dos outros", que aprendeu a sorrir para tudo e sabe que pode imprimir dinheiro surfando na próxima moda especulativa
- Nenhum profissional de segurança competente que eu conheço liga para esse tipo de coisa. Eles estão ocupados tentando descobrir se o firewall foi configurado direito e se a organização está dando commit de senhas no repositório
- Alguém precisa entender o impacto da computação quântica na criptografia, mas esse alguém não é o "Greg da sinergia"
- Um sujeito cuja única habilidade identificável, além de falar muito rápido e aumentar o quadro de funcionários
- Nunca se deve pedir conselho ao Greg da sinergia sobre questões importantes, desde operações de machine learning até como amarrar o cadarço mais rápido
- Na última vez em que falei com um dos avatares do Greg da sinergia, ele insistiu que eu deveria investir a maior parte do meu dinheiro numa criptomoeda chamada Monero, dizendo: "a maioria das moedas vai a zero, mas uma vai virar um dólar"
- "Esta é a cara da IA corporativa". Olhe para esse rosto arrepiante e sinta horror. Com olhos vermelhos como os de um demônio, fingindo apreciar um charuto
- Na minha consultoria, há três cientistas de dados "muito bons". Na verdade, fora o grupo que faz pesquisa experimental, não seria exagero dizer que dois deles estão entre os melhores do país, mas são modestos demais para dizer isso
- Mesmo assim, nós não vendemos "nenhum" tipo de serviço de IA. O mercado está tão distorcido que é "quase" tão ruim quanto meter o pé no mundo das criptomoedas
- Ainda não cheguei ao ponto de achar que qualquer pessoa que já digitou "import tensorflow" é uma desgraçada, mas "estamos indo nessa direção"
- Esse tipo de gente, em resumo, é repulsivo para pessoas sensatas
- Na prática, são motivo de vergonha para quem realmente está avançando nessa área e uma desonra para quem sabe usar tecnologia com sabedoria para melhorar o mundo
- Também são uns ignorantes enfadonhos que deveriam ser jogados na cadeia dos líderes de pensamento até aprenderem a lição. Uma cadeia que eu estou arrecadando fundos para construir
- Toda manhã, uma figura de capuz preto, com voz rouca de quem grava epitáfios, faz uma palestra no estilo TedX de 60 minutos para os gestores presos sobre como esta instituição está inovando no castigo corporal, e então revela que a inovação consiste em dar chutes fortíssimos na barriga todos os dias
- Tenho nojo do fato de a profissão que escolhi me colocar tão perto dessas pessoas e de eu estudar tanto para que suas sílabas fétidas não contaminem meus ouvidos
- Preciso fugir desesperadamente para estar entre os justos, gente que contribui com OSS e acha que passar o dia falando sobre agile é uma atividade para alienígenas que leram um livro sobre produtividade humana
- Acabei de voltar de uma viagem a um país muito menos desenvolvido e realmente pude, ainda que por um instante, "viver" e "ver" o quanto esse dinheiro poderia melhorar tantas vidas
- Mas ele está sendo despejado de forma inacreditável no ralo do Microsoft Fabric, e isso me corrói por dentro
- Juro que vou estudar, escrever, fazer networking e, de um jeito ou de outro, "aplicar força ao problema"
- Até que esses recursos passem a ir para lugares onde possam fazer algo pela sociedade, em vez de irem para a carteira de palhaços sorridentes!
VII. Ah, então você é um desses pessimistas da IA-
"Juro por Deus, se você abrir a boca sobre IA mais uma vez sem ter escrito pessoalmente um sistema de machine learning, eu vou te mandar pelo correio um tijolo e um papel escrito prompt injection para você bater isso na sua própria cara. E vou ficar sentado esperando você carregar isso no ChatGPT, porque provavelmente você já não consegue mais ler sozinho, seu imbecil monstruoso."
PS
- Como chegaram muitos leitores novos, talvez vocês também gostem dos textos abaixo:
- Também existe o podcast "Um sapo tem natureza de escorpião?", no qual converso francamente sobre temas de tecnologia com amigos. Espero que tenha sido divertido!
3 comentários
Se mencionar IA de novo, vou te dar um filedrop... mas dizer que IA é superestimada fica difícil quando a frequência de uso da busca do Google já caiu mais da metade
"Fomos colhidos como elementos constituintes"
Opinião do Hacker News