Todo app que adiciona IA fica com esta cara
(botharetrue.substack.com)- Satiriza o padrão de apps que adicionam recursos de IA, criam expectativa com uma enorme tela inicial e um campo de entrada vago, mas decepcionam no resultado final
- Por trás da corrida das empresas para lançar recursos de IA há o entusiasmo dos investidores e uma lógica de imitação; o artigo da Inc citado manifesta preocupação com empresas em estágio seed captando de US$ 100 milhões a US$ 150 milhões apenas com um pitch deck
- O foco da crítica não é a IA em si, mas o marketing de IA, em contraste com casos como o Google, que usa IA em todo o produto sem alardeá-la
- O “Magic Design” do Canva e o rótulo Beta são criticados como uma forma de embrulhar resultados de baixa qualidade como “magic”
- Frases como “AI-enabled assistant” podem, na verdade, reduzir a confiança, levando a uma forte rejeição a ponto de a pessoa dizer que pagaria por uma opção que evitasse a palavra IA
O padrão repetido no onboarding de recursos de IA
- Apps que adicionam IA primeiro atraem o usuário com uma grande splash page
- Ao clicar em “get started”, aparece uma imagem como se o planeta inteiro tivesse sido iluminado pelo momento “aha” do usuário, criando a expectativa de que tudo vai mudar
- Na etapa seguinte, o app pede que o usuário descreva sua tarefa, mas oferece pouca orientação sobre o que e como inserir
- Até os prompts de exemplo são exagerados, como “crie uma campanha de marketing que deixe as pessoas animadas com a nova internet e inclua um mascote e um slogan”
O boom da IA e a competição por imitação
- A corrida para lançar recursos de IA é tratada como uma race to the bottom
- As empresas veem outras companhias criando IA e ganhando hype, e então tentam embarcar na mesma onda
- A analogia com apps de meditação usa um exagero do tipo “Headspace AI”, em que, em vez da “meditação de 10 minutos por dia” do Calm.com, um robô medita no seu lugar e conta as lições aprendidas
- O artigo da Inc citado afirma que a IA ainda é atraente para investidores, mas é uma área superaquecida, sobreinvestida e supervalorizada
- Jason Corsello, da Acadian Ventures, manifesta preocupação com empresas em estágio seed captando US$ 100 milhões a US$ 150 milhões apenas com um pitch deck
- Oded Shenkar, da Ohio State University, diz que em uma corrida do ouro a imitação aumenta, e que é um erro comum ver startups sempre como inovadoras
Apps que usam bem IA e apps que colocam IA em primeiro plano
- O texto não rejeita todo uso de IA
- O Google é apresentado em contraste: tem IA em todo o produto, mas não a exibe como uma criança mostrando seus tênis novos que acendem
- Já o Canva é criticado por promover o “Magic Design (TM)” e ainda colocar um rótulo Beta
- Beta é satirizado como uma forma, no setor de tecnologia, de dizer “não é muito bom” com outras palavras
Rejeição ao embrulho chamado “Magic”
- O principal alvo da crítica é o marketing que chama resultados de IA de “magic”
- A imagem gerada de um “fairy cat” é descrita não como o resultado incrível esperado, mas como algo que uma fada da floresta sob efeito de LSD e speed desenharia como se fosse um computador
- O exemplo de magia de verdade é uma cena de ilusionismo que surpreende as pessoas, em contraste com o uso de “magic” no marketing de IA
Reação prática ao marketing de apps
- Ao ver em um site a frase “now with AI-enabled assistant”, a pessoa passa a evitar o app e sente tanta rejeição que tem vontade de jogar o computador pela janela
- Se a palavra IA aparece em um app, a reação exagerada é que todo o sistema foi contaminado por uma “AI-disease” e nunca mais poderá ser usado direito
- A pessoa diz que, se existisse uma opção para não usar a palavra IA em nenhum lugar do app, compraria isso como um plano premium
- O texto encerra com uma piada pessoal: o nome Alex é chamado de Al pelos amigos, então “AI Magic” faz parecer que ele próprio é mágico ou que o app está usando sua magia
1 comentários
Opiniões no Hacker News
Um projeto meu que viralizou por um instante: https://meat-gpt.sonnet.io
Uma parte considerável do tráfego vem de pessoas que acreditam que isso é um projeto de verdade, porque catálogos de ferramentas de IA continuam alucinando textos de apresentação sobre o meu produto de IA
Quase ganhou um prêmio, mas perdeu para um site de sanduíche giratório em 3D; ainda assim, conheci alguém que saiu de uma startup para fabricar beef jerky, e acabou surgindo uma pequena comunidade exclusiva chamada “meatverse”
Também fiz https://butter.sonnet.io, e as pessoas disseram que pagariam por isso; talvez eu tenha que monetizar uma fazenda de conteúdo medieval com anúncios nativos em blackletter: https://tidings.potato.horse
https://github.com/paprikka/butter/blob/main/src/watcher/detector.ts#L10-L33
Mas o ponto do texto original, e provavelmente do meat-gpt, é que se um app começa exigindo que o usuário insira um monte de texto não estruturado em tempo real, isso é, na melhor das hipóteses, irritante, e também vai contra o instinto de apontar para algo legal, ver as coisas mudando e querer compartilhar com pessoas reais
A IA é excelente quando reduz digitação, leitura e o tempo vendo anúncios irrelevantes, e aumenta o tempo vendo coisas relevantes que fazem você dizer “ooooh”
Mas, aqui, fico feliz por terem me lembrado de
.horse. Não via isso desde a época da faculdade, quando eu e amigos comprávamos domínios a torto e a direito e subíamos páginas estáticas com alguma imagem aleatória repetida como fundoSe não se importar, fiquei curioso sobre a stack técnica. O frontend parece Svelte
Ela nem usa o s longo correto, ſ: https://en.wikipedia.org/wiki/Long_s
Por acaso tem um link?
Isso me lembrou o Electric Monk, de Dirk Gently, do Douglas Adams
“O Electric Monk era um dispositivo para economizar trabalho, como uma lava-louças ou um gravador de vídeo. As lava-louças lavam seus pratos tediosos por você, poupando o trabalho de lavá-los você mesmo; os gravadores de vídeo assistem à televisão tediosa por você, poupando o trabalho de assisti-la você mesmo. Os Electric Monks acreditam nas coisas por você, poupando você do trabalho cada vez mais oneroso de acreditar em todas as coisas em que o mundo espera que você acredite.”
E combina especialmente com o trecho em que esse Electric Monk apresentou defeito e passou a acreditar em todo tipo de coisa quase aleatoriamente, até coisas que seriam difíceis de acreditar mesmo em Salt Lake City
Estranhamente, na minha memória ele era um aparelho que assistia à televisão por você
O trem do hype da indústria de tecnologia existe exatamente como no mundo sombrio do marketing multinível. Tenho bastante experiência com esse lado por causa de clientes antigos
Não importa o que está sendo vendido; tudo se resume a saber se o trem do hype consegue passar por gente suficiente para que você consiga transformar seu “investimento” em dinheiro
Cada rodada de investimento é a realização em dinheiro dos participantes anteriores, e a última rodada é o IPO, quando o público desavisado fica segurando o saco vazio
Como numa pirâmide de marketing multinível, o produto ou serviço às vezes tem valor para algumas pessoas, mas na prática é vendido até para a grande maioria que não precisa dele
Alguns anos atrás, era preciso colocar BLOCKCHAIN em algum lugar do plano de negócios; agora é preciso colocar IA. As pessoas se empolgam até com coisas que não entendem ou que são imaginárias, então dá para vender só um sonho — mas você não deve cair no próprio hype
Peguei três trens do hype: pontocom, cloud e agora IA; perdi o w3/cripto
Mas quase não vi trens de hype assim em outros setores dos EUA ou do mundo
Trabalho em uma empresa Fortune 500, e um dos nossos altos executivos de tecnologia entrou no Top 100 da área de IA da Business Insider
Nossa empresa não tem nenhum produto que use IA, e, na prática, a coisa mais próxima de IA que fizemos foi um teste bem pequeno com o GitHub Copilot
Esses projetos eram protótipos, provas de conceito, testes ou iniciativas de pequena escala, e, para ser sincero, essa pessoa também não era exatamente uma gestora melhor em execução do que em discurso, então acho que a contribuição real foi pequena
Mesmo assim, no ano seguinte ela entrou no Top 100 da revista Time por “salvar milhões de crianças”, e foi quando percebi a realidade da mídia
O motivo real provavelmente é “tinha um assessor de imprensa bem relacionado na Business Insider”, mas saber qual foi a justificativa bonita de fachada pode revelar bastante coisa
O pop-up “comédia absurda e sincera, entregue cerca de duas vezes por semana por meio de ensaios pessoais vulneráveis; digite seu e-mail…” acabou aparecendo por acaso sobre o prompt “no que você está travado?” da segunda imagem
Por um tempo, não percebi que aquilo não fazia parte da imagem. Pelo menos a página de AI fictícia fazia você clicar em alguma coisa antes de pedir dados pessoais
Estou pensando em algo como uma extensão do Chrome que os feche automaticamente, mas, por enquanto, sinto que a maioria nem vale o clique
Como a internet treinou todo mundo a fazer com todos os modais, eu fecho imediatamente sem nem ler. Se querem minha atenção, coloquem a chamada para ação dentro do texto que estou lendo
Mostrar um modal pedindo meu e-mail no meio do conteúdo parece sinal de que você não valoriza o conteúdo e o escreveu para conseguir minhas informações
As empresas estão tentando um monte de coisas no estilo jogar lixo na parede para ver o que gruda, e, curiosamente, os investidores estão recompensando isso
É claro que dá para criar recursos úteis com LLMs, mas há algo que as empresas precisam perceber primeiro
É preciso mais esforço do que simplesmente colocar um frontend de LLM por cima do produto, e provavelmente não será uma funcionalidade vistosa e “disruptiva”
Tornar a experiência do usuário só 5% mais fácil e eficiente já tem um valor enorme, mas influencers de AI não vão vender com entusiasmo algo que faz apenas isso
Acima de tudo, antes de pensar na solução, é preciso pensar no problema a resolver
As empresas estão percebendo como é fácil entrar nessa onda
Recentemente conversei por mais de uma hora com o chefe de engenharia de uma startup que acabou de sair do modo stealth sobre trabalho, mercado, desafios técnicos e estrutura de equipe, e AI não apareceu nenhuma vez
Mas, se você entra no site, ele está cheio de frases do tipo “potencialize seu _____ com AI avançada”
A palavra “venture”, de venture capital, combina bem com essa ideia
Sinceramente, não sei se existe outro jeito de isso funcionar
Parece que ainda há mais dinheiro para queimar
Como o resultado é incerto, a estratégia passa a ser investir em qualquer um que esteja de fato se movimentando na corrida do ouro
Claro que, na prática, efeitos de rede vêm antes, então a preferência será investir em pessoas conhecidas, com histórico e capacidade de criar riqueza
Portanto, não há nada errado em se movimentar ativamente na corrida do ouro e ser recompensado por investidores; há uma racionalidade bastante clara nisso
O metaverso de cerca de um ano atrás, as várias bobagens de criptomoedas antes disso, e antes disso havia o velho amigo AI
Houve um breve período em que tudo fingia ser um chatbot de AI para conseguir dinheiro de venture capital, e essa última bolha de AI praticamente morreu com o lançamento do Microsoft Tay
É exatamente assim que me sinto em relação ao hype de AI
Estou na área de “AI” há bastante tempo, e o hype é nocivo porque cria expectativas totalmente irreais tanto sobre a utilidade das ferramentas quanto sobre seus custos
“Me dá um high six” é uma boa piada. Ainda mais considerando como redes neurais são notoriamente ruins em gerar mãos convincentes
Sinto exatamente o mesmo que o autor. Colocar “AI” em um app parece sinal de um vendedor barato querendo empurrar rapidamente um produto defeituoso para pagar a pensão deste mês
Machine learning em si é bom e útil. Mas “coloque um LLM por cima” é dolorosamente tosco
Agora que todos os produtos e serviços de tecnologia estão fazendo isso, parece totalmente a febre das criptomoedas de novo
Algumas imagens geradas recentemente são bem realistas
É realmente impressionante que tanto dinheiro seja despejado em golpes de AI, enquanto os pequenos mantenedores heróis que mantêm ferramentas de AI generativa no GitHub quase não recebem financiamento
Há exceções, como TheBloke sendo apoiado por modelos quantizados ou GGML recebendo investimento seed, mas gente como InvokeAI, VoltaMl, koboldcpp/artbot e AI Horde, Petals, desenvolvedores do ControlNet etc. deveria estar nadando em dinheiro; na prática, está esgotada e quase sem nada
Deve haver muitos outros casos que eu nem conheço
Os manos das criptos fugiram com o dinheiro, enquanto alguns desenvolvedores foram construindo aos poucos no GitHub com pouco ou nenhum financiamento
A grande diferença é que há muito menos gente defendendo o hype de AI, e, no geral, as pessoas enxergam a aplicação de LLMs de forma muito mais crítica e realista
Outro motivo para eles ficarem fora do radar é que muitos desse tipo de gente têm um lado meio questionável
Por exemplo, Automatic1111 também é conhecido por um mod racista de Rimworld, coloca 4chan ativamente nos créditos de desenvolvedor e usa Ho Chi Minh como foto de perfil no GitHub. Pode ser vietnamita, ou algum comunista esquisito, ou talvez os dois
Realisticamente, muita inovação em AI está sendo feita por pessoas com foto de perfil de anime no Discord, e o motivo de elas serem obcecadas por isso está mais para a busca por dopamina. Mas quase ninguém fora dessa área sabe disso
Eu achava que o pessoal da indústria de tecnologia e todo esse “espírito empreendedor” seriam um pouco mais racionais e teriam mais bom senso, mas, na prática, parece que dá para vender lixo para qualquer um
É amargo ver esses influenciadores de lixo recebendo tanta atenção no Twitter
Ainda assim, em meio a essa enxurrada de opiniões e conselhos imaginários, isso acaba sendo um bom filtro para saber quem não ouvir
Pessoalmente, cheguei a conhecer algumas pessoas assim, e metade delas nem entende direito o que está fazendo; só segue tutoriais do YouTube para configurar as coisas
O que elas chamam de “produto de IA” na verdade é só um bot conectado a alguma API e com um prompt de sistema muito frágil, mas acham que todo mundo deveria ficar impressionado só porque instalaram seguindo um tutorial