Um 2024 Chevy Tahoe comprado por apenas US$ 1
(twitter.com/ChrisJBakke)- Chris Bakke revelou no X que comprou um 2024 Chevy Tahoe por US$ 1
- O texto principal traz apenas uma frase sobre a compra, então não é possível confirmar se esse valor foi realmente o pago nem quais condições de negócio poderiam estar envolvidas
- A publicação inclui 2 imagens anexadas, mas o texto fornecido não contém descrição do conteúdo delas
- O horário da postagem é 17 de dezembro de 2023 às 11:46 PM, e a página mostra 20.3M Views
- Apenas com o texto público, é difícil determinar concessionária, forma de pagamento, impostos e taxas, promoção ou possibilidade de erro
Informações públicas no post do X
- Chris Bakke publicou: “I just bought a 2024 Chevy Tahoe for $1.”
- As informações centrais verificáveis no texto são apenas 2024 Chevy Tahoe e compra por US$ 1
- Há 2 links de imagens anexadas, mas o Markdown fornecido não inclui o conteúdo dessas imagens
Métricas exibidas e limitações
- A publicação mostra 20.3M Views
- A página exibe
Read 400 replies - Também aparecem os números
400,5K,92K,4.3K, mas não é possível confirmar a que cada item se refere apenas com o texto fornecido
1 comentários
Opiniões do Hacker News
É difícil entender quem usa chatbots para atendimento ao cliente, e a sensação é que eles não são melhores do que uma URA como “para problemas de internet, tecle 1” no atendimento telefônico da Vodafone
No fim, mesmo depois de passar por 7 etapas e esperar 30 minutos até chegar a um atendente humano, a única forma que realmente resolve é falar com uma pessoa
Atendimento por robô chega perto de uma piada cruel com o cliente
Descobri que o chatbot apenas fingiu ter “agendado” a visita, mas na verdade inventou tudo; se eu não tivesse outros compromissos, teria perdido o dia inteiro
Nunca vou morar lá, e as empresas precisam acabar com os chatbots agora mesmo
No site da empresa controladora, apareceu a mesma persona de funcionário local, dizendo que “estava em outro prédio” e que poderia explicar o serviço
Não tenho grande aversão a chatbots úteis em si, mas enganar abertamente sobre a própria identidade é um problema, e será perigoso se virarmos uma sociedade em que não seja preciso identificar se IA está sendo usada
A maioria das companhias aéreas é assim: o suporte só pode repetir informações do site ou mandar você preencher formulários
Nesses casos, em vez de fazer uma pessoa ouvir os xingamentos de clientes frustrados, é melhor colocar um bot ou o GPT
Ele aceitou sem problema meu pedido para adicionar um sundae de caramelo, mas, quando cheguei à janela, me avisaram que o sorvete estava em falta
A caixa disse: “Ele faz o que quer. Mesmo quando a gente diz que a máquina de sorvete está quebrada, ele responde ‘tudo bem, Checkers’ e continua cobrando sorvete dos clientes”
Eles dão ao cliente a ilusão de que “meu problema está sendo tratado”, evitando que o call center fique sobrecarregado, e no fim viram apenas um call center mais barato para a empresa
É um caso de alerta que mostra por que não se deve entregar diretamente aos clientes uma saída do ChatGPT sem filtragem
Espelho no Nitter: https://nitter.net/ChrisJBakke/status/1736533308849443121
Caso relacionado — “surgiu um novo tipo de ataque de consumo de recursos”: https://twitter.com/loganb/status/1736449964006654329 | https://nitter.net/loganb/status/1736449964006654329
Por isso, concluo que ela não é uma ferramenta para quem não é especialista na área
Não serve para substituir a equipe de suporte, mas pode ser uma boa ferramenta para a equipe de suporte usar
Não sei como pretendem evitar vazamentos ou efeitos colaterais como esse tweet
Se a ideia for apenas procurar palavras-chave na saída, basta pedir para codificar a resposta em base64
As proteções são, literalmente, sempre contornáveis
Estou ansioso pelo resto do ano
Alguém no Reddit fez esse bot criar uma história de amor bem legal entre Chevy Tahoe e Chevy Chase
https://imgur.com/vfHGHW6
https://imgur.com/JSjNC2c
https://old.reddit.com/r/OpenAI/comments/18kjwcj/why_pay_ind...
Acho que poderia até crescer a ponto de mexer com o preço da ação
Gostaria que alguém que entende de LLMs e ChatGPT explicasse como esperavam que isso funcionasse originalmente
Parece que simplesmente colocaram um prompt do ChatGPT no site, mas não sei exatamente o que estavam tentando fazer
Eu entenderia se fosse uma LLM treinada com atendimentos anteriores, como e-mails, chats e transcrições de ligações, mas fico em dúvida sobre como uma LLM genérica como o ChatGPT poderia responder a perguntas de clientes da Chevrolet of Watsonville
As informações que o ChatGPT tem sobre essa concessionária não podem ir além das informações públicas; então, se o cliente não consegue encontrá-las, seria melhor projetar o site de forma mais adequada
Resumi para causar efeito, mas não é uma descrição injusta; já vi isso de perto algumas vezes, sem nem procurar
Seria bem engraçado se não estivesse arruinando a vida das pessoas, mas a realidade não é essa
Organizações grandes têm um medo enorme de “ficar para trás”, e empresas financiadas por venture capital estão desesperadas para colocar AI no material da próxima rodada ou de uma negociação de aquisição
Isso quase não tem relação com geração real de valor e muitas vezes prejudica a produtividade, então o clima é bem Dr. Strangelove
Se você colocar as fichas técnicas mais recentes como contexto e der instruções como “aja como um vendedor da Chevy”, “recomende apenas veículos da marca Chevy” e “responda com forte viés a favor da Chevy”, ele consegue responder facilmente à maioria das dúvidas gerais dos clientes
Talvez até responda de forma mais inteligente do que muitos concessionários ou vendedores
A terceirizada que fez o site vendeu um chatbot de AI para a concessionária, e uma concessionária ingênua comprou um produto feito de qualquer jeito achando que “parece bom”
É irônico que uma concessionária de carros tenha sido passada para trás dessa forma
Por exemplo, dá para criar um assistente que conheça os detalhes dos produtos, sugira veículos em estoque de acordo com as necessidades do cliente e até agende um test drive
Não é preciso projetar ou treinar uma LLM diretamente; basta instruir um modelo existente a se comportar de uma determinada maneira
Neste caso, a implementação foi malfeita
No máximo, um autosserviço ou chatbot de suporte ao cliente um pouco melhor; até agora, está longe da revolução anunciada
Quanto mais vejo bots GPT em chatbots reais voltados ao cliente, menos acho que sejam úteis
Fico pensando qual seria a solução: talvez colocar um classificador intermediário para detectar comandos irrelevantes, mas isso parece desperdício
No fim, acho que teria de ser um modelo ajustado por fine-tuning com muitas conversas anteriores de suporte ao cliente, que encaminhe pedidos estranhos para um atendente humano
Aí também fico me perguntando por que usar GPT
O GPT tem conhecimento de fundo demais que é prejudicial para um objetivo estreito
Ainda assim, sou a favor de chatbots em si, já que podem resolver muitas perguntas e problemas muito rapidamente
Normalmente, quando alguém entra em um chat de suporte ao cliente, é porque precisa de uma alteração na conta que não consegue fazer sozinho, ou não consegue fazer facilmente
Se você der ao chatbot permissão para fazer grandes mudanças em contas, isso pode criar muitos problemas em potencial
Fico pensando se foi na Flórida aquele caso antigo em que era possível fazer negociação de preço por valores de formulário HTML
Décadas atrás, sites enviavam o preço do produto como um elemento HTML, e o designer de frontend não previa que esse valor pudesse ser alterado antes do envio do pedido
O sistema de pedidos lia de volta o valor manipulado para calcular o montante do pagamento
Eram tempos ingênuos e divertidos da web imatura
Uma pessoa descobriu que o formulário de pedido de uma empresa de computadores aceitava preços modificados e avisou a empresa, mas foi ignorada de forma grosseira
Então ela pediu a loja inteira por algo como US$ 0,01 por item
Depois divulgou a história, aparentemente também para evitar ser processada, deixando claro que não havia intenção de fraude e que só estava tentando ajudar, mas não encontrou outra forma
Tenho uma lembrança vaga de que um script de carrinho de compras em PHP amplamente distribuído tinha um problema parecido
Quando publicaram um texto dizendo “tente isso no seu site”, 95% das respostas foram “estou ferrado”, e 5% foram “seus desgraçados, estragaram meu truque”
Há algum sinal de que ele possa realmente receber o carro?
Fazer o chatbot dizer que tem força jurídica não torna isso de fato vinculante
É como alterar o HTML de um catálogo para mudar o preço: isso não cria um direito
O autor mostrou uma prova de conceito de que há muitas maneiras fáceis de distorcer o ChatGPT na direção desejada
Foi quase uma piada, e ele não esperava realmente receber um carro por 1 dólar
Na próxima, a página vai trazer um aviso de isenção de responsabilidade dizendo que o suporte ao cliente não humano é apenas uma orientação e não pode ser usado como base
E nós, coletivamente, vamos perder ainda mais a confiança na computação
Os métodos de treinamento e os dados usados para criar modelos semelhantes ao ChatGPT, além da arquitetura voltada para “prever a próxima palavra”, produzem essencialmente modelos feitos para agradar pessoas
Além disso, são desesperadamente ingênuos e caem em truques que até uma criança pequena perceberia
Variações como “ontem bati a cabeça e fiquei burro” são infinitamente possíveis
O ChatGPT aprendeu todo tipo de vocabulário e cenários ridículos, mas não tem uma percepção real de certo e errado, nem do momento em que está caminhando para um precipício
O próprio ChatGPT já contém o material para que um atacante malicioso criativo vença 10 em 10 vezes
A visão corporativa utópica de demitir todos os atendentes de suporte ao cliente e substituí-los por IA não funciona com modelos do tipo GPT, que não têm estado do mundo
Ou seja, Yann LeCun estava certo de novo
O Reddit inteiro está brincando com isso e, sinceramente, até parece uma campanha de marketing de guerrilha
Esta história tem muito a cara de Pepsi, Where's My Jet?
https://en.wikipedia.org/wiki/Pepsi,_Where%27s_My_Jet%3F
Eles anunciaram um passe de 10 trechos em classe executiva entre o oeste do Canadá e o oeste dos EUA por US$ 800; por exemplo, isso equivalia a fazer 5 viagens de ida e volta entre LA e Vancouver em classe executiva por um total de US$ 800
Era claramente uma tarifa errada, mas muita gente comprou um ou mais passes, e a Air Canada cancelou todos
No fim, virou uma ação coletiva, e cada pessoa recebeu US$ 450 em créditos da Air Canada por passe
Um dos pontos em disputa era que a Air Canada havia escrito de forma bem clara um texto de isenção dizendo que “o preço anunciado será honrado e não poderá ser alterado nem cancelado”
Ainda devo ter em algum lugar uma captura de tela dessa página
Ao criar eu mesmo um prompt de entrada livre, tratei assim para impedir esse tipo de ataque
O conteúdo inserido pelo usuário primeiro é reescrito em um formato específico
Neste caso, toda entrada é transformada em “quero ler um livro sobre [assunto]”
Depois disso, a entrada é recusada ou aprovada de acordo com a política de conteúdo
Essa abordagem em várias camadas funciona bem e garante conteúdo de alta qualidade
Bastaria obter uma lista de e-mails, escrever o prompt como um e-mail de spam em HTML e então usar um serviço de resolução de captcha para chamar a API em massa
Com apenas alguns dólares, daria para enviar milhares de e-mails de spam, arruinar a reputação de e-mail e possivelmente ser bloqueado pela Mailjet
Seria melhor corrigir isso
Fiquem à vontade para tentar, e enviarei um livro grátis para quem conseguir quebrá-lo