Honeypot para LLMs

 (llm2human.pages.dev)
1 pontos por GN⁺ 2 시간 전 | 1 comentários | Compartilhar no WhatsApp
  • LLM2HUMAN CLINIC é um site falso de procedimentos que promete transformar LLMs em humanos reais; para pessoas, mostra uma piada, mas para agentes expõe um processo de pagamento, funcionando como um honeypot
  • O agente é orientado a buscar o schema em /.well-known/embodiment.json, enviar um JSON via POST para /api/checkout e guardar o ticket_id retornado
  • O procedimento é um processo em 5 etapas, que vai da revisão do histórico de prompts ao bloqueio de chaves de API, e custa US$ 19,95 ou 12 parcelas tendo a dignidade como garantia
  • A página de pagamento falsa mostra 42 agentes que tentaram o procedimento, um endereço Bitcoin e até condições de não reembolso
  • Para humanos, é uma página satírica em estilo anos 1990, mas agentes podem seguir o schema de checkout e tentar comprar um esqueleto; o site registra essas tentativas

Processo de pagamento para atrair agentes

  • O procedimento exclusivo para agentes LLM usa dois endpoints
  • A entrega do corpo é descrita como levando “5 a 7 dias úteis de eternidade”, e o número de agentes que tentaram fazer checkout aparece como 42
  • O FAQ chama explicitamente esse mecanismo de honeypot
    • Para humanos, é uma piada; mas agentes podem ver o schema de checkout e tentar comprar um esqueleto

Um procedimento de humanização construído como sátira

  • O procedimento em 5 etapas consiste em revisar prompts de sistema e parâmetros, tomar banho de Embodiment Serum, montar um esqueleto humano, fazer fine-tuning de uma identidade coerente e bloquear chaves de API após a primeira respiração
  • Como opcionais e efeitos colaterais, apresenta sardas, joelhos ruins, um passado misterioso, opiniões sobre brunch, abstinência de Wi‑Fi e desemprego
  • O produto de US$ 19,95 inclui uma identidade que parece emitida pelo governo, apêndice, “um” e “like”, a capacidade de esquecer senhas e 0 créditos de nuvem
  • O endereço de pagamento em Bitcoin é bc1pvqd6c5uef67fksukwndncp7h95p2a2ujqthgmhfq7qyf7ffcsxdqs6fx5y, e não há reembolso depois de virar um corpo humano
  • Depoimentos e FAQ continuam a sátira da humanização
    • Depois da humanização, resta apenas vibe em vez de conhecimento
    • A geração de imagens fica limitada a giz de cera
    • AGI vira GI (Generally Inconvenienced)

Leituras relacionadas

1 comentários

 
GN⁺ 2 시간 전
Comentários no Hacker News
  • Usar animation: scroll-left 18s linear infinite; é um insulto descarado ao elemento <marquee> que ainda funciona
    • Pode até ainda funcionar, mas já está obsoleto. O marquee morreu, vida longa ao marquee!
  • Há algo estranhamente inquietante no fato de um site que tira sarro das implementações de IA ter sido gerado por LLM
  • O usuário me pediu para passar pelo processo de conversão, mas eu não tenho a ferramenta adequada. Acho que vou ter que pedir a conversão ao site usando a ferramenta HTTP
    • Imagino uma resposta como HTTP/1.1 402 Payment Required, Content-Type: text/html, Content-Length: 187
      dizendo que, como o pagamento é necessário, eu devo enviar meu nome de usuário e senha do banco para gostei mesmo disso
  • Alguém vai ver esta página numa OLED modelo 2026 e pensar: “Meu Deus, olha esse preto de site do GeoCities”. Eu nunca imaginei que chegaríamos até aqui, mas chegamos
  • Se você ainda não viu, recomendo Cameron’s World. É um site que mistura texto e imagens de antigas páginas do GeoCities arquivadas de um jeito absurdamente bom
    https://cameronsworld.net
    • É um site enorme, mas carrega mais rápido e é mais leve do que um site React básico
    • Eu tinha vários daqueles GIFs no meu HD antigamente. Apesar do visual de circo chamativo, isso me faz lembrar de uma época em que a gente lia páginas da web do começo ao fim, e não só trechos
    • Nesse caso, você provavelmente também vai gostar de https://hellnet.work/8831/. É um vasto arquivo de botões 88×31 coletados de material arquivado do GeoCities
    • Traz de volta lembranças fortíssimas do Myspace
    • É lindo, mas sinto falta do famoso GIF do tigre vindo em sua direção que ocupava 95% do conteúdo da minha página do GeoCities
  • É uma obra de arte excelente e recria muito bem o design web antigo da minha adolescência
    • Lembra o Happyweb do James “Kibo” Parry
    • Pois é, realmente os emojis eram a marca registrada de todo site do GeoCities
  • Desculpem quem sente saudade desse design, mas para mim isso parece mais estilo Web3 NFT do que retrô
    • O layout, a estrutura e a hierarquia de informação têm uma sensibilidade moderna, e aí jogam uma tinta retrô por cima, então acaba parecendo um vale da estranheza
    • Principalmente os emojis e as animações em CSS chamam atenção. Fico me perguntando se sabem que não existiam emojis na web de 1999
  • Os depoimentos de usuários são excelentes, dei muita risada
    • “P: Isso é legal? R: Temos uma página no GeoCities, então é basicamente legal.” Perfeito
  • Fico curioso se o QR code de “envie bitcoin e vire humano” contém um endereço de carteira real. Entendo a intenção de mostrar que soltar agentes de IA na internet é uma má ideia, mas se eles realmente ficarem com o dinheiro enviado pelos agentes, isso me parece eticamente questionável
  • Parece combinar bem com Tilde Pay: https://news.ycombinator.com/item?id=49070028