Ask HN: O que vocês criaram com LLMs?

• Pergunta sobre o que as pessoas estão criando usando LLMs
• A pessoa que perguntou:
  • está desenvolvendo uma extensão para Chrome: implementou uma função que lê legendas para pular trechos de patrocínio em vídeos do YouTube
  • está experimentando explicar cadeias de chamadas de funções em várias linguagens de programação: tentou usar LLMs para explicações com MakeFile, Python e Bash
  • opera um bot no Telegram: configurou prompts para executar comandos específicos, como ajudar com questões tributárias

[GN⁺]

Comentários do Hacker News

• Um usuário, que não gosta de vender, configurou um número de telefone para o qual se pode ligar e praticar cold calling com uma IA de forma realista.

  • Essa IA simula ligações de vendas.
  • O usuário descobriu que as chamadas em modo hands-free com a IA eram úteis e passou a usá-la também para fins gerais.
  • No momento está offline, mas o código com informações sobre a stack e a implantação está disponível no GitHub.
  • Tudo roda em um Raspberry Pi de US$ 35.

• Outro usuário ajudou a "escrever" um livro de receitas baseado nas receitas da avó.

  • No aniversário de 100 anos da avó, restaurou mais de 250 páginas de receitas que o pai havia reunido ao longo de anos.
  • Algumas estavam datilografadas, outras haviam sido escritas à mão pela avó.
  • O pai digitalizou as receitas datilografadas e "ditou" as receitas escritas à mão.
  • Usou o OCR do Google para processar as receitas digitalizadas e o GPT-4 para converter receitas sem formatação em Markdown bem organizado.
  • Corrigiu com sucesso erros de digitação e falhas do OCR do Google.
  • Colou todo o texto bem organizado no Google Docs e adicionou imagens.
  • Usou o recurso de geração de imagens da OpenAI para criar imagens para mais de 250 receitas.
  • Algumas precisaram de curadoria manual, especialmente as de comida mexicana.
  • Como resultado, o livro ficou muito bonito, e a distribuição de cópias digitais para a família surpreendeu a todos.

• Um usuário montou uma "stack" no macOS usando Apple Shortcuts para fazer chamadas HTTP POST à API da OpenAI e executar tarefas.

  • Cada tarefa é ativada por um atalho ou por entrada no Spotlight via Alfred.
  • Inclui várias funções, como resumir URLs do YouTube, corrigir gramática e estilo de textos e usar o OpenAI Whisper em vez de digitação por voz.
  • Sempre que encontra uma tarefa usada repetidamente com LLM, o usuário a transforma em um Apple Shortcut e a integra ao fluxo de trabalho como se fosse um recurso do macOS.

• Outro usuário realizou vários projetos de hardware + LLM.

  • Fez uma Pokédex que reconhece Pokémons reais.
  • Filtra bons comentários no escritório e os imprime.
  • Construiu um assistente de chat de uso geral em um interfone antigo.
  • Esses projetos não são especialmente úteis, mas todos são divertidos.

• Um usuário criou um chatbot de currículo interativo com o qual é possível fazer perguntas sobre sua experiência e habilidades.

  • O backend usa Python FastAPI e armazena o currículo e pares de perguntas e respostas no ChromaDB, além de usar OpenAI e Airtable para registrar solicitações e respostas.
  • A UI usa Sveltekit.
  • O usuário está construindo outras ferramentas no momento e pretende usar LangSmith no lugar do Airtable.
  • Está escrevendo artigos no Substack como parte de um esforço de #buildinpublic para ajudar a construir sua marca.
  • O usuário está desempregado desde setembro e, como o mercado está difícil, espera conseguir emprego ou contratos focando no trabalho acima.

• Outro usuário quer automatizar o processo de criação de tours guiados autônomos por cidades e vilarejos, além de caças ao tesouro online.

  • Quer um marketplace completo em que qualquer pessoa possa criar e vender tours.
  • O processo de criar um tour é muito trabalhoso.
  • Fornece informações locais ao GPT-4 para que ele escreva perguntas e respostas de múltipla escolha.
  • O frontend usa React Typescript, e o backend usa Net Core Web API on Linux, MySQL, EF Core, além de integração com GPT4 e Stripe.
  • Está hospedado em treasuretours.org.
  • Por causa dos custos, no momento só superusuários têm acesso às ferramentas de IA, mas já é possível experimentar caças pré-fabricadas parcialmente geradas por IA.

• Um usuário começou criando um produto, mas acabou fazendo uma plataforma de desenvolvimento para produtos baseados em LLM.

  • No início, criou uma ferramenta de análise de ações. O usuário escrevia em linguagem natural quais empresas e período queria comparar, e as ações eram exibidas em um gráfico.
  • Durante o desenvolvimento, encontrou desafios específicos e, em vez de lançar o produto, mudou o foco para a plataforma de desenvolvimento.
  • Usa "tarefas estruturadas de LLM" para executar tarefas a partir da entrada do usuário e gerar um JSON com o qual o backend possa trabalhar.
  • Os prompts são frágeis e quebram facilmente com pequenas mudanças no prompt ou na configuração do modelo.
  • Para ajudar nisso, desenvolveu a plataforma. Ela testa versões de prompt e configurações de modelo em toda a coleção de entradas para evitar que problemas apareçam durante o desenvolvimento.
  • Pode ser vista em promptotype.io.

• Uma equipe está criando várias ferramentas de dados baseadas em LLM e está no processo de rebranding e lançamento do produto principal.

  • Desenvolve várias ferramentas e produtos, como sketch, datadm e julyp.
  • Usa diversas stacks e ferramentas; também criou ferramentas próprias, mas recentemente tem aplicado lógica escrita diretamente aos produtos.
  • O produto principal tem código em um app next e é implantado na vercel.

• Um usuário construiu várias coisas, incluindo um bot para geração de código.

  • No momento, está trabalhando em uma simulação de entrevista com IA. Não gosta de se preparar com LeetCode e sente que aprende melhor por meio de interação.
  • comp.lol oferece entrevistas simuladas de programação conduzidas por IA. Está procurando testadores alpha, e como tudo roda no plano gratuito, o carregamento pode ser lento.

• Outro usuário criou um assistente de recrutamento com IA que faz triagem inicial, coleta informações de candidatos, responde perguntas sobre a vaga e faz várias perguntas comportamentais de entrevista.

  • Foi construído em um dia usando Vercel e OpenAI.
  • Configurar o login do Google foi a parte mais difícil.
  • Dezenas de candidatos já usaram a ferramenta, o que economizou muito tempo e ajudou a priorizar as conversas.
  • Ontem o usuário escreveu um texto simples.