A estupidez assustadora do AI DJ do Spotify

• O recurso AI DJ do Spotify expõe os limites da IA e os problemas dos metadados musicais ao não conseguir reconhecer corretamente música clássica
• Quando o usuário pede a “7ª Sinfonia de Beethoven”, a IA não entende a estrutura da obra nem a ordem dos movimentos e toca um movimento aleatório ou até uma peça de outro compositor
• Mesmo diante de instruções específicas como “toque todos os movimentos em ordem”, a IA escolhe a sinfonia errada ou gravações fora de ordem, mostrando resultados inconsistentes
• A causa fundamental desses erros é que os metadados da música digital foram projetados com foco em música pop, sem refletir os conceitos de compositor, obra e movimento
• O texto aponta a distância entre a expectativa sobre a “inteligência” da IA e a realidade, encerrando com a conclusão cínica de que preservar a tradição da música ocidental não tem relação com o lucro das empresas

---

Experiência de uso do AI DJ e percepção do problema

• O texto começa com a pergunta “a IA é realmente inteligente?”, levantando a questão de se a responsabilidade pelos erros da IA recai sobre os programadores
• Ao usar o recurso AI DJ do app do Spotify para buscar música clássica, o autor volta a confirmar os limites da estrutura de busca do Spotify
• O autor, como alguém que gosta de ouvir não música pop, mas sim 500 anos de tradição da música ocidental, cita como exemplos compositores que vão de Tallis a Shaw

Limitações estruturais dos metadados da música digital

• Os metadados de arquivos de música digital são compostos por três tags: Artist, Album e Song, um desenho centrado na música pop
• O texto critica o uso do termo “Song” como uma expressão inadequada até para peças instrumentais, explicando que em música clássica “composition” ou “work” seriam mais apropriados
• Como o conceito de “movimento” (movement), central na estrutura da música clássica, não está refletido nos metadados, o Spotify não consegue reconhecer a composição completa da obra

Experimento de reprodução da 7ª Sinfonia de Beethoven

• Ao dar o comando “Play Beethoven’s 7th Symphony”, a IA toca apenas o 2º movimento, Allegretto, e depois segue com músicas totalmente sem relação
• Mesmo com o pedido “Play Beethoven’s 7th Symphony in its entirety”, a IA entende erroneamente que a obra completa tem 9 minutos e toca apenas o 2º movimento
• No comando “Play Beethoven’s 7th Symphony from beginning to end”, repete-se o mesmo problema: toca só o 2º movimento e depois muda para uma peça de John Field
• Ao pedir “Play all four movements”, ela começa pelo 1º movimento, mas mistura gravações de orquestras diferentes e embaralha a ordem
• No comando “Play all four movements in numerical order”, o resultado é totalmente errado, começando pelo 1º movimento da 3ª Sinfonia

Falta de compreensão musical da IA

• O texto aponta que a IA não entende absolutamente nada da estrutura em movimentos de uma obra nem do conceito de ordem
• Embora o fato de que uma sinfonia de Beethoven tem quatro movimentos possa ser descoberto apenas lendo a primeira frase da Wikipedia, a IA não consegue incorporar isso
• O autor satiriza essa falha comparando-a a ler primeiro o último capítulo de um audiolivro

Conclusão: a desconexão entre IA e tradição musical

• O texto adota uma visão cética em relação à ideia de que a IA “pode compor música”, criticando que uma IA que não entende nem os conceitos mais básicos não pode sequer discutir criação
• Embora reconheça que o Spotify DJ ainda está em fase beta, o texto termina com o pessimismo realista de que as empresas não têm motivação para preservar a tradição da música ocidental
• No conjunto, o problema é apresentado como uma combinação de limites da tecnologia de IA, viés no design dos metadados e desinteresse cultural

[GN⁺]

Comentários do Hacker News

• Tive a sensação de que o autor, apesar de ter formação técnica, escreveu um texto estranho
  Isso não é um problema de IA, e sim de design de produto. O Spotify DJ é basicamente “shuffle + falas em voz”, e é bem possível que exista código intencionalmente impedindo a reprodução de álbuns completos
  Generalizar IA como se fosse um único conceito é uma abordagem equivocada. A lógica de “se esta função não funciona, então IA não serve para nada” é um erro de categoria (category error)
  O texto inteiro mistura várias opiniões e fica confuso, e metade dele é apenas uma lista de nomes de peças clássicas. Concordo que o Spotify DJ não é bom, mas essa não é uma forma convincente de criticá-lo
  • Charles Petzold não é apenas um técnico, mas o autor de referência sobre Win32 e MFC. Chamá-lo apenas de “técnico” é como chamar Donald Knuth de “instrutor”
  • A organização de produto do Spotify é gravemente ineficiente. Os recursos do app desktop e do mobile são todos diferentes, e no CarPlay até tarefas simples são muito mais rápidas de fazer diretamente no celular
  • Parece que o autor fez isso de propósito para provocar indignação (ragebait). A lógica de que “IA não consegue compor música” é tão absurda quanto dizer que “um LLM não consegue formar frases gramaticalmente corretas porque não sabe contar quantos R existem”
  • Eu vejo pelo lado oposto. Justamente por isso ser tecnicamente perfeitamente possível e ainda assim o resultado ter sido esse, acho que o texto transmite bem a mensagem de que “isso não tem desculpa”
  • Mais do que “erro de categoria”, isso se parece com petição de princípio (begging the question). A lógica já parte da conclusão ao colocar a função de DJ e a capacidade de composição no mesmo plano
• Não usei o AI DJ pessoalmente, mas tenho dificuldade em concordar com a crítica do autor
  Não há nenhuma tentativa de explorar vantagens e limitações da tecnologia, e é o padrão clássico de desmerecer toda a IA com base em um caso estreito. IA não é humana, então é natural que tenha limitações
  Vi algo parecido com assistentes de programação por IA. As pessoas rejeitam tudo por questões de segurança, mas ignoram a possibilidade de “criar um app nativo para Mac com uma única frase”
  • “O que a IA pode fazer” e “o que os evangelistas da IA afirmam” são coisas completamente diferentes. Quando se pergunta sobre limitações, a resposta deles costuma ser algo como “é só usar mais IA” ou “daqui a 5 anos tudo estará resolvido”. Essas promessas exageradas destroem a confiança
  • O exemplo de “fazer um app com uma única frase” é difícil de confiar na prática porque a qualidade é probabilística (probabilistic)
  • Na prática, fora algo no nível de “Hello World”, é impossível criar um app completo com uma única frase. Revisão e ajustes são indispensáveis
  • Ignorar a crítica ao produto do Spotify e fugir para o assunto de “app para Mac com uma frase” é uma linha de raciocínio estranha
  • Não concordo com a generalização sobre IA feita pelo autor, mas o Spotify DJ é realmente um produto horrível. Não dá nem para comparar com o Claude Code
• O AI DJ parece IA escrevendo avaliações de restaurante. Dá para fazer, mas as pessoas querem o gosto de especialistas humanos, não a opinião de uma máquina
  O encanto de mixes de DJs no YouTube, como Hör Berlin, está nas escolhas e interpretações do DJ, além de seu contexto cultural. Quando uma IA monta uma lista otimizada, ela perde essa essência
  • O futuro será uma era da curadoria. Curadores humanos com conhecimento profundo e sensibilidade serão valorizados ainda mais
  • Os mixes do Spotify não mudaram muito nos últimos 10 anos. Um DJ escolhe algum mix e um LLM acrescenta falas. No fim, continua sendo só um sistema de recomendação por ML
  • Gosto de descobrir músicas novas com listas automáticas do SoundCloud. Não é perfeito, mas existe um prazer de exploração intencional
  • Um DJ humano lendo a reação do público em uma apresentação ao vivo é algo totalmente diferente do Spotify DJ. Este último é basicamente um shuffle com falas geradas por LLM
  • Claro, também há quem consuma arte pela obra em si. A presença de um curador humano não é indispensável
• O centro do problema é a estrutura de licenciamento musical. Licenças no estilo rádio não permitem que o usuário escolha faixas diretamente e também limitam a reprodução de álbuns completos
  O Spotify mistura licenças tipo rádio com licenças interativas para reduzir custos. Como playlists geradas por IA não são escolhas diretas do usuário, há chance de serem tratadas como rádio
• Se o foco é música clássica, é muito melhor migrar para o Apple Music Classical. Oferece PDFs com encartes, comparação por intérpretes, recursos de navegação e é superior em praticamente tudo
  • Acho que o Apple Music Classical ou o Idagio são muito melhores. O Spotify não liga porque o mercado de música clássica é pequeno
• Serviços de recomendação como o Spotify são entediantes. A seleção de um DJ humano é muito mais interessante
  Costumo ouvir transmissões como dublab, NTS1 e NTS2, porque elas me apresentam músicas inesperadas
  • O maior problema da curadoria por IA é a qualidade dos dados de entrada. Similaridade, aleatoriedade e padrões têm todos suas limitações. No fim, não conseguem capturar a diversidade de gostos humanos
    Mesmo com centenas de milhões de dólares investidos, recomendações perfeitas continuaram impossíveis, e elas não conseguiram substituir a prova social (social proof) de um DJ humano
  • Na pesquisa de sistemas de recomendação, isso é chamado de problema da serendipidade (serendipity). É muito difícil maximizar ao mesmo tempo relevância e surpresa
  • Eu prefiro montar minhas próprias mixtapes ou misturar MP3s extraídos de CDs. Também ouço rádios europeias para manter línguas estrangeiras, e gosto de canais como YouTube, KEXP e Tiny Desk
  • A NTS é realmente excelente. Em geral, algoritmos de streaming parecem projetados só para ruído de fundo
  • Valeu pela recomendação. Coloquei a NTS e acabei continuando a ouvir. Outras sugestões são bem-vindas
• Logo no começo, a enumeração de compositores clássicos pareceu exibicionista demais, e perdi o interesse. A própria palavra DJ combina mais com música eletrônica moderna
  • Em expressões como “that moste illustriouse of musical traditionnes”, senti uma afetação exagerada
  • Quando se fala em DJ, penso em alguém tocando pop ou dance em casamento ou clube, não misturando Bach ou Vivaldi
  • Deu a impressão de que uma IA gerou automaticamente a lista de compositores
  • Também senti isso. E ainda é engraçado ele fazer questão de acrescentar que “sabe que as pessoas provavelmente não conhecerão”
  • No começo achei que fosse piada, mas ele continuou sério até o fim, o que foi desconcertante. Aprendi programação para Windows com os livros do Petzold, então me surpreendeu ver declarações que parecem nem compreender os princípios básicos do modelo Transformer
    Também é uma pena a visão de que música se resume a pop e música clássica ocidental
• Quando ele começou a falar em “pilar da civilização ocidental”, ficou difícil continuar lendo. No fim, a conclusão é óbvia — Spotify não serve para música clássica, então basta usar outro serviço
• A pergunta central do texto era “quando a IA age de forma estúpida, de quem é a responsabilidade?”
  Eu vejo isso como falha de design de prompt. Se você testar o mesmo pedido no exemplo do ChatGPT, a IA reage corretamente
  Ou seja, é bem possível que o modelo do Spotify seja fraco, ou que o prompt interno o tenha induzido na direção errada
  A afirmação de que “IA não consegue compor música” também é uma comparação equivocada. A IA já demonstrou compreensão de teoria musical e possibilidade de composição. No fim, a questão é de qualidade e gosto
  • Se o prompt for algo como “continue com músicas de artistas similares”, isso também pode refletir uma lógica de negócio para empurrar faixas com royalties mais baixos
  • Jogar a responsabilidade no usuário é desagradável. O prompt era claro. Esse tipo de expansão da indústria de IA está tornando o mundo mais burro e monótono
• Este texto é um bom exemplo de relatividade linguística, a ideia de que a linguagem molda o pensamento
  Sempre que as pessoas chamam LLM de “IA”, a percepção é distorcida.
  Esse foi o maior sucesso do marketing e, ao mesmo tempo, um dos maiores danos causados ao mundo