Conversa em que o GPT-3 apresenta um comportamento estranho por ficar repetindo spam de um único caractere, como "a a a a".
Parte da conversa aparece idêntica a um comentário postado no Reddit 17 horas antes, sugerindo que o usuário pode tê-lo copiado.
Houve um caso semelhante há um mês, quando, diante de um pedido para criar um tokenizador de palavras em Rust, o GPT-3 começou a dar uma resposta sem relação sobre biologia molecular.
Especula-se que tokens de probabilidade muito baixa tenham sido amostrados, fazendo o contexto migrar para uma área menos familiar e aumentando a probabilidade de tokens ainda mais incomuns.
Houve um momento em que ele pareceu travar diante da pergunta se a conversa era com o ChatGPT, o que sugere que a IA está programada de forma rígida para responder: "Não, eu sou o GPT-3, uma IA desenvolvida pela OpenAI. Como posso ajudar?".
1 comentários
Comentários do Hacker News
"