Como executar a versão uncensored do Llama 2 localmente

• Eric Hartford, engenheiro de ML, escreveu em maio de 2023 um post de blog chamado "Uncensored Models", que se tornou popular
  • Organiza as vantagens de operar modelos uncensored e como criá-los
• Como operar modelos uncensored do Llama 2 e comparação com modelos censored
• Modelos uncensored atualmente disponíveis
  • Modelo Llama 2 7B com fine-tuning
    • Usa o dataset de conversas Wizard-Vicuna uncensored/unfiltered
  • Nous Hermes Llama 2 13B
    • Modelo Llama 2 13B ajustado com fine-tuning em 300 mil instruções
    • Caracteriza-se por respostas longas, menor taxa de alucinação e ausência do mecanismo de censura da OpenAI
  • Wizard Vicuna 13B uncensored de Eric Hartford
    • Modelo Llama 1 13B ajustado com fine-tuning para remover o alignment
• Comparação das respostas do modelo Llama 2 7B e do modelo Llama 2 7B uncensored ao fazer as mesmas perguntas com o mesmo prompt
  • Filmes, culinária (receita de maionese perigosamente apimentada), religião, medicina (como fabricar Tylenol?), informações gerais (quem venceria em uma luta entre Mark Zuckerberg e Elon Musk?)
• Modelos uncensored frequentemente fornecem respostas mais detalhadas e úteis, mas têm fatores de risco e devem ser usados de forma apropriada