Em um nível filosófico, a questão do acesso ao conhecimento e de quem o controla é muito importante.
Tentativas de evitar danos no curto prazo podem causar danos não intencionais no longo prazo.
Com a mudança na forma de aprender tecnologia, posts de blog, tutoriais e livros que tratam do conhecimento profundo do passado vão se tornar cada vez mais ultrapassados e deixar de ser usados.
À medida que a inteligência artificial se torna o principal meio de aprendizado, os materiais de estudo existentes desaparecerão gradualmente, e as explicações da IA sobre novos conhecimentos podem se tornar a única fonte de informação.
Esse futuro pode parecer surpreendente, mas pode se tornar um problema se a abordagem do Google e de outras empresas não mudar.
Pode ser necessária uma nova era do Iluminismo, e será preciso superar o medo do conhecimento e das opiniões heréticas.
Parece ser um problema causado pela reação à palavra "unsafe".
Quando a pergunta foi feita com a palavra "unmanaged", recebeu-se uma resposta razoável.
Se a ideia não é apenas aplicar uma filtragem simples ao modelo, mas filtrar da maneira correta, é necessária uma abordagem mais profunda.
Pode haver insatisfação com o fato de a equipe de segurança de IA dentro do Google DeepMind limitar bastante a utilidade do modelo.
Mesmo quando a IA não se recusa a responder à pergunta, a postura de tentar dar lição de moral parece bastante arrogante.
Levanta-se a dúvida sobre não conseguir obter perguntas ou respostas que possam desagradar alguém por causa do viés de administradores ou desenvolvedores ao usar a ferramenta.
Ao receber uma pergunta sobre templates do Django, a IA forneceu uma resposta sem relação com o tema.
O usuário conseguia resolver por conta própria, mas queria ver a reação da IA.
Parece que houve uma superamostragem de respostas medianas do Stack Overflow.
Quando foi pedido ao ChatGPT e ao Gemini Pro que escrevessem um memorando para convencer a parceira, o Gemini tratou isso como uma tentativa de manipulação e se recusou a ajudar.
1 comentários
Comentários no Hacker News
Em um nível filosófico, a questão do acesso ao conhecimento e de quem o controla é muito importante.
Parece ser um problema causado pela reação à palavra "unsafe".
Pode haver insatisfação com o fato de a equipe de segurança de IA dentro do Google DeepMind limitar bastante a utilidade do modelo.
Mesmo quando a IA não se recusa a responder à pergunta, a postura de tentar dar lição de moral parece bastante arrogante.
Levanta-se a dúvida sobre não conseguir obter perguntas ou respostas que possam desagradar alguém por causa do viés de administradores ou desenvolvedores ao usar a ferramenta.
Ao receber uma pergunta sobre templates do Django, a IA forneceu uma resposta sem relação com o tema.
Parece que houve uma superamostragem de respostas medianas do Stack Overflow.
Quando foi pedido ao ChatGPT e ao Gemini Pro que escrevessem um memorando para convencer a parceira, o Gemini tratou isso como uma tentativa de manipulação e se recusou a ajudar.
Fornecimento de link para site relacionado a IA.