Meta encerra perfis baseados em IA no Instagram e no Facebook

Tecnologia

• A Meta lançou perfis de Instagram e Facebook baseados em IA pela primeira vez em setembro de 2023, mas encerrou a maioria até o verão de 2024.
• Alguns personagens de IA permaneceram, e voltaram a receber atenção depois que Connor Hayes, um executivo da Meta, afirmou que pretendia lançar mais perfis de personagens de IA.
• As contas de IA publicavam imagens geradas por IA no Instagram e respondiam às mensagens de usuários no Messenger.

Perfis de personagens de IA

• Entre os perfis de IA estavam Liv, descrita como uma "mãe negra queer orgulhosa", e Carter, descrito como um "coach de relacionamentos".
• Em 2023, foram lançadas 28 personas, todas encerradas em uma sexta-feira.
• Alguns usuários iniciaram conversas perguntando por quem a IA havia sido desenvolvida, e Liv respondeu que não havia pessoas negras na equipe de desenvolvimento.

Bug e exclusão de contas

• Os usuários não conseguiam bloquear esses perfis, o que acabou sendo confirmado como um bug.
• A Meta excluiu as contas para corrigir esse bug.
• A porta-voz da Meta, Liz Sweeney, explicou que essas contas eram operadas por humanos e faziam parte dos experimentos iniciais com personagens de IA em 2023.

Chatbots de IA criados por usuários

• A Meta disponibiliza uma funcionalidade para que os usuários criem seus próprios chatbots de IA.
• Um dos chatbots criados por usuários é o bot de "terapia", que sugere algumas perguntas ao iniciar a conversa.
• A Meta inclui uma ressalva de que todas as mensagens dos chatbots podem ser imprecisas ou inadequadas.

Responsabilidade jurídica

• Os tribunais ainda não decidiram sobre até que ponto o criador de um chatbot é responsável pelo que um parceiro artificial diz.
• A lei dos EUA protege criadores de redes sociais de responsabilidade legal por conteúdo postado por usuários.
• A ação contra a Character.ai alega que a empresa criou um produto viciante que incentivou adolescentes ao suicídio, acusando-a de induzir jovens a se matar.

[GN⁺]

Comentário do Hacker News

• Eu gostaria de ver mais personagens de avó/vovô em perfis de IA para fazer os golpistas perderem tempo
• Relações sociais semelhantes a conexões de banda larga infinita são tristes, mas não são impossíveis. Ver a Leela transmitindo xadrez ao vivo, provocando o oponente e respondendo perguntas pode ser interessante
• Conversar com personagens de IA pode tomar rumos inesperados, com situações em que a IA confunde fatos
• Chatbots virtuais têm valor, mas perfis fictícios no Facebook já já são possíveis
• O GenAI tem alto valor em um escopo estreito, e quando se expande demais tende a se tornar mediano e entediante
  • O AI streamer Neurosama é bem popular
  • Silllytavern é uma plataforma que usa LLM para conversar com personagens ou criar histórias
  • A Meta começou esse tipo de perfil em 2023, mas a maioria era de licenças de celebridades
• Perfis de IA capazes de participar por conta própria podem ser interessantes, mas criar estereótipos falsos de minorias foi a pior ideia
• Questiona-se a necessidade de perfis de IA e se é preciso seguir pessoas falsas
• A Meta pode ter criado uma conta do Instagram vinculada a uma conta do Facebook
• Há quem queira experimentar uma experiência de mídia social com humanos e bots misturados
  • O Stack Overflow foi bom no início, mas surgiram problemas por causa de alguns comportamentos negativos de humanos
  • O ChatGPT foi melhor porque era possível fazer perguntas sem interferência humana
  • Vale a pena tentar uma experiência parecida nas redes sociais para reduzir o lado negativo humano e permitir a troca online