Snowden: nunca confie na OpenAI nem em seus produtos

 (twitter.com/Snowden)
1 pontos por GN⁺ 2024-06-16 | 1 comentários | Compartilhar no WhatsApp
  • Snowden fez um alerta público para nunca confiar na @OpenAI nem em produtos como o ChatGPT
  • O motivo direto do alerta foi a decisão da @OpenAI de nomear o diretor da @NSA/CSS para o conselho
  • Ele afirmou que há “apenas uma razão” para essa nomeação, mas não detalhou qual seria no post
  • Criticou fortemente a decisão, chamando-a de uma traição intencional e calculada aos direitos de todas as pessoas no mundo
  • O post se assemelha mais a um aviso curto e não inclui fundamentos adicionais, exemplos ou formas de resposta

Conteúdo do alerta de Snowden

  • Snowden diz para não confiar na @OpenAI nem em seus produtos
    • Inclui o ChatGPT como exemplo
  • A decisão questionada foi a nomeação, pela @OpenAI, do diretor da @NSA/CSS para o conselho
  • Ele considera essa nomeação uma traição deliberada aos direitos de todas as pessoas no mundo
  • O post termina com “You have been warned”, em formato de aviso direto ao leitor

Leituras relacionadas

1 comentários

 
GN⁺ 2024-06-16
Comentários do Hacker News

  • Você pode discordar do Snowden, como do Stallman, ou achar que a posição dele é extrema, mas é tolice ignorá-lo completamente
    Neste momento, enquanto a sociedade e os legisladores dormem, está acontecendo uma corrida do ouro para contornar a propriedade intelectual e usar as criações de bilhões de pessoas sem atribuição ou compensação

    • Richard Stallman nunca fez nada para abalar a crença de que ele age por princípios enraizados no direito à privacidade e na liberdade individual
      As motivações reais do Snowden são bem menos claras

  • Não precisa que o Snowden diga para não confiar na OpenAI
    Quando conheci a empresa, bastou ler poucas palavras para sentir que eu tinha entrado numa loja de carros usados administrada pelo sujeito que fazia bullying comigo no ensino médio

    • Mesmo assim, muita gente precisa que alguém diga isso
      Você acha melhor simplesmente não dizer nada?

  • Claro que existe uma justificativa legítima para o Nakasone entrar no conselho
    A OpenAI é muito sensível à regulação e, por isso, tem uma grande equipe de lobby tentando puxar o governo dos EUA para o lado deles. Ele traz (a) conexões políticas e (b) a confiança de que qualquer avanço não vai ameaçar a segurança nacional dos EUA. Isso é algo bem comum em conselhos corporativos
    Na prática, mais do que o que a IA realmente consegue fazer, o que está tendo muito mais impacto no mundo é o que se percebe que a IA pode fazer

    • Isso me lembra de gente como Henry Kissinger entrando no conselho da Theranos
      Como saber se essas cadeiras em conselho realmente têm importância ou se são só cargos para ganhar dinheiro fácil e aprovar tudo no carimbo?
    • Exato
      Além disso, ele não foi apenas diretor da NSA, mas também comandante do U.S. Cyber Command, o que é uma experiência muito relevante tanto para a postura de segurança e proteção da OpenAI quanto para vender a clientes do governo e da defesa
    • Se eles querem vender para o governo, isso também faz sentido
    • Na interpretação mais favorável, as conexões dele podem ajudar a impedir que o governo imponha proibições indiscriminadas à IA em geral sem base nos fatos
      Mas acho que, na cabeça da maioria das pessoas, esse assunto vai ser recebido de forma muito negativa
    • Você pode explicar melhor essa parte de que “o que se percebe que a IA pode fazer” tem mais impacto do que a capacidade real?
      Que impacto essa percepção está tendo, e que impacto a IA real está tendo?

  • No mesmo tweet, está escrito: “Isto é uma traição deliberada e calculada aos direitos de todas as pessoas na Terra”
    Para mim, isso soa um pouco exagerado

    • Não conheço os detalhes deste caso específico, mas exagero é algo bem comum no Snowden
      Não o culpo tanto assim. Ele passou por coisas infernais. Só acho que as declarações dele no Twitter claramente não são uma formulação neutra
    • Concordo
      Linguagem alarmista pode ajudar a levantar uma causa, mas é preciso usá-la com parcimônia para não parecer o menino que gritava lobo

  • Vendo esse tipo de situação, a escolha da Apple de integrar o ChatGPT da OpenAI parece ainda pior
    Mesmo com as promessas de privacidade de não expor muita informação e pedir consentimento explícito ao usuário, isso que aconteceu na OpenAI e outros episódios deveriam gerar séria preocupação na diretoria da Apple
    Executivos do alto escalão da Apple disseram que começaram por ali porque o ChatGPT era o melhor. Talvez essa parceria nem dure até esta época no ano que vem

    • Isso me lembra de como o Steve ficou empolgado em integrar Facebook e Twitter como recursos de primeira classe no iOS
      Essa situação parece demais com aquele momento
      Aí também me faz lembrar de como a Siri é ruim. A OpenAI de repente deixou a Apple em situação constrangedora, e a Apple precisa desesperadamente disso para parecer competitiva nessa área. É estranho e triste
    • Pareceu que fizeram isso de forma flexível, para poder encaixar outros modelos
      Se surgirem mais opções, talvez deixem o usuário escolher o modelo
    • Poderiam usar Mixtral, Minstral, XWin, Mythomax, Claude 3 Haiku 196M
      Todos são ótimos e a maioria ou todos são melhores que a Siri
      Acho que o melhor que a Apple pode fazer é deixar o usuário escolher qual IA chamar. Poderiam até chamar isso de uma AI store, como o iTunes ou a App Store. Aí os provedores de IA poderiam competir em privacidade e desempenho. Só que os usuários precisariam de muitos recursos de comparação para decidir o que realmente vale a pena escolher

  • Fonte: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - Ex-chefe da NSA entra para o conselho da OpenAI

  • Faço muitas perguntas ao chatbot sobre vários temas, e ele já provou seu valor várias vezes
    Mesmo assim, certamente não confio nele de fato e mantenho cautela, e também não suspeito fortemente que eu esteja sendo monitorado em detalhes. Só que é difícil imaginar um cenário em que isso seria usado contra mim
    Eu pagaria mais por mais privacidade e também tenho interesse em hospedar por conta própria. Mas, entre meus 99 problemas, este está bem no fim da lista
    No passado, mandei saliva para a 23andMe. Parte desses dados foi roubada e provavelmente estou em alguma lista de judeus asquenazes sendo vendida por aí. É desagradável. Agora não consigo imaginar uma situação em que a vigilância de chatbot vire um problema, mas talvez isso seja só falta de imaginação da minha parte

    • Se seus amigos e os amigos deles todos dissessem que o céu é roxo, você teria coragem de afirmar que ele é azul, mesmo contrariando a sua própria observação?
      Vamos ficar imersos em feedback de IA, e todos serão influenciados por esses conselhos. Na prática, vão desaparecer as “fontes” do tipo Google me mandando para o BuzzFeed e assim eu sabendo que estou lendo um texto lixo. Só porque o ChatGPT disse, tudo passa a vestir uma aparência de autoridade. Este produto é confiança. Você faria a mesma pergunta a um valentão mal-intencionado e ainda revelaria detalhes privados? Não faria
      Mesmo que você sinta que desconfia à vontade, o fluxo de conselhos da IA é como a água e nós somos como peixes. Já estamos sendo influenciados, e se você não sabe como está sendo influenciado, precisa olhar com mais atenção
    • Pode ser uma discussão um pouco diferente, mas o verdadeiro problema de serviços como a 23andMe não é só terem DNA e informações de traços que não podem ser revertidos
      Agora eles também passam a ter DNA e informações de traços de uma faixa bem ampla de parentes, para cima e para baixo na árvore genealógica. Usar esse tipo de serviço é, em essência, vender sua família, e eles não têm escolha
    • É bem provável que a OpenAI venha a oferecer mais do que apenas chatbots
      Mesmo agora, já é possível enviar arquivos para análise
      Não acho coincidência que a Microsoft esteja empurrando o Windows Recall para consumidores, tentando manter um índice permanente de arquivos apagados, empurrando o OneDrive como local padrão de armazenamento para clientes corporativos do O365 e despejando bilhões de dólares na OAI

  • Para quem bloqueou o Twitter, aqui está citado o que parece ser o restante dos tuítes
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • Não bloqueei o Twitter, mas não consigo ver nada lá
      Em uns 80% das vezes, só aparece erro genérico e “tentar novamente”
    • Observação: aquela página do “artigo” mostra um aviso de que vai levar para o x.com
      Está na hora de adicionar mais um item à lista de filtros
      Cliquei no link para ver qual nova tela quebrada eles mostrariam em vez do tuíte. Estranhamente, o link do artigo funciona. Faz muito tempo que isso não acontece comigo

  • Parece relativamente claro que existe algum tipo de cooperação entre a OpenAI e o governo
    Mas por que isso poderia ser algo tão dramaticamente ruim?

    • Provavelmente porque o histórico deles não é lá muito transparente, hehe

  • Mais um se foi
    Adicionei à lista, cancelei a conta paga, apaguei os dados e também deletei a conta
    Está ficando cada vez mais fácil dar um passo atrás em relação a um serviço e pensar se ele é realmente essencial. Em princípio, não é, e no momento em que vira uma relação abusiva, é só remover
    A OpenAI nunca foi um cachorro bonzinho