Declaração de Sam Altman sobre o incidente do coquetel molotov

 (blog.samaltman.com)
1 pontos por GN⁺ 17 일 전 | 1 comentários | Compartilhar no WhatsApp
  • Após o incidente em que um coquetel molotov foi lançado contra sua casa, Sam Altman publicou uma foto de sua família e divulgou uma mensagem para tentar conter a escalada da violência
  • Ele afirmou que o incidente ocorreu em um momento de cobertura inflamatória e ansiedade em relação à IA dirigidas a ele, destacando o poder e a responsabilidade das palavras
  • Definiu a IA como uma ferramenta para expandir o potencial humano e argumentou que a sociedade precisa criar políticas, estruturas de segurança e controle democrático para lidar com isso
  • Ao relembrar os 10 anos da OpenAI, reconheceu tanto conquistas quanto erros e disse que, daqui para frente, será necessária uma operação previsível e estável
  • Descreveu os conflitos na indústria de IA dizendo que “o poder da AGI torna as pessoas irracionais” e pediu soluções por meio de diálogo e processos democráticos, em vez de violência

Visão geral do incidente

  • Após o incidente em que um coquetel molotov foi lançado contra sua casa, Sam Altman publicou uma foto de sua família e fez um apelo para conter a violência
    • O incidente ocorreu por volta das 3h45 da madrugada, e o coquetel molotov ricocheteou na casa, sem deixar feridos
    • Ele explicou que “imagens têm poder” e que divulgar a foto da família foi uma ação para evitar o próximo ataque
  • Mencionou que o incidente ocorreu em um momento de aumento de artigos inflamatórios voltados a ele e de ansiedade social em relação à IA
    • Disse que “palavras também têm poder” e expressou arrependimento por ter subestimado a influência da linguagem e das narrativas

Crenças e valores

  • Define a prosperidade de todas as pessoas e o avanço da ciência e da tecnologia como um dever moral
  • Afirma que a IA é a ferramenta mais poderosa para expandir as capacidades e o potencial humanos e diz que a humanidade fará coisas extraordinárias com ela
    • A humanidade precisa de IA em larga escala, e devemos encontrar uma forma de viabilizá-la

  • O medo e a ansiedade em relação à IA são legítimos

    • A sociedade precisa criar políticas e estruturas de segurança para responder às novas ameaças
    • É necessário fortalecer a resiliência social para superar o período de transição econômica
    • Enfatiza a democratização da IA, dizendo que o poder não deve se concentrar em poucas mãos
    • O controle do futuro deve pertencer a todas as pessoas e instituições, e a tomada de decisão coletiva é indispensável
    • Afirma explicitamente que não é correto que alguns laboratórios de IA decidam o futuro da humanidade
    • Destaca a importância da adaptabilidade
    • Como o ritmo do avanço tecnológico é rápido, é preciso corrigir crenças equivocadas e mudar o pensamento com flexibilidade
    • Ninguém ainda entende o impacto da superinteligência, mas sua escala será enorme

Reflexão pessoal

  • Ao olhar para os primeiros 10 anos da OpenAI, reconhece ao mesmo tempo orgulho e erros
    • Diz ter orgulho da decisão de rejeitar a exigência de controle unilateral nas negociações com Elon Musk
    • Avalia que essa decisão levou à continuidade da OpenAI e às conquistas posteriores
  • Reconhece que sua tendência a evitar conflitos causou grande sofrimento tanto a ele quanto à empresa
    • Afirma que lidou mal com o conflito com o conselho anterior, provocando confusão
    • Descreve-se como “um ser humano imperfeito em situações complexas”, tentando melhorar um pouco a cada ano
  • Reconhece que a OpenAI agora não é mais uma startup, mas uma plataforma importante
    • Enfatiza que, daqui para frente, será necessária uma operação previsível e estável
  • Avalia que a OpenAI concretizou uma missão que parecia impossível
    • Cita como conquistas o desenvolvimento de IA poderosa, a construção de infraestrutura em larga escala, a transformação em produto e em modelo de negócios, e a oferta em larga escala de serviços seguros e robustos
    • Diz que é “uma das muitas empresas que disseram que mudariam o mundo e de fato conseguiram”

Visão sobre a indústria

  • Explica a causa dos conflitos dramáticos e da competição recentes na indústria de IA com a ideia de que “quem viu a AGI não consegue mais voltar ao que era antes”
    • A AGI, como “o anel do poder”, tem a força de tornar as pessoas irracionais
  • Apresenta como solução o compartilhamento amplo da tecnologia e o controle democrático
    • O ponto central é ampliar a capacidade individual e preservar a primazia dos sistemas democráticos
  • Enfatiza que os processos democráticos devem ser mais fortes do que as empresas
    • Leis e normas podem mudar, mas devem mudar dentro do processo democrático
    • Empresas podem ter voz, mas não devem deter todo o poder
  • Avalia que as críticas à indústria de IA vêm de preocupações sérias com o enorme impacto da tecnologia
    • Diz acolher críticas e debates de boa-fé e afirma ter empatia com o sentimento antitecnologia
    • Ainda assim, no geral, está convencido de que o avanço tecnológico pode conduzir o futuro da humanidade a uma direção melhor
  • Em meio ao acirramento do debate, faz um apelo para reduzir a retórica e as ações violentas
    • Disse que “seja em sentido figurado ou literal, menos explosões precisam acontecer em menos lares”

Leituras relacionadas

1 comentários

 
GN⁺ 17 일 전
Opiniões do Hacker News

  • É legítimo criticar Sam Altman ou outros líderes de tecnologia, mas não há absolutamente nenhuma justificativa para violência ou ameaças contra ele ou sua família

    • Isso faz pensar sobre a equivalência moral entre torturar uma pessoa e causar um pequeno sofrimento a milhões
      Em casos como o da família Sackler, que destruiu a vida de inúmeras pessoas, fica a pergunta: isso é um mal que “merece” violência, ou a forma jurídica da empresa acaba absorvendo toda a responsabilidade?
      Na visão dessa pessoa, no capitalismo moderno, a estrutura de LLC/Corporation está chegando a um limite moral por funcionar quase como uma espécie de absolvição
    • Houve recentemente a polêmica de que a OpenAI forneceu tecnologia para ações de guerra, então essa pessoa diz que não entende Sam se surpreender por estar em risco nessas circunstâncias
      Quando se participa de ações letais, é natural que haja reação
    • Há até conversa sobre “parceria com o Departamento de Defesa”, então fingir que isso não existe não faz sentido
    • Alguém pergunta se já ouviram falar de “Suchir Balaji”, mas o contexto não está claro

  • Essa pessoa discorda de Sam Altman em muitos pontos, mas ataque físico nunca pode ser justificado
    Atacar a família, em especial, é algo inaceitável

    • Perguntam qual é a opinião do HN sobre “Luigi Mangione”, mas não há discussão relevante em seguida

  • Ao longo dos últimos dez anos ou mais, com o avanço da sociedade, a tendência de tentar monetizar tudo parece ter ampliado o ceticismo das pessoas
    Por isso, mesmo quando algo ruim acontece com alguém, vivemos numa época em que até a reação pública a isso é vista com desconfiança: “é marketing ou é sincero?”

    • Essa postura cética também pode ter um lado saudável
      Isso lembra o ‘mito da caverna’ de Platão, como um alerta para não julgar apenas pela superfície da informação
      Depois de casos como Snowden, Epstein e Abu Ghraib, o público deixou de acreditar cegamente no que dizem os poderosos
      Sam Altman de fato está numa posição perigosa, mas isso não justifica o ataque
      Ainda assim, dentro dessa cultura de desconfiança, especulações e suspeitas vão continuar

  • Esse tipo de caso é terrível, mas não surpreendente
    A cada trimestre há demissões, e tudo o que se ouve é que a IA vai substituir empregos
    Está difícil até sustentar o padrão mínimo de vida que a geração dos nossos pais conseguia ter, e ainda por cima existe uma pressão para celebrar o avanço tecnológico
    Sam é visto pelo público como ‘o rosto da IA que ameaça nossa subsistência’

    • Essa pessoa sente que Sam e os que o cercam fazem declarações provocativas na TV e alimentam a raiva das pessoas
      Algumas pessoas que ouvem isso podem achar que não têm mais nada a perder

  • Essa reação extrema contra Sam Altman causa espanto
    Essa pessoa acha que ele não é um bom administrador da tecnologia, mas violência nunca pode ser justificada
    Também considera inadequado que ele conecte reportagens negativas a este incidente
    Ele frequentemente conduz a conversa com uma narrativa apocalíptica, e isso influencia tanto investidores quanto pessoas extremistas

    • Mas há quem diga que o próprio Sam justifica a violência
      Criticam o fato de ele ter fornecido IA para sistemas letais por meio de contratos com o Departamento de Defesa dos EUA, e dizem que por isso ele não tem autoridade para condenar a violência
    • Como Sam já mentiu várias vezes, há quem diga que é difícil confiar nele, como no conto do menino que gritava lobo

  • O caso é terrível, mas essa pessoa acha problemático que Sam use isso para atacar a cobertura da imprensa
    Fica a impressão de que ele sempre tenta construir uma imagem de vítima para manipular a opinião pública
    Esse texto também não vai impedir pessoas desequilibradas, mas parece ter a intenção de provocar simpatia nas pessoas

  • Numa sociedade bárbara em que a violência se torna cotidiana, protestos pacíficos perdem o sentido

    • Pior ainda: a violência pode se manter não necessariamente por causa da maioria, mas por uma minoria ignorante ou omissa

  • Isso faz lembrar uma experiência de despejo em moradia alugada vivida no ano passado
    O novo proprietário foi gentil no início, mas dois dias depois entregou um aviso de despejo
    Claro que isso causou raiva, mas essa pessoa não reagiu com violência

    • Se houvesse um contrato de locação, o novo proprietário não poderia expulsar o morador até o fim do prazo contratual

  • A frase “quando você vê a AGI, não consegue mais fingir que não viu” soa como uma metáfora com o Anel de ‘O Senhor dos Anéis’
    Mas essa pessoa considera a comparação errada
    O Anel precisa necessariamente ser destruído e, até lá, alguém precisa carregá-lo
    Sem essas duas condições, a analogia não se sustenta
    Já cansou discutir extinção da humanidade ou dominação da IA com esse tipo de metáfora frouxa

  • Dá a sensação de que Sam está jogando coquetéis molotov em todos nós
    Desta vez talvez tenhamos escapado por sorte, mas na próxima pode não ser assim