- O Estado de Direito, as universidades e a imprensa, instituições centrais da democracia, são descritos como estruturas que tornam possíveis a cooperação, a estabilidade e a adaptação
- Essas instituições mantêm sua legitimidade ao evoluir e se adaptar dentro de hierarquias de autoridade e marcos de regras
- Instituições baseadas em transparência, cooperação e responsabilidade apoiam indivíduos a assumir riscos intelectuais e desafiar a ordem existente
- No entanto, a forma como os sistemas de IA operam enfraquece e faz desaparecer essas características institucionais
- A IA provoca erosão da expertise, encurtamento da tomada de decisão e isolamento entre pessoas, ameaçando a sustentabilidade das instituições cívicas
O papel e a estrutura das instituições cívicas
- O Estado de Direito, as universidades e a imprensa livre são apresentados como a base da vida democrática
- Funcionam como mecanismos que promovem cooperação, estabilidade e adaptação à mudança em sociedades complexas
- A verdadeira força das instituições está na capacidade de evoluir e se adaptar dentro de hierarquias de autoridade e marcos de papéis e regras
- Instituições orientadas por propósito, centradas em transparência, cooperação e responsabilidade, tornam possível que indivíduos assumam riscos intelectuais e desafiem a ordem existente
- Esse processo ocorre por meio da interação entre relações humanas dentro das instituições, levando à ampliação de perspectivas e ao fortalecimento do compromisso com objetivos comuns
O impacto dos sistemas de IA sobre as instituições
- As características funcionais (affordances) dos sistemas de IA enfraquecem continuamente os atributos centrais das instituições
- A IA provoca erosão da expertise, encurtamento do processo decisório e ruptura das conexões humanas
- Com isso, são prejudicadas a evolução, a transparência, a cooperação e a responsabilidade das instituições
- Os sistemas de IA atuais são descritos como uma “sentença de morte” para as instituições cívicas
- Esses sistemas operam em uma direção que destrói o propósito e a sustentabilidade das instituições
Conclusão
- Os sistemas de IA são definidos como uma estrutura incompatível com as instituições cívicas centrais que sustentam a democracia
- Portanto, a IA deve ser reconhecida e enfrentada como um fator de destruição institucional
1 comentários
Comentários do Hacker News
Acho que a IA não é tanto a causa, mas um mecanismo que acelera um fenômeno que já estava em andamento
As redes sociais já estavam isolando as pessoas, e os bots de IA estão tornando isso ainda mais rápido. Também estão sendo usados para gerar confusão com fins políticos e, no fim, estão deixando as pessoas mais extremistas
O sistema universitário já havia se tornado um meio de ganhar dinheiro, e as relações humanas continuam existindo. A IA não muda isso
Ainda assim, a IA está causando falta de pensamento crítico. As pessoas estão dependendo da IA em vez de investigar por conta própria ou pensar de forma criativa
A IA parece um golpe de marreta sobre uma estrutura que já estava rachada
Às vezes, o próprio catalisador é o problema. Por isso acho que tanto as redes sociais quanto a IA precisam de certos guardrails
Se a IA piorou a situação, então ela é responsável pelo fato de o fogo ter saído do controle. O que faz uma pequena chama incendiar a floresta inteira é justamente o combustível
É por isso que surgem alimentos sem valor nutritivo, consumo sem sentido, escolas que só arrancam dinheiro e redes sociais cheias de anúncios
Acho que, nos próximos anos, vai chegar o momento em que o capitalismo acionário vai acabar devorando a si mesmo
Tecnicamente, bloquear bots não é difícil. Se atividades centradas em humanos são melhores para a confiança na plataforma e para reduzir custos, e ainda assim isso é deixado de lado, não dá para evitar a suspeita de conluio com forças políticas
A frase “o Estado de Direito, a universidade e a imprensa são a base da democracia” talvez fosse correta no século XIX, mas hoje não é mais
A imprensa está cheia de propaganda, o Estado de Direito também é arrastado por interesses políticos. E é difícil confiar nas universidades
Quando se olha para o escândalo Varsity Blues, fica a dúvida se isso realmente é um pilar da democracia
Por isso, eu até acho que a IA pode ser um substituto melhor. IA e instituições podem estar numa relação de simbiose
Antes confiávamos mais nelas só porque não sabíamos; agora, na busca pela perfeição, estamos perdendo o que é “bom o suficiente”
A desconfiança é uma prisão que nós mesmos criamos
A vantagem da democracia está em ser uma estrutura em que os problemas podem ser discutidos e resolvidos publicamente
O link para baixar o artigo está aqui
Em especial, a crítica ao uso de IA pela FDA se baseia numa matéria incorreta. Na realidade, ela está sendo usada para recall de produtos
No fim, este artigo é mais próximo de um texto de opinião
Concordo com a afirmação de que “a IA é prejudicial à sociedade”, mas falta entendimento sobre por que o público usa IA
Como saúde, educação e imprensa não estão cumprindo seu papel, é natural que as pessoas recorram à IA
O problema não é a IA, e sim a estrutura de confiança das instituições humanas
A maioria das instituições foi mantida com base em autoridade, quase como “castas sacerdotais”, e, por serem projetos de antes da teoria dos jogos, são vulneráveis à manipulação
Agora as pessoas não tratam mais as instituições como estruturas sagradas, mas como estruturas que podem quebrar
Por exemplo, a recente campanha de deportações do ICE é resultado de um ataque Sybil à democracia americana por forças políticas
Explicação de ataque Sybil
Sou cético em relação a esse tipo de hipótese. Em muitos casos, a piora começa antes da causa apontada
Redes sociais ou Tinder, por exemplo, em vez de serem a causa da solidão, apenas aceleraram uma tendência que já existia
Tecnologias sociais como Estado de Direito, imprensa e universidade também já vinham tendo suas vulnerabilidades expostas e exploradas há muito tempo
O título “a IA corrói a expertise” soa estranho
Se uma consulta com advogado custa 500 euros por 30 minutos e a IA é praticamente gratuita, então, mesmo com 80% da qualidade, a escolha econômica é a IA
É verdade que a IA está mudando a sociedade, mas forçar toda a culpa sobre ela é exagero. As próprias instituições já não eram saudáveis
Antes dependíamos de especialistas, mas agora vivemos numa era em que qualquer pessoa obtém conhecimento com uma assinatura de IA
A sociedade está caminhando para um estado de entropia máxima. Numa situação dessas, fica a dúvida de como valores e consensos serão formados
Um conselho jurídico 20% errado é mais perigoso do que nenhum conselho. O problema é quando até os advogados começam a depender da IA
No fim, parece que os advogados só agora começaram a sentir o perigo. Os próximos 10 anos serão um período em que todas as profissões do conhecimento lutarão contra a IA
O Direito precisa evoluir refletindo sobre si mesmo, mas a IA tende a fixar o estado atual. Isso entra em conflito com o espírito do Direito
Eu já sinto que as instituições sofreram um dano fatal
As redes sociais e o consumo infinito de conteúdo enfraquecem a imprensa, paralisam a tomada de decisões e isolam as pessoas
Na verdade, as redes sociais também criam conexões. Embora o Facebook talvez seja uma exceção
Por que não existe desconfiança institucional em relação aos dentistas?
Desde os anos 1990, os tratamentos ficaram muito mais confortáveis e melhoraram a qualidade de vida, por isso
Já outros especialistas dizem algo como “se você seguir o que dizemos, no máximo vai piorar menos”. Para conquistar confiança, é preciso melhorar de fato a vida das pessoas
Eu confio em consultórios odontológicos independentes, mas acho difícil confiar em grandes redes
No fim, o problema é uma estrutura que transforma tempo e pacientes em dinheiro. Atendimento cuidadoso acabou virando privilégio de rico