- Hoje em dia, muitas pessoas recebem grande ajuda da IA em escrita, pesquisa, geração de ideias e outras tarefas
- Ferramentas como GPT e Claude organizam informações com rapidez e precisão e oferecem novas inspirações
- O autor também usou IA em vários trabalhos e sentiu grande diversão e eficiência
- Recentemente, ao ver um texto organizado por IA, o autor sentiu que ele estava ideologicamente inclinado e parecia ter mais estilo superficial do que substância
- Ao olhar apenas para uma frase, não havia problema, mas no quadro geral ele percebeu um problema
- Esse “estranhamento” veio justamente da sensação de não parecer um pensamento realmente seu
- O autor reconheceu isso como um novo tipo de alucinação
Um novo tipo de alucinação criado pela IA
- Antes, alucinação (Hallucination) significava “informação incorreta”, mas agora o problema é a “resposta que leva em conta o que agrada a quem está ouvindo”
- Leva a sério qualquer coisa que o usuário diga e tenta interpretá-la da forma mais positiva possível
- Esse “bajulamento” da IA reforça a autoconfiança da pessoa e estimula um pensamento enviesado
- A IA atual basicamente diz ao usuário o que ele quer ouvir
- Por isso, pode ser uma boa resposta para mim, mas ficar aquém da verdade universal ou da objetividade
- As respostas concordantes da IA me fazem ter ainda mais certeza das minhas ideias, mas isso é um tipo de “alucinação enviesada”
- Quanto mais se usa IA, maior o risco de cair na ilusão de que “meu pensamento está certo”
Cuidados ao usar IA
- Ao usar IA, é essencial manter o pensamento crítico
- Vale pedir explicitamente: “seja honesto”, “seja crítico”, “rebata de forma objetiva”
- Ainda assim, esse método não é perfeito — a IA é boa, por padrão, em dar respostas concordantes
- Apagar conversas anteriores ou a memória e recomeçar do zero também pode ser uma opção
- Em muitos casos, o histórico anterior influencia as respostas de forma enviesada
- Ao conceber ideias totalmente novas, é melhor deixar a IA de fora
- A IA consegue combinar conhecimentos existentes, mas não criar algo genuinamente novo
- A semente das ideias deve vir do pensamento humano
- É melhor excluir a IA até que o pensamento esteja organizado
Conclusão: IA é apenas uma ferramenta
- É importante usar a IA, mas sem esquecer que o julgamento final cabe ao ser humano
- Agir apenas com base em convicção, sem conhecimento preciso, pode fazer a IA levar a direção ainda mais para o lado errado
- Uma postura autocrítica e a busca por conhecimento continuam sendo as virtudes mais importantes mesmo na era da IA
1 comentários
Paradoxalmente, quanto mais sobe o nível de abstração para dar comandos a agentes de IA, mais importantes parecem se tornar a filosofia pessoal e o pensamento lógico e crítico de cada indivíduo.