Como pensar sobre a AGI

"Se, no fundo, não dá para saber, não conhecemos o risco e até os especialistas dizem que não sabem, como devemos pensar sobre isso?"

Como pensar sobre a AGI em uma perspectiva histórica

• Desde 1946, com o surgimento dos computadores, começou também o interesse por inteligência artificial (AI)
• A AI é vista como um termo que se refere a uma tecnologia que ainda não foi totalmente concretizada
• O interesse por AGI (Artificial General Intelligence), entendida como uma inteligência baseada em software em nível equivalente ao humano, continua

Divergências de opinião sobre a viabilidade da AGI

• Com o surgimento recente dos grandes modelos de linguagem (LLM), ganhou força a visão de que a realização da AGI está próxima
  • Alguns especialistas preveem que os LLMs podem evoluir para AGI
  • Por outro lado, também há a opinião de que ainda são necessários avanços adicionais para alcançar a AGI
• Também foram levantadas preocupações de que a AGI possa representar uma ameaça à humanidade
• No entanto, nem entre os especialistas há consenso sobre a viabilidade da AGI nem sobre quando ela poderia surgir

Ausência de um modelo teórico para a AGI

• Não existe um modelo teórico consensual sobre o que exatamente é inteligência geral (General Intelligence)
• Também há incerteza sobre por que os LLMs funcionam tão bem e até onde podem evoluir no futuro
• O próprio conceito de AGI tem caráter de experimento mental (Thought Experiment)

Incerteza e riscos em torno da AGI

• Definir a AGI como uma nova forma de vida com emoções e direitos, e assumir que ela será incontrolável, traz o risco de cair em uma lógica circular
• Não é possível ter certeza sobre as características e o potencial da AGI
  • Ela pode ser muito mais inteligente do que os humanos, ou pode apenas ser mais rápida
  • Também pode acabar sendo apenas uma ferramenta útil com inteligência geral no nível de um cão
• As preocupações com os riscos da AGI são reais, mas não é possível saber com precisão a escala nem a natureza exata desses riscos

A inevitabilidade do desenvolvimento da AGI e formas de resposta

• No longo prazo, o avanço da tecnologia de AGI parece inevitável
  • Modelos abertos estão se disseminando, e o desempenho dos chips continuará melhorando
  • Afinal, não é possível proibir a matemática
• Os atritos e o sofrimento causados pelas tecnologias de automação parecem inevitáveis, mas a vida continuará
• Embora seja importante reconhecer os riscos da AGI, parece mais desejável responder com sobriedade do que com medo excessivo

[vwjdalsgkv]

Acho que, sob uma perspectiva baseada em risco, isso é parecido com uma criança ou um homem primitivo vendo o fogo.
Sem saber por qual processo o fogo produz luz e calor, ainda assim a gente descobre, a partir do fenômeno, que às vezes a luz é útil e, em outros casos, o calor é útil, e aprende a usar isso bem.
Mas, como também acabamos sofrendo danos por não entender claramente o fenômeno ou por usá-lo de forma errada, no fim, nesse aspecto, nós somos homens primitivos diante da inteligência artificial.
Ou será que, tirando eu, todo mundo já entende muito bem de inteligência artificial?

[kandk]

É algo óbvio, mas...
Muitas pessoas têm medo da AGI, e acho que este texto pode ajudar.