O que é inteligência? (2024)

• Explora filosófica e tecnicamente o conceito de ‘inteligência’ entre humanos e inteligência artificial, reexaminando sua definição e essência
• Define inteligência não como mera capacidade de cálculo, mas como capacidade generalizada de adaptação ao ambiente e resolução de problemas
• Compara a inteligência biológica e a artificial, apontando compreensão de contexto e orientação por objetivos como elementos centrais
• Explica que o avanço da inteligência artificial funciona como um espelho que nos permite compreender mais profundamente a natureza da inteligência humana
• Essa discussão oferece implicações importantes para redefinir os rumos da pesquisa em IA e a filosofia de design centrada no ser humano

---

Definição e essência da inteligência

• O texto define inteligência não simplesmente como processamento de informação ou capacidade de cálculo, mas como uma capacidade generalizada de se adaptar ao ambiente e atingir objetivos
  • Inteligência não é uma técnica para resolver um problema específico, mas sim a flexibilidade de aprender e resolver novos problemas
  • Portanto, a inteligência é descrita não como uma propriedade estática, mas como um processo dinâmico que muda conforme a situação e o contexto
• Argumenta-se que a inteligência humana está profundamente ligada à consciência, emoção e interação social, e que isso não pode ser reduzido a um simples cálculo algorítmico
  • O pensamento humano inclui definição de objetivos, juízo de valor e inferência baseada na experiência
  • Esses elementos são apontados como áreas que os sistemas atuais de inteligência artificial têm dificuldade de imitar

Comparação entre inteligência artificial e inteligência biológica

• A inteligência artificial executa tarefas por meio de aprendizado de padrões baseado em dados, enquanto os humanos resolvem problemas por meio de compreensão contextual e interpretação de significado
  • A IA aprende correlações estatísticas, enquanto os humanos reconhecem relações causais e intencionalidade
  • Essa diferença mostra que a essência da ‘inteligência’ está mais na capacidade de construir significado do que na simples velocidade de processamento de informação
• Enquanto a inteligência biológica foi formada sob pressões evolutivas e objetivos de sobrevivência, a inteligência artificial opera com base em funções-objetivo projetadas por humanos
  • Assim, a ‘inteligência’ da IA é caracterizada como uma forma artificial subordinada a finalidades externas
  • A inteligência humana inclui estruturas motivacionais intrínsecas, como autopreservação e cooperação social

Componentes da inteligência e o problema da medição

• O texto apresenta aprendizado, raciocínio, memória, planejamento e criatividade como componentes principais da inteligência
  • Esses elementos interagem entre si e produzem comportamento adaptativo em determinados ambientes
  • Por exemplo, a criatividade é descrita como uma expressão de alto nível da inteligência que recombina conhecimentos existentes para propor novas soluções
• Também se destaca a dificuldade de medir a inteligência
  • Testes de QI ou benchmarks medem apenas certos tipos de capacidade de resolução de problemas e não refletem a natureza complexa da inteligência real
  • Portanto, para avaliar a inteligência, é preciso considerar também adaptabilidade contextual e capacidade de generalização

Questões filosóficas levantadas pelo avanço da inteligência artificial

• O rápido avanço da inteligência artificial recoloca a pergunta fundamental: ‘qual é a essência da inteligência?’
  • Quanto mais a IA imita a linguagem, a criação e o julgamento humanos, maior se torna a necessidade de investigar onde reside a inteligência propriamente humana
  • Isso se expande de uma simples questão técnica para um problema ontológico e ético
• O texto explica que a IA funciona como um espelho da inteligência humana
  • Por meio das limitações e erros da IA, é possível compreender com mais clareza a estrutura e os pontos fortes do pensamento humano
  • Assim, a pesquisa em IA é interpretada como um processo de ampliação da compreensão do humano

Direções futuras da pesquisa sobre inteligência

• Enfatiza-se que a pesquisa futura sobre inteligência deve incluir design centrado no ser humano e considerações éticas
  • Além das conquistas técnicas, é preciso avaliar também o impacto da inteligência sobre a sociedade e a vida humana
  • Isso se conecta ao problema do ‘value alignment’, isto é, projetar sistemas de IA para refletirem valores e objetivos humanos
• Redefinir a noção de inteligência é apresentado como um processo de fortalecimento da base filosófica do desenvolvimento de IA
  • O avanço tecnológico pode aprofundar a compreensão da inteligência humana e servir como uma oportunidade para reconstruir o significado da inteligência
  • Em última instância, a pesquisa sobre inteligência deve avançar na direção de explorar a co-evolução (co-evolution) entre humanos e máquinas

[GN⁺]

Comentários do Hacker News

• Este livro claramente precisava muito de um editor
  Há cerca de 100 títulos de capítulos que parecem ter sido criados por associação em estado de delírio, e cada seção parece uma tentativa artística de confundir o leitor
  Há muitos diagramas complexos e jargões ligados ao conteúdo só de forma vaga, e ainda tem scroll hijacking, o que o torna difícil de ler
  Como o total chega a 600 páginas, imagino que a maioria não vá ler do começo ao fim

  • Em termos retóricos, isso é uma espécie de estrutura de "Yes-set"
    Ou seja, conduz o leitor ao acordo na sequência fato verificável → verdade óbvia → opinião amplamente aceita → afirmação sem fundamento → conclusão banal
    Esse tipo de estrutura é muitas vezes uma técnica de persuasão usada por líderes de seitas ou oradores políticos, para inserir de forma sutil alegações com base lógica fraca
    A parte do livro sobre cibernética e teoria da computação foi bem pesquisada, mas não é original nem apresenta uma tese integrada
    Ao misturar biologia e cinema, ele acaba perdendo foco
    O autor tem opiniões fortes sobre IA, mas parece tentar escondê-las num sanduíche de persuasão em vez de argumentá-las diretamente
    Referências relacionadas: Compliment Sandwich, artigo History of Computing
  • O vídeo de uma palestra de 1 hora do autor resume a ideia central do livro
    Não li o livro inteiro, mas acho que valeria mais a pena ler a teoria de processamento preditivo de Karl Friston ou Andy Clark
  • Eu, pelo contrário, gostei bastante de ler este livro do começo ao fim
    O design do meu site é mais confortável de ler, mas a estrutura estranha deste livro me pareceu justamente parte do charme
  • Se você gosta desse tipo de texto, recomendo o artigo A Definition of AGI
  • Tive uma impressão parecida
    Hoje em dia, quando vejo textos nesse estilo, sinto ambiguidade intencional ou uma abordagem pseudoespiritual/pseudocientífica, então simplesmente passo adiante

• Não dá para deixar de fora 『Universal Artificial Intelligence』, de Marcus Hutter, nessa discussão
  O livro apresenta uma definição matemática de inteligência e os fundamentos da tomada de decisão baseada em probabilidade algorítmica
  Os limites da tecnologia atual de IA também podem ser explicados dentro desse arcabouço

  • Se alguém aqui leu esse livro, gostaria que explicasse de forma mais concreta como a lacuna da IA é descrita dentro desse modelo

• Queria perguntar se alguém realmente leu este livro
  Li mais ou menos metade, e achei interessante a ideia de que a autorreplicação emerge naturalmente em um universo computacional
  Lembra um pouco a visão de mundo do Wolfram, mas essa tentativa de conectar várias áreas é estimulante
  Funciona bem como divulgação científica

  • Eu também li até o fim. Precisa mesmo de alguma edição, mas gostei da viagem passando por biologia, física, ciência da computação e finanças
    Em especial, achei marcante a ideia de que “a replicação começa com uma cópia ruim”
    É interessante o processo pelo qual um sistema começa com cópias imperfeitas e vai melhorando até alcançar a replicação
    Acho que essa ideia também se aplica a startups, ideias e sistemas financeiros
    Como bônus, procurem o bug no código brainfuck da versão online
  • Não tenho interesse em consciência ou inteligência
    Acho que o significado surge da mudança de estado
    Os humanos são geradores complexos de significado, e como o universo está preso à entropia, há um limite de tempo
    Nesse meio-tempo, vejo que somos seres que irradiam significado como estrelas irradiam luz

• Não li o livro diretamente, mas o autor parece defender que uma grande parte da inteligência humana pode ser reproduzida por IA
  Ou seja, é a visão de que sistemas não vivos também podem exibir comportamento inteligente
  Mas a IA não tem contexto corporal (embodiment), então é difícil considerá-la uma inteligência igual à humana
  Para entender a origem da inteligência humana, 『A Dynamic Systems Approach to the Development of Cognition and Action』, de Ester Thelen, é um ótimo ponto de partida
  O livro explica que o desenvolvimento humano não ocorre por um programa genético fixo, mas pela interação de tentativa e erro
  No fim, acho que a arte de cuidar e educar é a chave para o avanço da civilização

  • Eu não vejo problema em usar a palavra ‘inteligência’ também para sistemas artificiais
    O qualificativo ‘artificial’ já cria a distinção necessária
    Mas eles não podem ter vontade (will). Seus objetivos são, no fim, apenas a vontade do programador
  • Então um paciente com síndrome do encarceramento deveria ser visto como tendo outro tipo de inteligência, já que sua experiência corporal é limitada?
  • Muitos animais já nascem com habilidades geneticamente programadas, como andar. Não dá para explicar tudo apenas como aprendizado

• A postura do autor de que “isto não é filosofia, e sim ciência na trilha de Turing” soa como desprezo pela filosofia disfarçado de humildade
  A tese central, “imitação é inteligência”, pode ser refutada facilmente com exemplos sociais
  Por exemplo, um ator pode interpretar perfeitamente um gênio sem de fato ser um gênio
  Ou seja, gerar frases plausíveis não é a essência da inteligência
  A inteligência humana vem de raciocínio fundamental e reconhecimento sensorial de padrões, e isso ainda é uma área que a IA não alcançou

  • Mas se a imitação perfeita fosse possível, esse ator não seria de fato indistinguível de um gênio e, portanto, acabaria sendo um gênio?

• Até uma rede neural simples é um aproximador universal (universal approximator), então tanto um cérebro biológico quanto um cérebro artificial podem, no fim, ser entidades que aproximam as funções complexas do mundo

  • Faz sentido, mas isso ignora o papel do modelo de mundo (world model)
    Inteligência não é apenas aproximar entrada e saída, mas a capacidade de aprender estruturas causais, simular e planejar
    Os LLMs só parecem inteligentes porque já incorporam conhecimento expandido pela inteligência humana
    A verdadeira pergunta é se conseguem construir por conta própria modelos causais
    Os LLMs atuais são bons em interpolação (interpolation), mas fracos em extrapolação (extrapolation)
  • A definição de estado (state) e próximo estado não está clara
    Entradas sensoriais chegam em diferentes ciclos e posições, então simplificar isso demais pode fazer com que informações importantes se percam

• Em uma entrevista que ouvi há algum tempo, havia a hipótese de que o raciocínio (reasoning) humano evoluiu mais para persuasão social do que para pensamento lógico
  Ou seja, nós criamos razões para persuadir os outros ou justificar nossas próprias ações
  Nesse sentido, sinto que a previsão do próximo token dos LLMs é parecida com a estrutura da conversa humana
  Acho que era uma pesquisa de Hugo Mercier

  • Segundo o artigo de Mercier, o raciocínio evoluiu não como apoio cognitivo individual, mas como ferramenta de debate social
    Ver Why do humans reason?
  • Eu acho que lateralidade manual (handedness) e fabricação de ferramentas explicam a origem da linguagem e do raciocínio
    Para fabricar ferramentas e transmitir conhecimento, eram necessários ensino e colaboração
    Citação relacionada: trecho da Cambridge
  • Os humanos escolhem palavras de improviso ao falar, mas já sabem qual conceito querem transmitir
    Já os LLMs lidam apenas com palavras, não com conceitos
    A linguagem é só uma ferramenta criada por humanos; ideias e linguagem são coisas separadas
  • O propósito da linguagem não é descrever a realidade com precisão, mas abstraí-la para persuadir os outros, o que é semelhante ao argumento de 『Language vs Reality』, de N.J. Enfield
  • Eu gostaria de propor um teste de Turing evolutivo
    Seria um método de medir o quanto isso se aproxima da conversa humana aumentando gradualmente o número de palavras previstas pelo autocompletar do smartphone

• Este livro trata da centralidade da previsão, da estrutura social da inteligência, da função de compressão da linguagem e dos limites de sistemas isolados
  Mas a questão central é se a verdadeira inteligência é possível apenas com princípios puramente computacionais ou se exige imanência/incorporação ambiental
  Eu acho que custo e eficiência conduzem todo aprendizado
  Como sistemas biológicos precisam sustentar a próxima geração, a inteligência se torna um processo de exploração otimizado por pressão econômica
  Texto relacionado: What the Dumpster Teaches

  • Seguindo essa lógica, uma chaleira elétrica também seria inteligente?
    Simplesmente medir a temperatura e desligar não é inferência de objetivos
    A verdadeira inteligência precisa ter uma camada meta capaz de refletir sobre seus próprios objetivos
  • O treinamento de modelos também envolve custos financeiros reais, e se o desempenho é ruim o treinamento é interrompido
    Ou seja, há pressão seletiva econômica, então a estrutura não é totalmente diferente
  • Quando o horizonte temporal da previsão muda, surgem contradições e incertezas, e isso cria os limites da inteligência
    Os humanos não gostam dessas contradições e tentam manter consistência por meio de narrativas (story)
    Religião, política, direito, mitos sobre IA etc. são todos dispositivos narrativos para aliviar erros coletivos de previsão
    Mas microrganismos sobrevivem sem nada disso
    No fim, inteligência é apenas um redemoinho instável de informação, não algo necessariamente essencial para manter a vida
  • Nessas discussões sempre aparece a sombra da consciência (consciousness)
    Se a consciência for emergente, então uma inteligência baseada em silício também pode ser possível

• Segundo uma resenha na Amazon, o cerne do livro é a hipótese do cérebro preditivo, isto é, a ideia de que “o cérebro evoluiu para prever o futuro”
  Também afirma que alguns sistemas modernos de IA podem ter inteligência, consciência e livre-arbítrio

  • Mas, de um ponto de vista evolutivo, o cérebro pode evoluir para outras funções no futuro
    Portanto, a definição por ‘previsão’ seria apenas uma característica temporária que muda com o tempo

• Inteligência é aquilo que achamos que só nós mesmos conseguimos fazer
  Só que os computadores estão cada vez mais conseguindo fazer tudo isso
  No fim, talvez a inteligência humana seja só casamento avançado de padrões

  • Os humanos têm a capacidade de criar e investigar novas perguntas
    Os LLMs ainda não conseguem fazer pesquisa autônoma nem projeto em alto nível
    Também lhes faltam a capacidade de esquecer e o gerenciamento do próprio contexto
    Grande parte da inteligência humana também existe em outros animais, mas foi acelerada por escrita e fabricação de ferramentas
  • Isso me lembra a piada: “se o que conseguimos fazer é inteligência, então o que não conseguimos fazer é magia?”
    Casamento de padrões oferece uma excelente heurística: “correlação provavelmente é causalidade”
    Inteligência é a capacidade de hackear e entender sistemas, e com isso acumular conhecimento cada vez mais complexo
    Começamos com fogo, pedra e trigo, e agora chegamos ao ponto de falar em exploração de Marte