Depois do ChatGPT, as expectativas em relação à AGI cresceram, e até a expressão superinteligência já não soa mais como ficção científica. Mesmo assim, o conceito de inteligência ainda é vago, e também é difícil ter noção de até onde ela pode se elevar.
Por isso, formulei a seguinte hipótese. Inteligência não é uma propriedade que possa aumentar indefinidamente. É a hipótese de que nenhum sistema pode superar a inteligência humana.
https://blog.naver.com/conanoc/224107260779
Quero saber o que vocês pensam sobre isso.
21 comentários
A velocidade do avanço tecnológico foi proporcional ao tamanho da população.
À medida que a produção de alimentos aumentava, o crescimento populacional impulsionava a inteligência total.
Mas, a partir de certo momento, o aumento da produção de alimentos deixou de se conectar à população, à inteligência e à tecnologia.
A inteligência artificial é diferente.
De acordo com o hardware produzido e a quantidade de energia investida, o volume total de inteligência aumenta linearmente.
Conclusão: pode até haver limites para o desempenho da inteligência artificial, mas não há limites para sua escalabilidade.
Como exemplo extremo, infinitos orangotangos são mais inteligentes do que um ser humano. Em termos de tentativa e erro e de inteligência total. E, olhando para hoje em dia, embora ainda não seja capaz apenas de julgamento simples, dentro do espaço da internet a IA já demonstra capacidades oniscientes. Ela já é mais inteligente do que um ser humano mediano.
Parece difícil dizer que infinitos orangotangos sejam mais inteligentes do que um ser humano. Por mais orangotangos que haja, eles não resolveriam problemas que nos interessam; então, sob a premissa de que "inteligência é capacidade de resolver problemas", eles não alcançam a inteligência humana. Claro, há um lado em que os orangotangos poderiam se sentir injustiçados, já que somos nós que definimos o que é esse "problema".
Concordo em certa medida com a ideia de que o ChatGPT já é mais inteligente do que humanos. Para começar, ele sabe muito mais do que eu. É um verdadeiro sabe-tudo.
Mas, do ponto de vista da capacidade de resolver problemas, a IA ainda tem muitas limitações. Talvez seja por isso que se diga que ela ainda não chegou ao nível de uma AGI.
Duas pessoas, A e B, fizeram uma prova e tiraram 80 e 60 pontos, respectivamente. Dá para dizer que A foi mais esperto, mas é meio ambíguo afirmar que tem inteligência maior.
Se, na prova seguinte, B estudar mais e então A e B tirarem 70 e 90 pontos, respectivamente, teríamos de dizer que, dessa vez, B foi mais esperto e tinha inteligência maior.
Os humanos podem expandir seu conhecimento por meio do aprendizado e, assim como a IA, essa expansão do conhecimento não tem um limite claro.
As pessoas já conseguem ultrapassar os limites de capacidade e memória do cérebro usando papel e dispositivos digitais para armazenar conhecimento e aprender mais quando necessário.
O ponto crucial, mais do que o conhecimento em si, é a capacidade de usá-lo para resolver problemas.
Para resolver problemas, é preciso descobrir ou criar por conta própria conhecimentos que ainda não estão incluídos no que já sabemos e que também não podem ser obtidos de algum outro lugar.
E, para verificar se esse conhecimento está correto e se com ele é possível resolver o problema, é indispensável usar ferramentas externas. É aí que surge a questão da escalabilidade.
Para fazer novas descobertas na física, experimentos mentais por si só não bastam. Pode ser necessário criar novas ferramentas físicas ou realizar vários experimentos com as ferramentas já existentes.
Agora mesmo, para desenvolver um novo modelo de IA, não basta programar; também é preciso usar equipamentos físicos de infraestrutura de treinamento e, se necessário, comprar mais GPUs para expandir a infraestrutura existente.
Esses trabalhos físicos ainda precisarão do apoio humano por muito tempo, e inevitavelmente vamos nos deparar com a seguinte pergunta: "Fora os trabalhos físicos que estamos sustentando, será que a IA realmente consegue fazer melhor os outros trabalhos?"
Antes de tudo, essa hipótese é impossível (sob a premissa de que somos observadores/computadores dentro do nosso sistema físico) por causa do princípio da incerteza (veja o demônio de Laplace). Além disso, como processos irreversíveis no tratamento da informação, como exclusão/inicialização, acompanham um aumento de entropia (princípio de Landauer), atos de processamento de informação como aprendizado/cálculo acabam tendo limites superiores no sistema físico devido às condições de energia, tempo e calor.
E se fôssemos comparar um LLM ao cérebro a qualquer custo, eu diria que seria algo como: 1. congelar por completo o estado do cérebro humano, tornando impossível qualquer aprendizado/melhoria adicional, 2. remover todos os órgãos sensoriais e depois 3. fazer com que ele apenas receba e produza sequências em braile. No fim, visto de fora, esse cérebro provavelmente seria indistinguível de um LLM, não é? Então esse cérebro não seria inteligente?
O que o texto apresentado defende parece ser apenas uma conjectura simples, e não vejo no texto nenhuma apresentação de evidências que a sustentem.
Existe alguma base para afirmar que até mesmo os modelos de IA do futuro simplesmente não conseguirão ultrapassar as limitações atuais?
Nick Bostrom, em seu livro "Superintelligence", apresentou três formas de superinteligência.
Dessas três, o texto mencionado por você parece se limitar à superinteligência qualitativa, mas, mesmo que ela fosse impossível, não há base para considerar impossíveis a superinteligência de velocidade e a superinteligência coletiva.
Muitos modelos de IA já mostram resultados sendo produzidos em velocidades incomparáveis às humanas e, internamente, usam arquitetura Mixture-of-Experts.
Portanto, se a tecnologia de IA continuar avançando, mesmo que a profundidade do raciocínio individual fique no nível humano, ainda assim é possível prever que a capacidade geral demonstrada supere a humana em vários aspectos.
Além disso, também parece fraca a base para afirmar que a superinteligência qualitativa seria impossível.
Já há mais de 10 anos testemunhamos a chegada de uma era em que a IA superou os humanos no domínio específico do Go. Nesse sentido, ao menos em áreas nas quais existe uma resposta definida, já parece claro que as máquinas podem superar a capacidade humana.
Não acho que, só porque a superinteligência venha a existir, passará a haver uma "resposta correta" para problemas que não têm resposta definida.
Por exemplo, em dilemas éticos, o que existe é apenas a escolha de quais valores priorizar mais, e por isso não se pode fixar uma resposta correta.
Ainda assim, acredito que ela possa ajudar nas discussões relacionadas a esse tipo de problema. Por exemplo, apontando aspectos que os humanos não chegaram a considerar. Acho que isso, em certo grau, já é possível até hoje.
Obrigado pelo bom comentário.
O motivo de eu supor que "provavelmente não existirá uma inteligência que supere a humana" está ligado àquilo que considero a "essência da inteligência".
Se eu dividir a inteligência em dois tipos — ser bom naquilo que já se conhece (tipo A) e ficar explorando em busca do que não se sabe justamente porque não se sabe (tipo B) — talvez fique mais claro onde está o limite.
O tipo A é a área em que a IA atual se sai bem, e também a área que tendemos a considerar inteligência em sentido mais restrito. Isso parece ter um limite bem definido porque é algo mais fácil (embora, ainda assim, por muito tempo tenha sido difícil para a IA). É como numa questão simples de matemática, em que o limite é tirar 100 pontos.
O tipo B pode nem parecer inteligência, mas, na prática, é graças a essa capacidade que vamos resolvendo problemas difíceis. Mesmo sem saber como criar uma IA no nível de uma AGI, ainda assim estamos construindo isso. Não é algo puramente acidental, como a descoberta da penicilina por Fleming; trata-se de encontrar a resposta escolhendo, entre inúmeras possibilidades, os caminhos com maior chance de dar certo. Aqui, o limite parece ser mais quantitativo do que qualitativo, e dá para pensar nisso como a superinteligência de velocidade/coletiva que você mencionou acima. Como os problemas do mundo real não podem ser resolvidos apenas com experimentos mentais, há um limite para a velocidade. É como na avenida Gangnam-daero: por mais rápido que seja o carro, é difícil passar de 100 km/h.
Também acho que o caso do AlphaGo pode ser uma referência interessante. Nesse caso, eu vejo isso como algo mais quantitativo do que qualitativo. Foi um resultado possível porque se obteve um nível de padrões equivalente ao humano e se fez a busca por um número de possibilidades muito maior, e muito mais rápido, do que uma pessoa consegue.
O ponto ainda mais interessante é que o AlphaGo foi treinado com partidas humanas, mas depois o AlphaZero, excluindo partidas humanas, foi treinado para encontrar sozinho boas jogadas e registrou resultados ainda melhores que o AlphaGo. Mesmo assim, os padrões de Go do AlphaZero são quase idênticos aos padrões humanos. Ou seja, a teoria padrão do jogo não mudou muito. Isso significa que os humanos já haviam encontrado jogadas quase ótimas. Esse é justamente o limite do tipo A.
O critério de comparação pode variar de pessoa para pessoa, mas, no meu caso, eu diria que, no Go, IA e humanos chegaram ao mesmo nível. Um iniciante em Go e um jogador profissional têm habilidades qualitativamente diferentes, mas a IA apenas é um pouco mais rápida que um profissional.
Hã? Mesmo sem entender muito de Go, jogo xadrez há bastante tempo, e essa parte é totalmente diferente do que ouvi de pessoas que jogavam Go.
Será que há alguma fonte para isso?
Pelo que eu sei, o AlphaGo analisou jogadas que os humanos consideravam ruins e transformou isso em novos josekis.
https://namu.wiki/w/3%EC%9D%98%203
No caso do go, antes de mais nada, parece que a própria avaliação de que “a IA e os humanos chegaram ao mesmo nível” é um entendimento equivocado. A IA já demonstrou capacidade superior à humana no campo do go.
Atualmente, o jogador profissional com o rating mais alto no mundo do go é Shin Jin-seo 9-dan, com 3866 pontos. (veja https://www.goratings.org/ko/)
No entanto, no caso do AlphaGo Zero (2017) que você mencionou, o Elo rating divulgado chega a impressionantes 5185 pontos.
Para referência, uma diferença de 200 pontos no Elo corresponde a uma força em que um jogador tende a vencer três de cada quatro partidas; com uma diferença de 1200 pontos, a taxa de vitória esperada chega a 99,9%.
A versão do AlphaGo que enfrentou Lee Sedol, vencendo 4 das 5 partidas e perdendo 1, tinha Elo rating de 3739 pontos; quando colocaram essa versão para jogar contra o AlphaGo Zero, o AlphaGo Zero venceu por 100 a 0.
Portanto, pensar que não há diferença qualitativa apesar de uma diferença de mais de 1300 pontos me parece simplesmente ignorar a realidade.
Além disso, a afirmação de que, mesmo após o surgimento da IA, os josekis do go não mudaram muito também pode ser verificada como falsa com uma simples busca no Google.
Além disso, mesmo que o resultado do processamento da IA tenha saído de forma semelhante ao humano, isso não garante que o modo humano seja sempre o melhor possível.
Dizer que a inteligência humana está no ápice e não tem mais para onde subir não é muito diferente de dizer que, dentro do que é possível, a forma humana de aprender e resolver problemas é a melhor.
Mas será mesmo? A inteligência humana foi moldada por pressões evolutivas para resolver problemas de sobrevivência e outros desafios imediatos de cada época do processo evolutivo, e por isso carrega toda sorte de heurísticas e vieses.
É verdade que, por enquanto, a inteligência artificial ainda não consegue acompanhar plenamente nem isso, mas isso não serve como base para afirmar que a IA que surgir no futuro também não poderá superar os humanos.
Por fim, acredito que justamente “ficar procurando porque não se sabe” é uma das áreas em que as máquinas podem ser muito melhores do que os humanos. Afinal, uma máquina pode mobilizar múltiplas instâncias e explorar em paralelo. E isso, inclusive, já foi demonstrado no nível do AlphaGo Zero que você mencionou.
Aqui, concordo que em experimentos científicos como os de física ou química haverá gargalos na aquisição de conhecimento, mas em áreas onde esses gargalos não existam ou sejam menores, o avanço poderá ser ainda mais rápido. Podemos pensar, por exemplo, em matemática ou programação.
E mesmo nos pontos em que surgem gargalos, há áreas em que será possível avançar muito mais rapidamente do que hoje. (como mostra o AlphaFold) Será possível prever algo com antecedência por meio de simulação para reduzir o número de experimentos reais necessários, e automatizar experimentos repetitivos com o uso de robôs.
Nesse caso, não seria correto prever que a forma de superinteligência coletiva/de velocidade que você chamou aqui de “tipo B” já superaria os humanos nesse domínio? Afinal, os limites humanos e os limites teóricos/físicos são claramente coisas diferentes. Se alguém argumenta que “ser apenas mais rápido não é uma melhoria qualitativa”, isso me parece apenas mudar o critério no meio da discussão. Como o resultado produzido de fato superará claramente o dos humanos, nesse ponto já parece difícil sustentar que “é apenas mais rápido”.
Aliás, uma tese mais plausível talvez fosse a de que, como a inteligência humana esbarrou em limites biológicos no presente, seria difícil que ela aumentasse muito além do nível atual.
Mas, se a afirmação ousada for a de que a inteligência das máquinas, limitada não por barreiras biológicas, mas por limites físicos, teria limites qualitativos semelhantes aos dos humanos, então acho que seriam necessárias evidências e argumentos proporcionalmente mais convincentes.
Para responder aos dois comentários abaixo, acho que provavelmente a questão é como fazer a avaliação. Como eu não apresentei critérios de avaliação, pode ser que a afirmação já parta de algo um pouco vago.
Pelo meu critério, eu não gostaria de considerar como diferença de inteligência a diferença entre tirar 80 e 90 em matemática, ou entre levar 1 hora e 30 minutos para resolver um problema. Se a diferença for nesse nível, acho melhor considerar que se trata do mesmo nível de inteligência. Entre pessoas também há uma variação grande, mas ainda assim resumimos tudo como "inteligência humana". Jogadores profissionais de Go também têm níveis de habilidade diferentes e rankings Elo diferentes, mas não dizemos que o Go deles está em um nível completamente diferente; já em relação a um amador de 10 kyu, dá para dizer que jogam um Go de um nível totalmente distinto. Nesse sentido, mesmo que o AlphaZero sempre vença Lee Sedol, isso não significa que seja um Go de outro nível. (Se formos falar assim, então teríamos de dizer que, no Go, deus, humanos e IA estão no mesmo nível. Isso se deus não puder jogar um Go de um nível completamente diferente, é claro. Por exemplo, se deus conseguisse vencer humanos mesmo dando 9 pedras de vantagem.)
Quanto à minha afirmação de que "os josekis de Go não mudaram tanto", a contestação de que não é que nada tenha mudado, e de que surgiram novos josekis, me parece um pouco uma "contestação por contestar", embora isso também faça parte da graça do debate. Sem contestação, a discussão ficaria sem graça demais.
Além disso, só de distinguir diferença qualitativa de velocidade, acho que já conseguimos prever melhor as perspectivas da IA. Como mencionei antes, assim como é difícil ganhar velocidade na Gangnam-daero, os problemas que de fato precisamos resolver são ambientes em que é difícil acelerar. Há um limite de velocidade, e se a inteligência for qualitativamente parecida, será difícil produzir diferença no resultado. Claro, pode haver alguns domínios em que não exista esse gargalo de velocidade, mas matemática e programação não me parecem ser esses casos; nessas áreas, por enquanto, a prioridade parece ser melhorar o nível qualitativo. (Mas o meu argumento não é que a IA não vai alcançar os humanos.)
Quando uma pessoa e uma IA competem entre si e um dos lados vence de forma esmagadora com uma taxa de vitória superior a 99%, como isso pode ser considerado o mesmo nível? Isso é, na prática, o mesmo que dizer que não devemos fazer distinção.
Dizer que "no baduk, deus, seres humanos e IA estão no mesmo nível" parece equivalente a afirmar que, como deus, seres humanos e IA compartilham as mesmas regras ao jogar baduk, a habilidade dos três é essencialmente equivalente. Mas compartilhar as mesmas regras e ter a mesma habilidade são coisas completamente diferentes.
Seguindo esse critério, mesmo que exista claramente uma diferença empírica, ainda seria possível dizer, por esse padrão, que estão no mesmo nível, então a discussão me parece sem qualquer sentido.
Ao ler outro texto que essa pessoa publicou no próprio blog, me parece que até as premissas a partir das quais ela aceita evidências são bem diferentes das minhas.
Com essa diferença, acho difícil que uma discussão normal possa avançar, então vou parar por aqui.
Ah kkkkkkk então é contestação por contestação sem nem apresentar fundamento adicional para a refutação? Fiquei pensando... o que exatamente você quer com isso?
Muito obrigado mesmo por anexar o link do blog. Acho que eu também vou parar por aqui.
Não é à toa que sua lábia não era nada comum: você é a pessoa que venceu com teoria da conspiração numa aposta sobre a teoria da conspiração da alunissagem.
Já que você conseguiu até emplacar uma alegação de teoria da conspiração sobre a alunissagem, fico curioso se existe algum tema de aposta impossível para você.
Isso é realmente uma colocação inesperada, então, embora você tenha dito que vai parar por aqui, será que poderia falar um pouco mais sobre isso?
Pode ser porque você não conhece muito bem go, mas o fato de ter havido pequenas mudanças nos joseki existentes é diferente de dizer que "os joseki do go não mudaram muito"?
Você sabe que "muito" e "de jeito nenhum" têm significados diferentes, então fiquei curioso para saber em que sentido isso fez você pensar "o que você quer fazer com isso?".
Entendi bem a diferença de perspectiva em relação aos critérios de avaliação. Como você disse, se usarmos o critério de que, ao receber uma nota melhor nem que seja em 1 ponto, isso significa ter uma inteligência mais alta, então eu também acho que a "hipótese do contínuo da inteligência" é false.
Obrigado pela opinião.
A única maneira de descobrir os limites do possível é se aventurar um pouco além deles, rumo ao impossível.
É uma opinião interessante. Hipótese é apenas hipótese, e cada pessoa pode ter uma opinião diferente. Reagir refletindo preferência demais na hipótese, dizendo "não gosto da hipótese" ou "a hipótese me incomoda", parece estranho. Por outro lado, reações como simplesmente achar que a hipótese está errada ou perguntar como seria possível saber isso são opiniões pessoais, então não há nada de estranho nisso.
Já que você perguntou, para responder eu diria que, para discutir essa hipótese, é indispensável pensar sobre o que é "inteligência". A natureza da inteligência é ambígua. Ainda não temos uma definição clara e consensual sobre isso. Para o público em geral e também para desenvolvedores da área de IA, sua natureza é vaga, mas no campo da psicologia cognitiva também há muitas pesquisas sendo feitas.
Perguntas são um meio muito eficaz para encontrar respostas, e hipóteses também são uma espécie de pergunta.
Eu escrevi isso no blog, mas se a reação for "não entendi do que se trata; também não gostei da hipótese", então acho que não há muito mais que eu possa responder. Talvez isso signifique apenas que minha escrita não foi boa o suficiente.