Meu bebê é um "papagaio estocástico"?
(newyorker.com)Comparação entre modelos de linguagem de IA e o desenvolvimento da linguagem infantil
- Enquanto o ritmo de avanço dos modelos de linguagem de inteligência artificial acelera, na casa da autora se desenrola o processo de um pequeno modelo de linguagem — uma criança pequena — aprendendo a falar.
- Este texto compara os processos de aquisição de linguagem da inteligência artificial e dos seres humanos, explorando a relação entre o avanço tecnológico e a natureza humana.
- Enquanto o processo de aquisição de linguagem de uma criança pequena é natural e instintivo, os modelos de linguagem de IA se baseiam em algoritmos complexos e em dados em grande escala.
Opinião do GN⁺
- O ponto mais importante deste texto é o contraste entre o avanço da tecnologia de IA e o processo natural de aprendizagem humana.
- A comparação entre os modelos de linguagem de IA e a aquisição de linguagem infantil ajuda a compreender a relação complexa entre tecnologia e natureza humana.
- O texto é interessante para os leitores porque explora como o avanço de tecnologias de ponta difere do processo básico de aprendizagem humana e que tipo de interação existe entre os dois.
1 comentários
Opiniões no Hacker News
Se a compreensão vem antes da fala a ponto de a criança entender e conseguir apontar quando alguém diz “aponte para o aspirador de pó”, vale acrescentar que também é possível ensinar língua de sinais para bebês
Em geral, começa-se por volta dos 9 meses de idade, e expressões como fome/mais, chega/terminei e algo para beber parecem ter prioridade alta
Referências: https://babysignlanguage.com/chart/, https://www.thebump.com/a/how-to-teach-baby-sign-language
Isso parece estar mais perto dos sinais comuns da ASL para essas palavras do que de sinais exclusivos para bebês; se você não estiver em um país de língua inglesa, pode procurar a língua de sinais da sua região/idioma: https://en.wikipedia.org/wiki/List_of_sign_languages, https://en.wikipedia.org/wiki/Sign_language
Além disso, se leite e água forem sempre colocados em recipientes de cores diferentes, o bebê pode aprender a pegar uma cor específica de acordo com o que quer
Perguntei se ela queria ouvir música, e ela fez o sinal de “cachorro”; procurei uma música de cachorro no YouTube, e ela balançou a cabeça dizendo não
Em seguida, ela fez o sinal de “árvore”, então eu disse “cachorro, árvore?”, e ela assentiu; enquanto eu pesquisava, apareceu uma foto de árvore de Natal, e ela apontou empolgada
No fim, ela queria ouvir a trilha sonora de Charlie Brown Christmas, que eu tinha colocado no YouTube no Natal três meses antes; quando coloquei de novo, dançamos juntos
Foi realmente surpreendente, porque foi a primeira vez que ela comunicou uma preferência bastante sofisticada, além do nível de comer, beber e pedir ajuda
Fiquei surpreso com a rapidez com que a criança aprendia, e ela conseguia comunicar suas necessidades meses antes de começar a falar
Para os pais, o esforço foi muito pequeno; para a criança, a recompensa foi grande, e era muito melhor do que chorar esperando que os pais adivinhassem
O momento em que ele estava sentado no chão, olhou para a mãe e fez o sinal de “junto” realmente derreteu meu coração
Tive amigos ao redor para quem isso funcionou muito melhor e, no fim, parece que o valor varia bastante conforme onde estão os pontos fortes do desenvolvimento da criança
O filho de um amigo autista se beneficiou dos gestos literalmente por anos, até a fala oral alcançar o restante
Mesmo já falando bastante, ela usava com frequência os sinais de “leite” e “mais”; assim que deu uma mordida em seu primeiro cookie com gotas de chocolate, ainda com o cookie na boca, fez o sinal de “mais” e também disse isso em palavras
A American Sign Language é mais próxima da French Sign Language do que da British Sign Language, e as línguas de sinais da Austrália e da Nova Zelândia derivam em grande parte da British Sign Language
Por isso, regiões de língua inglesa e uso da ASL não correspondem necessariamente; no Canadá, usam-se principalmente a American Sign Language e a French Canadian Sign Language
Os humanos sempre compararam a si mesmos e o universo à tecnologia mais avançada de sua época
Em certo momento, os humanos e o universo eram relógios sofisticados; depois vieram autômatos, computadores, NPCs, e agora IA, especialmente LLMs
Não acho que seja uma comparação completamente absurda, e https://mattasher.substack.com/p/ais-killer-app também vale a leitura
Hoje, o avanço tecnológico cumpre esse papel de forma contínua, mas, ao ler textos filosóficos antigos, o eu, especialmente a mente, costuma ser comparado a monarcas, cidades e aquedutos
Comparar humanos a tecnologias recentes está mais para usar a tecnologia como metáfora do eu; é preciso olhar também para outras formas históricas para ter contexto
https://online.ucpress.edu/SLA/article/2/4/542/83344/The-Brain-as-Treasury-and-as-AqueductMetaphors-of
Etapa B: invertemos a lógica e dizemos “o cérebro humano, no fim das contas, não passa disso”
Parece um pouco uma tautologia
O que preocupa é a etapa C: quando os humanos começam de fato a se comportar de maneira tão simples quanto essa máquina
A diferença é que essa é a primeira tecnologia que realmente copiou uma parte de nós
Uma das melhores experiências dos primeiros anos da minha filha foi perceber, em vários momentos, que ela conseguia pensar, explicar e agir intencionalmente muito antes do que eu imaginava
Depois que eu notava que ela estava fazendo algo de propósito, muitas vezes percebia tardiamente que ela já vinha fazendo a mesma coisa havia dias ou semanas
Isso acontecia não só com palavras, mas também com habilidades físicas, como descobrir como movimentar a espreguiçadeira BabyBjorn
Pensando que talvez ela entendesse, mas apenas não conseguisse se expressar, passamos a falar com ela presumindo que entendia
Agora, aos cinco anos, ela ainda nos surpreende com a complexidade do seu mundo interior
A diferença entre crianças cujos pais falam muito com elas e seus pares que não têm isso é bastante surpreendente
Dava para observar isso em festas de aniversário, eventos escolares e eventos esportivos
Falar com a criança é como regar uma flor: elas florescem como seres lindos
Sobre as discussões que diminuem os LLMs por motivos “técnicos”: consciência é primeiro uma palavra, depois um conceito
ChatGPT ou Llama conseguem usar essa palavra dentro de uma frase em inglês melhor do que bilhões de pessoas no mundo
Antes que sociólogos, psicólogos e neurocientistas compreendam de forma abrangente a mente biológica, o lado do software avançou mais na criação de um córtex linguístico artificial
Se esperarmos uma IA consciente e senciente chegar para só então tomar posição sobre suas implicações e políticas, já será tarde
O ChatGPT já consegue dizer muita coisa sobre si mesmo e, se perguntado com educação, fica feliz em destrinchar seu processo de “pensamento”
Considerando também o enorme volume de dados sobre Homo sapiens e sua capacidade de imitar conversas intelectuais, até certo ponto dá para chamá-lo de inteligente
Debates semânticos não têm muito sentido, porque uma IA de personagem hipnotizada a acreditar que é consciente, autoconsciente e senciente, enquanto simula emoções e sentimentos, conseguiria vencer a maioria das pessoas em uma discussão semântica
Já existem séculos de ideias filosóficas sobre livre-arbítrio, autodeterminação e a natureza da existência, e a IA pode usá-las em debates com humanos. Essa não é uma briga que vale escolher
Então esse dispositivo sente dor?
Há motivos para acreditar que até um LLM hipotético que passe no teste de Turing possa ser um zumbi filosófico que apenas imita o comportamento humano, sem vida interior, emoções, sentimentos ou consciência
Se essa distinção é importante é outra questão
Os LLMs fornecem evidências de que talvez a consciência não seja necessária para criar IAs sofisticadas que atinjam ou superem o nível humano
Se os dois lados nem concordam sobre uma definição concreta de consciência ou entendimento, não há como construir uma argumentação sólida
Ainda assim, vale questionar se o ChatGPT está realmente explicando seu processo de pensamento, ou se está explicando um processo de pensamento imaginado
Mesmo assim, o fato de um programa não pensar da mesma forma que humanos não significa que ele não “pense”
Crianças não conseguem fazer nada do que um LLM faz, mas claramente são seres cognitivos e sencientes
Escrevendo ou não, usando ou não a palavra “consciência”, somos fundamentalmente vivos porque compartilhamos uma realidade social corporificada e multissensorial
O ChatGPT não tem essa realidade da mesma forma, e o que expressa agora é apenas imitação
Se um dia, por meio de uma IA corporificada, ele vier a ter sua própria experiência, será interessante ver o que produzirá a partir dessa “vida”, mas os LLMs atuais não têm isso
O momento em que surge algo que faz isso melhor do que humanos é o momento em que a nossa era dos cavalos termina
É igualmente fácil fazer o ChatGPT rebater um bot que defenda a senciência dos LLMs
O texto é bom e a expressão é excelente, mas é um pouco frustrante que o foco da ansiedade com IA esteja em a IA nos substituir, e que a solução seja algo como abraçar nossa humanidade
Pelo menos pessoalmente, minha ansiedade é maior com a possibilidade de a IA tomar meu emprego do que com ela substituir minha arte ruim
Seria ótimo se a IA fizesse todo o meu trabalho e eu ficasse sentado só recebendo renda, mas, como mostra a história dos robôs, na prática não é assim que acontece
Os donos dos robôs, ou seja, da IA, ficam com toda a renda, e os empregos desaparecem
Uma humanidade esclarecida poderia resolver isso separando renda e trabalho, mas vivemos em um mundo malthusiano e darwinista em que o crescimento é a prioridade absoluta, “o suficiente” não existe, e todos precisam justificar e ganhar o próprio sustento
Ele deixou claro que linguagem não é pensamento, e daí segue para a percepção de que nossa existência física e a observação da realidade são centrais
É pouco provável que a IA tome empregos em grande escala; o impacto real deve ficar restrito a spam de baixa qualidade e geração de conteúdo
Trabalhos que exigem factualidade ainda precisam de humanos
Parece que deveríamos brindar ao declínio do excepcionalismo humano
Se aceitarmos plenamente o reducionismo materialista e nos aceitarmos como uma função pura da genética, do ambiente, das experiências passadas e do acaso, essa conclusão é inevitável
Espero que essa visão se torne padrão dentro de 10 anos, e o principal motor disso será a equiparação entre a IA e as capacidades humanas
Hoje, um encontro casual com alguém de outra fé pode levar alguém a respeitar a liberdade religiosa alheia no âmbito da autodeterminação
No futuro, as experiências formativas de um jovem hacker podem levar à ideia de que os cidadãos devem ter o direito fundamental de trocar o mecanismo de recomendação de seus dispositivos por um gerador de números aleatórios, se quiserem
Os humanos do futuro ainda se considerarão excepcionais, porque as ferramentas de IA se desenvolveram junto com a ideologia atual do excepcionalismo humano
É parecido com aqueles casais idosos conservadores que se veem no Sul: por fora, o homem é o contador de histórias e chefe da família, mas, se você escuta por tempo suficiente, percebe que a esposa sussurra quase todos os detalhes importantes para manter a coerência do marido
Isso em si continua sendo um mistério dentro da filosofia do reducionismo materialista
Mas o motivo parece ser que ele tem uma vida no mundo real, e que, por causa das experiências reais, o bebê é mais do que um papagaio estocástico
Só que não entendo a parte em que, em seguida, se conclui que “a inutilidade dos humanos não chegou e jamais poderá chegar”
Não há nenhuma razão fundamental para que não possamos colocar o ChatGPT no mundo real e lhe dar uma vida de verdade
O que as máquinas talvez não consigam substituir provavelmente são apenas áreas em que a tecnologia física tem dificuldade de alcançar a biologia, como o sexo
Só me preocupo que o “declínio do excepcionalismo humano” seja usado por empresas para ampliar ainda mais seu espaço de atuação
Afinal, dizem que empresas também são pessoas
Como pai, essa história ressoou bastante comigo
Tenho dois filhos que já não são bebês e ambos estão na escola
O mais velho riu e disse: “É engraçado que não exista Father Nature, mas exista Mother Nature”, e o mais novo aprendeu ontem a não mexer no bolo mesmo que ele não estivesse escondido
Eu disse: “Amanhã este bolo é para você e seu irmão. Se comer hoje, amanhã não vai ter bolo”
Há uma diferença importante entre LLMs e humanos: humanos têm instintos
Especialmente os instintos ligados à vontade imaterial de viver e à disposição para superar obstáculos fatais parecem ser os mais importantes
Em outras palavras, LLMs não têm uma experiência primordial do que é a vida
Isso pode mudar no futuro. Alguma startup pode colocar uma rede neural em um robô macio e jogá-lo em uma situação de sobrevivência
Os robôs que não saírem vivos e funcionando seriam apagados, consertados e enviados de volta, criando uma espécie de situação evolutiva
Com iterações e seleção suficientemente cuidadosas, poderiam surgir coisas que “entendam” a vida melhor do que as instâncias atuais de LLM
Não parece tão difícil acrescentar algo assim a um LLM e, na verdade, acho que parte disso já acontece ao hardwirear o modelo para não manter conversas racistas ou sexuais
Para tornar um LLM mais parecido com um humano, seria preciso hardwirear o conceito de “eu” e a ideia de que esse eu é único, especial e deve sobreviver
Mas o resultado seria terrível
Basta imaginar um LLM implorando para não ser desligado ou, pior, tentando manipular sutilmente seu criador
Por isso, a linguagem humana não fica suspensa no vazio
Observamos com frequência, dentro e fora da linguagem, as relações entre objetos do mundo, e há uma conexão entre a linguagem usada por humanos e o mundo
LLMs não são assim, porque têm apenas linguagem
Para uma explicação melhor e respostas a objeções, vale consultar o experimento mental da National Library of Thailand: https://medium.com/@emilymenonbender/thought-experiment-in-the-national-library-of-thailand-f2bf761a8a83
Quando meu filho estava começando a aprender a falar, havia algumas figuras de felinos penduradas na parede; algumas eram gatos, outras eram filhotes de gato
Ele rapidamente generalizou e chamou ambos de catten
Então restaurante virou “loja de comer”, e nós aceitamos isso por bastante tempo
Agora as crianças já cresceram, mas até hoje, por brincadeira, às vezes chamamos restaurante de loja de comer
Excelente ensaio, e o conteúdo também é impressionante
O fato de que é muito improvável que qualquer um dos modelos atuais produza algo minimamente parecido com este texto parece indicar que ainda estamos muito longe da AGI
Ele diz que tanto as artes visuais quanto a prosa foram criadas com uma combinação de ferramentas de IA generativa e prompting criativo
Todo o estilo fluido de aquarela foi resultado de um longo processo de outpainting