Por Zsolt Laszlo Kovacs, professor da Escola Politécnica da USP
 |
| Zsolt Laszlo Kovacs – Foto: Arquivo pessoal |
Jornal da USP
Em uma edição recente, o icônico jornal britânico The Economist – de tradição realista e liberal – coloca em sua capa a pergunta: “Pode a inteligência artificial tornar-se consciente?”, acrescentando ainda ser esta uma questão que a humanidade deve encarar.
Historicamente, a consciência tem sido objeto de estudo nas filosofias e nas religiões e somente aos poucos e furtivamente transformou-se em um objeto de análise em ciências exatas e empíricas, na carona da mecanização dos processos de computação. O Teste de Turing, por exemplo, proposto ainda em 1950, que avalia se uma máquina consegue exibir comportamento inteligente indistinguível ao de um ser humano, inadvertidamente enevoa as fronteiras entre os conceitos razão, inteligência e consciência. Na neurociência e psicologia, tanto experimental como analítica, os conceitos de cognição e vigília (awarnes) misturam-se com o conceito de consciência. Não existe entre os estudiosos um consenso unânime quanto à caracterização, muito menos à definição, do que seria “consciência” ou um processo consciente. A dificuldade básica origina-se no fato de que, no estudo da consciência, o observado e o observador são um mesmo objeto inseparável.
Em um corte grosseiro, excetuando as ideias metafísicas, mitológicas e religiosas quanto à natureza da consciência, os modelos de consciência de algum valor científico, propostos ao longo da sua história, podem ser divididos em duas categorias: os “mecanicistas” e os “idealistas” (na falta de um termo melhor). Segundo a visão mecanicista, a consciência “emergiria” naturalmente de algum processo de alta complexidade, porém essencialmente causal, como, por exemplo, algoritmos digerindo grandes bases de dados ou neurônios biológicos densamente interconectados. Esta era a visão por volta da década de 1960, exemplificada nos estudos do então Laboratório de Inteligência Artificial do MIT ou do Laboratório de Inteligência Artificial da Universidade de Stanford.
Com a posterior evolução dos modelos não algorítmicos de redes neurais artificiais de grande porte associados às técnicas de “aprendizado profundo”, viabilizaram-se os sistemas conhecidos como Large Language Models (LLM), ou modelos amplos de linguagem que compõem a base dos atuais sistemas referidos como de inteligência artificial. Uma característica importante dos sistemas LLM é que, por não serem algorítmicos, ocultam a sua natureza essencialmente causal e, por serem “generativos”, apresentam-se aos usuários como criativos, trapaceiros ou alucinados, reforçando a percepção da existência de uma consciência por trás do processo. As alucinações e trapaças consideradas como efeitos colaterais indesejáveis são, porém, consequências inevitáveis do processo de aprendizagem e do ciclo generativo.
Durante o ciclo de treinamento destes sistemas, inúmeros aglomerados compostos pelos elementos da base de conhecimento são gerados separados por fronteiras difusas. Uma solicitação, referida como prompt, provoca a concatenação de alguns destes aglomerados mediante algum critério matemático de proximidade para gerar uma resposta do sistema.
Uma variante dos modelos mecanicistas para a consciência inclui eventos de natureza quântica, ideia originalmente proposta por Roger Penrose e sistematicamente revisitada nas discussões sobre o assunto como, por exemplo, nas conversas entre o filósofo Karl Popper e o neurofisiologista John Eccles contidas na obra conjunta The Self and its Brain, publicada em 1977. Este modelo conhecido como redução objetiva orquestrada é apenas uma conjectura que remete o fenômeno da consciência para o domínio da biologia molecular, dispensando inclusive a necessidade de um sistema nervoso para o seu suporte.
A proposta de que a consciência resulta de um fenômeno de natureza quântica foi logo abraçada por grupos esotéricos, espiritualistas e religiosos como uma possível base científica para suas doutrinas.
Na categoria dos modelos não exclusivamente mecanicistas, aqui referidos como idealistas, encontram-se diversas variantes, mas todas calcadas na hipótese de que a consciência é uma propriedade fundamental do universo. O físico Federico Faggin, responsável pelo projeto do primeiro microprocessador da Intel, o 4004, e posteriormente envolvido com o desenvolvimento de aplicações para redes neurais artificiais, expõe longamente uma teoria para a consciência em seu livro Irreducible, Consciousness, Life, Computers and Human Nature (ainda sem versão para a língua portuguesa), centrada na proposta de que o qualia constitui o elemento irredutível da consciência, ou seja, impossível de ser produzido por qualquer processo mecanicista causal. O conceito de qualia – a essência subjetiva de nossas sensações e emoções – tem sido intensamente discutido em filosofia da mente, notoriamente por Daniel Dennet e David Chalmers em tempos modernos, e referido como o “problema difícil” (the hard problem) da consciência.
A preocupação quanto à emergência de consciência em sistemas de IA, mais comumente referidos como modelos IA, não é com a possibilidade destes sistemas adquirirem elementos de qualia, tais como sentirem dor, alegria, emoções ou serem capazes de se deslumbrarem com a beleza das cores do arco-íris, mas com a percepção, por nós, humanos, de que se comportam como se fossem conscientes e de que venhamos a tratá-los como membros superinteligentes da comunidade humana. O modelo Claude, versão N, poderia ser percebido por alguns como um grande líder – infalível em suas decisões e grande conhecedor de todas as coisas – a ser seguido para a felicidade geral da humanidade; ou o modelo ChatGPT, versão X, ser percebido como a alma gêmea por quem se nutre uma intensa paixão. É exatamente esta a preocupação central para a qual o anônimo articulista do The Economist chama a atenção em seu ensaio meticulosamente pesquisado.
Assim, parece que a questão não é se algum modelo de IA pode se tornar consciente, mas se pode simular um comportamento consciente ao ponto de torná-lo indistinguível de uma interação genuinamente humana. Com a pergunta colocada desta forma, para uma parcela da humanidade, este marco possivelmente já foi alcançado.
Historicamente, a consciência tem sido objeto de estudo nas filosofias e nas religiões e somente aos poucos e furtivamente transformou-se em um objeto de análise em ciências exatas e empíricas, na carona da mecanização dos processos de computação. O Teste de Turing, por exemplo, proposto ainda em 1950, que avalia se uma máquina consegue exibir comportamento inteligente indistinguível ao de um ser humano, inadvertidamente enevoa as fronteiras entre os conceitos razão, inteligência e consciência. Na neurociência e psicologia, tanto experimental como analítica, os conceitos de cognição e vigília (awarnes) misturam-se com o conceito de consciência. Não existe entre os estudiosos um consenso unânime quanto à caracterização, muito menos à definição, do que seria “consciência” ou um processo consciente. A dificuldade básica origina-se no fato de que, no estudo da consciência, o observado e o observador são um mesmo objeto inseparável.
Em um corte grosseiro, excetuando as ideias metafísicas, mitológicas e religiosas quanto à natureza da consciência, os modelos de consciência de algum valor científico, propostos ao longo da sua história, podem ser divididos em duas categorias: os “mecanicistas” e os “idealistas” (na falta de um termo melhor). Segundo a visão mecanicista, a consciência “emergiria” naturalmente de algum processo de alta complexidade, porém essencialmente causal, como, por exemplo, algoritmos digerindo grandes bases de dados ou neurônios biológicos densamente interconectados. Esta era a visão por volta da década de 1960, exemplificada nos estudos do então Laboratório de Inteligência Artificial do MIT ou do Laboratório de Inteligência Artificial da Universidade de Stanford.
Com a posterior evolução dos modelos não algorítmicos de redes neurais artificiais de grande porte associados às técnicas de “aprendizado profundo”, viabilizaram-se os sistemas conhecidos como Large Language Models (LLM), ou modelos amplos de linguagem que compõem a base dos atuais sistemas referidos como de inteligência artificial. Uma característica importante dos sistemas LLM é que, por não serem algorítmicos, ocultam a sua natureza essencialmente causal e, por serem “generativos”, apresentam-se aos usuários como criativos, trapaceiros ou alucinados, reforçando a percepção da existência de uma consciência por trás do processo. As alucinações e trapaças consideradas como efeitos colaterais indesejáveis são, porém, consequências inevitáveis do processo de aprendizagem e do ciclo generativo.
Durante o ciclo de treinamento destes sistemas, inúmeros aglomerados compostos pelos elementos da base de conhecimento são gerados separados por fronteiras difusas. Uma solicitação, referida como prompt, provoca a concatenação de alguns destes aglomerados mediante algum critério matemático de proximidade para gerar uma resposta do sistema.
Uma variante dos modelos mecanicistas para a consciência inclui eventos de natureza quântica, ideia originalmente proposta por Roger Penrose e sistematicamente revisitada nas discussões sobre o assunto como, por exemplo, nas conversas entre o filósofo Karl Popper e o neurofisiologista John Eccles contidas na obra conjunta The Self and its Brain, publicada em 1977. Este modelo conhecido como redução objetiva orquestrada é apenas uma conjectura que remete o fenômeno da consciência para o domínio da biologia molecular, dispensando inclusive a necessidade de um sistema nervoso para o seu suporte.
A proposta de que a consciência resulta de um fenômeno de natureza quântica foi logo abraçada por grupos esotéricos, espiritualistas e religiosos como uma possível base científica para suas doutrinas.
Na categoria dos modelos não exclusivamente mecanicistas, aqui referidos como idealistas, encontram-se diversas variantes, mas todas calcadas na hipótese de que a consciência é uma propriedade fundamental do universo. O físico Federico Faggin, responsável pelo projeto do primeiro microprocessador da Intel, o 4004, e posteriormente envolvido com o desenvolvimento de aplicações para redes neurais artificiais, expõe longamente uma teoria para a consciência em seu livro Irreducible, Consciousness, Life, Computers and Human Nature (ainda sem versão para a língua portuguesa), centrada na proposta de que o qualia constitui o elemento irredutível da consciência, ou seja, impossível de ser produzido por qualquer processo mecanicista causal. O conceito de qualia – a essência subjetiva de nossas sensações e emoções – tem sido intensamente discutido em filosofia da mente, notoriamente por Daniel Dennet e David Chalmers em tempos modernos, e referido como o “problema difícil” (the hard problem) da consciência.
A preocupação quanto à emergência de consciência em sistemas de IA, mais comumente referidos como modelos IA, não é com a possibilidade destes sistemas adquirirem elementos de qualia, tais como sentirem dor, alegria, emoções ou serem capazes de se deslumbrarem com a beleza das cores do arco-íris, mas com a percepção, por nós, humanos, de que se comportam como se fossem conscientes e de que venhamos a tratá-los como membros superinteligentes da comunidade humana. O modelo Claude, versão N, poderia ser percebido por alguns como um grande líder – infalível em suas decisões e grande conhecedor de todas as coisas – a ser seguido para a felicidade geral da humanidade; ou o modelo ChatGPT, versão X, ser percebido como a alma gêmea por quem se nutre uma intensa paixão. É exatamente esta a preocupação central para a qual o anônimo articulista do The Economist chama a atenção em seu ensaio meticulosamente pesquisado.
Assim, parece que a questão não é se algum modelo de IA pode se tornar consciente, mas se pode simular um comportamento consciente ao ponto de torná-lo indistinguível de uma interação genuinamente humana. Com a pergunta colocada desta forma, para uma parcela da humanidade, este marco possivelmente já foi alcançado.
Postar um comentário