As máquinas se tornarão conscientes?



Um futuro em que os recursos de pensamento dos computadores se aproximam dos nossos está rapidamente aparecendo. Sentimos algoritmos de aprendizado de máquina (ML) cada vez mais poderosos respirando em nossos pescoços. O rápido progresso nas próximas décadas trará máquinas com inteligência no nível humano capaz de falar e raciocinar, com uma infinidade de contribuições para a economia, a política e, inevitavelmente, o warcraft. O nascimento da verdadeira inteligência artificial afetará profundamente o futuro da humanidade, incluindo se ela possui um.

As citações a seguir fornecem um caso em questão:

"Desde o momento em que a última grande inovação em inteligência artificial foi alcançada no final da década de 1940, cientistas de todo o mundo procuraram maneiras de aproveitar essa 'inteligência artificial' para melhorar a tecnologia além do que os programas de inteligência artificial mais sofisticados de hoje podem alcançar."

“Mesmo agora, estão em andamento pesquisas para entender melhor o que os novos programas de IA poderão fazer, enquanto permanecem dentro dos limites da inteligência de hoje. A maioria dos programas de IA atualmente programados se limitam principalmente a tomar decisões simples ou executar operações simples em quantidades relativamente pequenas de dados. ”

Esses dois parágrafos foram escritos pelo GPT-2, um bot de idiomas que experimentei no verão passado. Desenvolvido pelo OpenAI, um instituto de São Francisco que promove IA benéfica, o GPT-2 é um algoritmo de ML com uma tarefa aparentemente idiota: apresentado com algum texto inicial arbitrário, ele deve prever a próxima palavra. A rede não é ensinada a "entender" a prosa em nenhum sentido humano. Em vez disso, durante sua fase de treinamento, ele ajusta as conexões internas em suas redes neurais simuladas para antecipar melhor a palavra seguinte, a palavra seguinte e assim por diante. Treinadas em oito milhões de páginas da Web, suas entranhas contêm mais de um bilhão de conexões que simulam sinapses, os pontos de conexão entre os neurônios. Quando inseri as primeiras frases do artigo que você está lendo, o algoritmo emitiu dois parágrafos que pareciam o esforço de um calouro para lembrar a essência de uma palestra introdutória sobre aprendizado de máquina durante a qual ela estava sonhando acordada. A saída contém todas as palavras e frases corretas – nada mal! Preparado com o mesmo texto uma segunda vez, o algoritmo apresenta algo diferente.

A prole de tais bots desencadeará uma onda de críticas e notícias sobre produtos "deepfake", que serão adicionadas ao miasma da Internet. Eles se tornarão apenas mais um exemplo de programas que fazem coisas até agora consideradas exclusivamente humanas – jogando o jogo de estratégia em tempo real StarCraft, traduzindo texto, fazendo recomendações pessoais para livros e filmes, reconhecendo pessoas em imagens e vídeos.

Serão necessários muitos avanços no aprendizado de máquina antes que um algoritmo possa escrever uma obra-prima tão coerente quanto a de Marcel Proust. Em busca do tempo perdido, mas o código está na parede. Lembre-se de que todas as primeiras tentativas de jogar, traduzir e falar em jogos de computador eram desajeitadas e fáceis de menosprezar, porque obviamente faltavam habilidade e polimento. Mas com a invenção de redes neurais profundas e a enorme infraestrutura computacional da indústria de tecnologia, os computadores melhoraram implacavelmente até que seus resultados não parecessem mais risíveis. Como vimos no Go, xadrez e pôquer, os algoritmos de hoje podem ser os melhores para os seres humanos e, quando o fazem, nossa risada inicial se transforma em consternação. Somos como o aprendiz de feiticeiro de Goethe, convocando espíritos úteis que agora não conseguimos controlar?

Consciência artificial?

Embora os especialistas discordem sobre o que exatamente constitui inteligência, natural ou não, a maioria aceita que, mais cedo ou mais tarde, os computadores alcançarão o que é chamado de inteligência geral artificial (AGI) na linguagem.

O foco na inteligência das máquinas obscurece questões bem diferentes: será algo como ser uma AGI? Os computadores programáveis ​​podem ter consciência?

Por "consciência" ou "sentimento subjetivo", quero dizer a qualidade inerente a qualquer experiência – por exemplo, o sabor delicioso de Nutella, a picada aguda de um dente infectado, a lenta passagem do tempo em que alguém está entediado ou o sentido de vitalidade e ansiedade antes de um evento competitivo. Ao filósofo Thomas Nagel, poderíamos dizer que um sistema está consciente se existe algo que estar esse sistema.

Considere a sensação embaraçosa de perceber repentinamente que você acabou de cometer uma gafe, que o que você quis dizer como uma piada veio como um insulto. Os computadores podem experimentar emoções tão agitadas? Quando você está no telefone, esperando minuto após minuto, e uma voz sintética entoa: "Lamentamos mantê-lo esperando", o software realmente se sente mal enquanto mantém você no inferno do atendimento ao cliente?

Há pouca dúvida de que nossa inteligência e nossas experiências são conseqüências inelutáveis ​​dos poderes causais naturais de nosso cérebro, em vez de quaisquer sobrenaturais. Essa premissa serviu extremamente bem à ciência nos últimos séculos, à medida que as pessoas exploravam o mundo. O cérebro humano de três libras e de tamanho semelhante é de longe o pedaço mais complexo de matéria ativa organizada do universo conhecido. Mas tem que obedecer às mesmas leis físicas que cães, árvores e estrelas. Nada recebe um passe livre. Ainda não compreendemos completamente os poderes causais do cérebro, mas os experimentamos todos os dias – um grupo de neurônios está ativo enquanto você vê cores, enquanto as células que disparam em outro bairro cortical estão associadas a um humor jocular. Quando esses neurônios são estimulados pelo eletrodo de um neurocirurgião, o sujeito vê cores ou começa a rir. Por outro lado, desligar o cérebro durante a anestesia elimina essas experiências.

Dadas essas suposições gerais amplamente compartilhadas, o que implicará a evolução da verdadeira inteligência artificial sobre a possibilidade de consciência artificial?

Contemplando essa questão, inevitavelmente chegamos a uma bifurcação à frente, levando a dois destinos fundamentalmente diferentes. O zeitgeist, conforme incorporado em romances e filmes como Ela, Blade Runner e Ex Machina, marcha resolutamente no caminho em direção à suposição de que máquinas verdadeiramente inteligentes serão sencientes; eles vão falar, raciocinar, se auto-monitorar e introspectar. Eles são e o ipso consciente.

Esse caminho é resumido de maneira mais explícita pela teoria do espaço de trabalho neuronal global (GNW), uma das teorias científicas dominantes da consciência. A teoria começa com o cérebro e infere que algumas de suas características arquitetônicas peculiares são o que dá origem à consciência.

Sua linhagem pode ser rastreada até a “arquitetura do quadro-negro” da ciência da computação da década de 1970, na qual programas especializados acessavam um repositório compartilhado de informações, chamado de quadro-negro ou espaço de trabalho central. Os psicólogos postularam que esse recurso de processamento existe no cérebro e é central para a cognição humana. Sua capacidade é pequena; portanto, apenas uma percepção, pensamento ou memória ocupa o espaço de trabalho a qualquer momento. Novas informações competem com as antigas e as substituem.

O neurocientista cognitivo Stanislas Dehaene e o biólogo molecular Jean-Pierre Changeux, ambos no Collège de France em Paris, mapearam essas idéias na arquitetura do córtex cerebral, a camada mais externa da substância cinzenta. Duas folhas corticais altamente dobradas, uma à esquerda e outra à direita, cada uma do tamanho e espessura de uma pizza de 14 polegadas, estão amontoadas no crânio protetor. Dehaene e Changeux postularam que o espaço de trabalho é instanciado por uma rede de neurônios piramidais (excitatórios) ligados a regiões corticais distantes, em particular as áreas associativas pré-frontal, parietotemporal e da linha média (cingulado).

Muita atividade cerebral permanece localizada e, portanto, inconsciente – por exemplo, a do módulo que controla onde os olhos olham, algo do qual quase esquecemos completamente, ou a do módulo que ajusta a postura de nossos corpos. Mas quando a atividade em uma ou mais regiões excede um limite – digamos, quando alguém recebe uma imagem de um frasco de Nutella – ela dispara uma ignição, uma onda de excitação neural que se espalha pelo espaço de trabalho neuronal, em todo o cérebro. Portanto, essa sinalização fica disponível para vários processos subsidiários, como idioma, planejamento, circuitos de recompensa, acesso à memória de longo prazo e armazenamento em um buffer de memória de curto prazo. O ato de transmitir globalmente essas informações é o que as torna conscientes. A experiência inimitável de Nutella é constituída por neurônios piramidais que entram em contato com a região de planejamento motor do cérebro – emitindo uma instrução para pegar uma colher e retirar parte da propagação da avelã. Enquanto isso, outros módulos transmitem a mensagem para esperar uma recompensa na forma de uma corrida de dopamina causada pelo alto teor de gordura e açúcar da Nutella.

Estados conscientes surgem da maneira como o algoritmo da área de trabalho processa as entradas sensoriais relevantes, as saídas motoras e as variáveis ​​internas relacionadas à memória, motivação e expectativa. Processamento global é o que é a consciência. A teoria GNW abraça completamente o mito contemporâneo dos poderes quase infinitos da computação. A consciência é apenas um truque inteligente.

Poder causal intrínseco

O caminho alternativo – teoria da informação integrada (IIT) – adota uma abordagem mais fundamental para explicar a consciência.

Giulio Tononi, psiquiatra e neurocientista da Universidade de Wisconsin-Madison, é o arquiteto-chefe do IIT, com outros, inclusive eu, contribuindo. A teoria começa com a experiência e prossegue a partir daí para a ativação de circuitos sinápticos que determinam o "sentimento" dessa experiência. Informação integrada é uma medida matemática que quantifica quanto "poder causal intrínseco" algum mecanismo possui. Os neurônios que disparam potenciais de ação que afetam as células a jusante (através de sinapses) são um tipo de mecanismo, assim como os circuitos eletrônicos, feitos de transistores, capacitâncias, resistências e fios.

O poder causal intrínseco não é uma noção etérea de fadas aéreas, mas pode ser avaliado com precisão para qualquer sistema. Quanto mais seu estado atual especifica sua causa (sua entrada) e seu efeito (sua saída), mais poder causal ele possui.

O IIT estipula que qualquer mecanismo com poder intrínseco, cujo estado esteja carregado de passado e grávida de futuro, seja consciente. Quanto maior a informação integrada do sistema, representada pela letra grega Φ (um número zero ou positivo pronunciado "fi"), mais consciente o sistema é. Se algo não tem poder causal intrínseco, seu Φ é zero; não sente nada.

Dada a heterogeneidade dos neurônios corticais e seu conjunto densamente sobreposto de conexões de entrada e saída, a quantidade de informações integradas no córtex é vasta. A teoria inspirou a construção de um medidor de consciência atualmente em avaliação clínica, um instrumento que determina se as pessoas em estado vegetativo persistente ou as que são minimamente conscientes, anestesiadas ou presas são conscientes, mas incapazes de se comunicar ou se “ninguém está em casa . ”Nas análises do poder causal dos computadores digitais programáveis ​​no nível de seus componentes metálicos – os transistores, fios e diodos que servem como substrato físico de qualquer cálculo – a teoria indica que seu poder causal intrínseco e seu Φ são mínimos. Além disso, Φ é independente do software em execução no processador, calcule impostos ou simule o cérebro.

De fato, a teoria prova que duas redes que realizam a mesma operação de entrada e saída, mas possuem circuitos configurados de maneira diferente, podem possuir quantidades diferentes de Φ. Um circuito pode não ter Φ, enquanto o outro pode exibir níveis altos. Embora eles sejam idênticos do lado de fora, uma rede experimenta algo enquanto seu homólogo impostor de zumbis não sente nada. A diferença está sob o capô, na fiação interna da rede. Em poucas palavras, a consciência é sobre ser, não sobre fazendo.

A diferença entre essas teorias é que o GNW enfatiza a função do cérebro humano na explicação da consciência, enquanto o IIT afirma que são os poderes causais intrínsecos do cérebro que realmente importam.

As distinções se revelam quando inspecionamos o conectoma do cérebro, a especificação completa da fiação sináptica exata de todo o sistema nervoso. Os anatomistas já mapearam os conectomos de alguns vermes. Eles estão trabalhando no conectoma da mosca da fruta e planejam atacar o mouse na próxima década. Vamos supor que, no futuro, será possível escanear um cérebro humano inteiro, com seus aproximadamente 100 bilhões de neurônios e quadrilhões de sinapses, no nível ultraestrutural após a morte do proprietário e depois simular o órgão em algum computador avançado, talvez um quantum máquina. Se o modelo for fiel o suficiente, essa simulação será reativada e se comportará como um simulacro digital da pessoa falecida – falando e acessando suas memórias, desejos, medos e outras características.

Se imitar a funcionalidade do cérebro é tudo o que é necessário para criar consciência, como postulado pela teoria GNW, a pessoa simulada estará consciente, reencarnada dentro de um computador. De fato, fazer upload do connectome à nuvem para que as pessoas possam viver na vida após a morte digital é um tropeço comum da ficção científica.

O IIT postula uma interpretação radicalmente diferente dessa situação: o simulacro parecerá tanto quanto o software sendo executado em um banheiro japonês sofisticado – nada. Ele agirá como uma pessoa, mas sem sentimentos inatos, um zumbi (mas sem nenhum desejo de comer carne humana) – o derradeiro ataque profundo.

Para criar consciência, são necessários os poderes causais intrínsecos do cérebro. E esses poderes não podem ser simulados, mas devem fazer parte da física do mecanismo subjacente.

Para entender por que a simulação não é boa o suficiente, pergunte-se por que ela nunca fica molhada dentro de uma simulação climática de uma tempestade ou por que os astrofísicos podem simular o vasto poder gravitacional de um buraco negro sem ter que se preocupar que eles serão engolidos pelo espaço-tempo curvado ao redor o computador deles. A resposta: porque uma simulação não tem o poder causal de causar a condensação do vapor atmosférico na água ou a curva do espaço-tempo! Em princípio, no entanto, seria possível alcançar a consciência no nível humano, indo além de uma simulação para construir o chamado hardware neuromórfico, com base em uma arquitetura construída à imagem do sistema nervoso.

Existem outras diferenças além dos debates sobre simulações. O IIT e o GNW prevêem que regiões distintas do córtex constituem o substrato físico de experiências conscientes específicas, com um epicentro nas costas ou na frente do córtex. Esta previsão e outras agora estão sendo testadas em uma colaboração em larga escala envolvendo seis laboratórios nos EUA, Europa e China, que acabaram de receber US $ 5 milhões em financiamento da Templeton World Charity Foundation.

Se as máquinas podem se tornar questões sencientes por razões éticas. Se os computadores experimentam a vida por seus próprios sentidos, eles deixam de ser puramente um meio para um fim determinado por sua utilidade para nós, seres humanos. Eles se tornam um fim em si mesmos.

Pelo GNW, eles passam de meros objetos para assuntos – cada um existe como um "eu" – com um ponto de vista. Esse dilema surge da forma mais atraente Espelho preto e Westworld episódios de televisão. Quando as habilidades cognitivas dos computadores rivalizarem com as da humanidade, seu impulso de pressionar por direitos legais e políticos se tornará irresistível – o direito de não ser excluído, de não ter suas memórias limpas, de não sofrer dor e degradação. A alternativa, incorporada pelo IIT, é que os computadores permanecerão apenas máquinas supersofisticadas, conchas vazias como fantasmas, desprovidas daquilo que mais valorizamos: o sentimento da própria vida.