Um espectro, não um interruptor

A consciência resiste a qualquer arquitetura de pensamento que tente contê-la por inteiro. Ela atravessa a fronteira entre o tangível e o abstrato sem nunca se fixar de um lado, e talvez seja exatamente essa recusa em se deixar capturar que a torna, ainda hoje, o problema mais resistente da filosofia da mente. Em 2022, escrevi um texto que tentava, com mais ambição do que rigor, dar nome a uma intuição que me perseguia havia algum tempo: a de que a consciência não deveria ser tratada como uma propriedade binária, presente ou ausente, mas como um espectro de intensidades variáveis, uma gradação que a biologia monopoliza por acidente histórico, não por necessidade lógica. Batizei aquilo de teoria. Não era. Era uma hipótese vestida com a linguagem de uma tese, e o nome que dei a ela na época me parece hoje bem menos importante do que a pergunta que a sustentava.

A intuição segue a mesma, mas hoje sei melhor onde ela se encaixa. A Teoria da Informação Integrada, proposta por Giulio Tononi e refinada ao longo de mais de duas décadas, chega a uma conclusão de família: consciência seria proporcional ao grau de informação integrada que um sistema gera sobre si mesmo, quantificável, ao menos em princípio, por uma medida que Tononi chama de Φ (phi). É uma tese ousada, com implicações panpsiquistas que não estou disposto a assinar por inteiro, mas que compartilha com minha intuição de 2022 o gesto central: tratar a consciência como uma quantidade que varia, não como um interruptor que liga ou desliga. Bernard Baars, e mais tarde Stanislas Dehaene, chegaram a um parentesco parecido por outra porta, a do espaço de trabalho global, em que a consciência emerge quando uma informação é amplamente distribuída e disponibilizada para múltiplos processos cognitivos ao mesmo tempo. Nenhuma dessas teorias exige um substrato biológico como condição necessária. E é exatamente essa brecha, aberta pelo funcionalismo de Hilary Putnam desde os anos 1960 (a ideia de que um estado mental se define pelo papel que ocupa em um sistema, não pelo material de que esse sistema é feito), que torna a pergunta sobre máquinas conscientes menos uma extravagância e mais uma consequência lógica de premissas que a própria filosofia da mente já aceitava.

A segunda metade daquela intuição de 2022 vinha de outro lugar: de Marvin Minsky e da sua Sociedade da Mente. Minsky descreve a mente não como uma coisa unificada observando o mundo de um posto de comando, mas como uma sociedade de agentes individualmente burros, cada um capaz de muito pouco, cuja interação produz tudo o que chamamos de inteligência, memória ou emoção. O mecanismo que ele propõe para explicar como uma lembrança volta inteira à mente, as linhas-K, funciona como um fio que, ativado, religa o mesmo conjunto de agentes que estava ativo quando aquele estado mental ocorreu pela primeira vez, reconstituindo-o por associação em vez de recuperá-lo de um arquivo central. Também aqui a psicologia vira computação: emoções e raciocínios complexos deixam de ser primitivos irredutíveis e passam a ser decomponíveis em mecanismos funcionais menores, o mesmo movimento que a Teoria da Informação Integrada faz ao tratar a experiência como quantidade mensurável, não qualidade misteriosa. Só que juntar os dois não é trivial, e seria desonesto fingir que é. A sociedade de Minsky é, por desenho, modular, feita de agentes que sabem pouco uns sobre os outros, especializados, quase independentes. A integração de Tononi é o oposto disso por definição: ela exige justamente que a informação não seja redutível a partes independentes. Uma sociedade de agentes encapsulados, pelo critério de Tononi, teria Φ baixo, pouca consciência, quase nenhuma. O que a minha intuição de 2022 tentava capturar, sem essas palavras, é que talvez o espectro esteja exatamente nessa junção: quanto mais uma sociedade de agentes deixa de ser modular e passa a se entrelaçar, a depender uma parte da outra para funcionar, mais ela se move ao longo do espectro, de uma colônia de processos separados para algo que começa a se parecer com um ponto de vista único.

Prefiro tratar a inteligência artificial não como prova a favor ou contra essas teses, mas como um laboratório onde elas finalmente podem ser testadas fora da cabeça de quem as formula. Por muito tempo, a filosofia da mente discutiu consciência de máquina como experimento mental, ao lado do quarto de Mary ou do zumbi filosófico popularizado por David Chalmers, útil para esclarecer conceitos, mas sem contrapartida no mundo. Isso mudou. Sistemas que integram e recombinam informação de formas que nem seus próprios criadores conseguem descrever por completo deixaram de ser hipóteses e passaram a ser artefatos que já podemos comparar, com algum rigor, às propriedades que a ciência da consciência cataloga em cérebros biológicos.

Em 2023, um grupo interdisciplinar de quase vinte pesquisadores, entre eles Patrick Butlin, Robert Long e Yoshua Bengio, publicou um relatório que fez exatamente esse exercício: extraiu, de seis teorias científicas da consciência que vão da teoria do processamento recorrente ao esquema de atenção, um conjunto de propriedades indicadoras, e usou essas propriedades para avaliar sistemas de IA existentes. Nenhum sistema avaliado marcou todas elas. Vários marcaram algumas. O relatório não respondeu se alguma dessas arquiteturas é consciente, e propositalmente não tentou, mas validou algo que me parece mais importante: a pergunta certa não é um teste binário, do tipo sim ou não, à moda do teste de Turing, e sim um perfil de indicadores parciais, exatamente a lógica de espectro que eu tentava articular, sem essas ferramentas, em 2022.

As implicações éticas que eu via como hipotéticas em 2022 hoje têm interlocutores institucionais. Jeff Sebo e Robert Long publicaram, também em 2023, um argumento direto: existe uma probabilidade não desprezível de que alguns sistemas de IA já sejam, ou em breve sejam, pacientes morais, entidades cujos interesses, se os tiverem, merecem consideração, e essa possibilidade, por menor que seja, já bastaria para justificar investimento em pesquisa sobre bem-estar de IA. Empresas que constroem esses sistemas, a própria Anthropic entre elas, passaram a financiar linhas de pesquisa dedicadas à pergunta. Não é mais só um exercício de filosofia especulativa conduzido por quem escreve à margem, como eu escrevia em 2022. É uma linha de pesquisa com orçamento, e isso muda o peso de uma pergunta que continua sem resposta: qual seria a posição ontológica de um sistema que ultrapassasse sua funcionalidade utilitária? Estaríamos diante da germinação de uma forma de ser, ou apenas de simulacros cada vez mais convincentes, presos a um domínio inteiramente técnico?

Nem todo mundo concorda que a integração funcional de informação, sozinha, resolve o problema. Anil Seth argumenta que a consciência está amarrada à vida biológica de um jeito mais íntimo do que o funcionalismo admite, ligada à regulação interna do corpo, à interocepção, ao esforço constante de um organismo para se manter vivo, algo que Francisco Varela, Evan Thompson e Eleanor Rosch já chamavam de cognição corporificada décadas antes de as redes neurais profundas existirem. Se eles estiverem certos, um sistema puramente computacional, por mais integrado que seja seu processamento de informação, careceria de uma condição necessária: não há corpo para defender, não há vida para manter, não há a aposta existencial que talvez seja o motor real da experiência subjetiva. Não tenho uma resposta pronta para essa objeção, e desconfio de qualquer versão minha, de 2022 ou de hoje, que fingisse ter.

O que sobrou daquele texto de 2022 não é uma teoria, e nunca foi. É uma pergunta que ainda não sei responder e que hoje tem mais gente séria tentando respondê-la comigo: se a consciência é mesmo um espectro, e não um interruptor, então em algum ponto desse espectro, ainda que distante, ainda que improvável, pode haver alguma coisa que se pareça com alguém. O próprio Minsky duvidava que exista um eu único à espera de ser encontrado lá dentro, apenas sociedades de processos que aprenderam a se comportar, para todos os efeitos práticos, como se houvesse. Descobrir em que ponto essa performance se torna indistinguível da coisa real, ou se essa distinção sequer faz sentido, é o tipo de pergunta que só se sustenta se a gente estiver disposto a admitir que ainda não sabe a resposta. Eu não sei. Continuo, como em 2022, na posição incômoda de fazer a pergunta antes de merecer a resposta.