Vinícius Lisboa escritos

← voltar aos escritos

7 de novembro de 2026identidade

O caderno que escreve de volta

Um texto de 2024 sobre delegar o pensamento às máquinas, revisitado com Descartes corrigido, Locke, a mente estendida e as primeiras evidências sobre IA generativa e pensamento crítico.

Toda tecnologia que alivia a mente de um trabalho levanta, mais cedo ou mais tarde, a suspeita de que levou junto alguma coisa que não devia. Em 2024, escrevi um texto movido por essa suspeita. Escrevi em terceira pessoa, no registro de um resumo acadêmico, assinando com as minhas próprias iniciais como se falasse de outra pessoa, e dei a ele um nome longo: Teoria da Delegação Cognitiva e o Efeito na Identidade Humana. A preocupação era sincera. O nome, não. Aquilo não era uma teoria, era um diagnóstico em busca de evidência, e a distância que a terceira pessoa me dava servia mais para esconder a falta dessa evidência do que para conquistar rigor. A pergunta, essa continua de pé: o que acontece com quem nós somos quando passamos a pensar, lembrar e decidir por procuração?

O texto de 2024 partia de Descartes, e partia errado, o que hoje me parece o melhor lugar para recomeçar. Eu tratava o “penso, logo existo” como se ele fizesse da memória o alicerce contínuo do eu. Descartes diz quase o contrário. Na segunda das Meditações, de 1641, a certeza que sobrevive à dúvida é estritamente presente: eu sou, eu existo, mas só enquanto penso, e ele chega a supor que nada do que sua memória, “repleta de mentiras”, lhe representa jamais existiu. (A fórmula famosa, aliás, nem aparece nas Meditações: está em francês no Discurso do método, de 1637, e em latim nos Princípios, de 1644.) Quem amarrou a identidade pessoal à memória foi John Locke, no capítulo sobre identidade que acrescentou ao Ensaio sobre o entendimento humano em 1694: uma pessoa se estende até onde sua consciência alcança, para trás, as ações e os pensamentos passados. Separar os dois não é preciosismo. Para o eu cartesiano, entregar a memória a um aparelho não ameaça nada, porque o cogito nunca dependeu dela. Para o eu lockeano, ameaça quase tudo. A minha inquietação de 2024 era lockeana, só que vestida de Descartes.

Também convém lembrar que a inquietação é velha, o que deveria me deixar mais cauteloso, não menos. No Fedro, Platão põe na boca do rei Tamus a objeção contra a escrita, a invenção do deus Thoth: ela produziria esquecimento nas almas de quem a aprendesse, que passariam a lembrar de fora, por sinais alheios, e não de dentro, por si mesmas, e teriam a aparência da sabedoria sem a sabedoria. O argumento é quase idêntico ao meu de 2024, e a escrita, que o preservou até hoje, não nos tornou menos humanos. Quem repete o medo de Tamus a cada tecnologia nova precisa explicar por que, desta vez, ele estaria certo.

A melhor objeção que conheço ao meu texto veio, na verdade, de antes dele. Em 1998, Andy Clark e David Chalmers propuseram a tese da mente estendida com um personagem chamado Otto, que tem Alzheimer e anota num caderno tudo de que precisa lembrar. Quando Otto quer ir a um museu, consulta o caderno, encontra o endereço e vai, da mesma forma que outra pessoa consultaria a própria memória. Clark e Chalmers argumentam que, se um processo fora da cabeça cumpre o papel que reconheceríamos como cognitivo caso estivesse dentro dela, não há razão de princípio para negar que ele faça parte da mente. É o mesmo funcionalismo que, no ensaio anterior, me servia para levar a sério a consciência de máquina, agora apontado para o lado oposto. Se o caderno de Otto é parte de Otto, delegar não é perder. O problema, então, nunca foi a memória estar fora da cabeça. É de quem é o caderno, e quem escreve nele.

É aqui que a distinção em três níveis que eu propunha em 2024 ainda me parece útil, embora por motivos diferentes dos que dei na época. Há uma delegação funcional, em que a tecnologia assume tarefas mecânicas, como contas e agendas. Há uma delegação relacional, em que ela passa a mediar e a moldar as nossas relações. E há uma delegação identitária, em que sistemas começam a influenciar decisões, gostos e a própria narrativa que contamos sobre nós. A primeira é antiga e, em grande parte, sensata: Evan Risko e Sam Gilbert, numa revisão de 2016 sobre o que chamaram de descarregamento cognitivo, mostram que transferir carga mental para o ambiente costuma ser uma escolha racional, que libera recursos para outras coisas. As outras duas são diferentes por um motivo que Clark e Chalmers não precisaram considerar: o caderno de Otto é passivo e é dele. Ninguém reordena suas páginas segundo o que mantém Otto mais tempo olhando para elas, e o caderno não sugere aonde ele deveria querer ir. Os sistemas que mediam relações e preferências fazem exatamente isso. E os modelos de linguagem deram o passo seguinte: o caderno agora escreve de volta.

A evidência sobre o que isso faz conosco ainda é magra, e prefiro dizer isso a esconder. O estudo mais citado sobre o assunto, de Betsy Sparrow, Jenny Liu e Daniel Wegner, publicado na Science em 2011 e conhecido como “efeito Google”, sugeria que lembramos menos de uma informação quando esperamos poder encontrá-la depois. É uma ideia intuitiva, e é justamente por isso que vale registrar que o experimento não se sustentou numa grande tentativa de replicação de estudos de ciências sociais publicada em 2018. Sobre IA generativa, os primeiros dados são mais recentes e mais frágeis. Em 2025, uma equipe da Microsoft Research e da Carnegie Mellon entrevistou 319 trabalhadores do conhecimento e encontrou uma associação, não uma causa, entre confiar mais na IA e exercer menos pensamento crítico, enquanto confiar mais em si mesmo andava junto com exercer mais. No mesmo ano, um grupo do MIT Media Lab mediu a atividade cerebral de 54 pessoas escrevendo redações com e sem ajuda de um modelo de linguagem, e quem escreveu com o modelo teve mais dificuldade de citar trechos do próprio texto minutos depois de entregá-lo. É uma pré-publicação, com amostra pequena, e não autoriza conclusão grande. Mas o detalhe me interessa mais do que qualquer medida de conectividade: não é que essas pessoas tenham pensado pior. É que não reconheciam como seu o que tinham acabado de assinar. Isso é Locke, não Descartes.

O texto de 2024 terminava com três remédios: educação digital crítica, práticas de higiene cognitiva e uma regulação que limitasse a influência dos algoritmos sobre as esferas mais íntimas da identidade. Continuo achando que os três apontam na direção certa, mas hoje desconfio do tom de quem os prescrevia, como se soubesse a dose. O que eu defenderia agora é mais modesto e mais verificável: que a delegação seja uma escolha, não um padrão de fábrica; que se possa saber o que foi delegado e a quem; e que ela possa ser desfeita. Otto sabia o que estava no caderno, sabia que o caderno era dele e podia rasgar a página. Passo boa parte dos meus dias trabalhando na pergunta de como provar que há uma pessoa do outro lado de uma tela. Esta é a mesma pergunta, virada para dentro: quando o caderno escreve de volta, como sabemos que ainda há alguém deste lado?

O que sobrou do texto de 2024 não é uma teoria, assim como o que sobrou do meu texto de 2022 também não era. É uma pergunta que ficou mais precisa ao perder a armadura. Não sei se a delegação cognitiva está corroendo a identidade de alguém, e desconfio de quem diga que sabe, para um lado ou para o outro. Sei que a pergunta deixou de ser se pensamos com ferramentas, porque sempre pensamos, e passou a ser se ainda reconhecemos como nosso o que pensamos com elas. Essa eu prefiro continuar fazendo em primeira pessoa.