Ilustração: Justin Metz/The Guardian
18 out 2025
[Nota do Website: E então, o que fazer com essas tecnologias que são dirigidas e controladas para um fim ideológico e não como mais um passo de avanço para a humanidade? Esse tempo já está aí e, com foi esclarecido pela matéria, não estamos preparados para nos distanciarmos e termos um senso crítico para, com liberdade intelectual e cognitiva, podermos acolher ou rejeitar o que as máquinas nos impõem. Esse é o futuro que estamos legando para os que vierem depois de nós].
De vídeos que apodrecem o cérebro ao avanço da IA, cada avanço tecnológico parece tornar mais difícil trabalhar, lembrar, pensar e funcionar de forma independente…
Entre no Laboratório de Mídia do Instituto de Tecnologia de Massachusetts (MIT), em Cambridge, EUA, e o futuro parece um pouco mais próximo. Armários de vidro exibem protótipos de criações estranhas e maravilhosas, desde pequenos robôs de mesa até uma escultura surrealista criada por um modelo de IA, motivado a projetar um conjunto de chá feito de partes do corpo. No saguão, um assistente de coleta seletiva de IA chamado Oscar pode lhe dizer onde colocar sua xícara de café usada. Cinco andares acima, a cientista pesquisadora Nataliya Kosmyna tem trabalhado em interfaces cérebro-computador vestíveis que ela espera que um dia permitam que pessoas que não conseguem falar, devido a doenças neurodegenerativas, como a esclerose lateral amiotrófica, se comuniquem usando a mente.
Kosmyna passa muito tempo lendo e analisando os estados cerebrais das pessoas. Outro projeto em que está trabalhando é um dispositivo vestível – um protótipo parece um par de óculos – que pode detectar quando alguém está confuso ou perdendo o foco. Há cerca de dois anos, ela começou a receber e-mails inesperados de estranhos que relatavam ter começado a usar modelos de linguagem abrangentes, como o ChatGPT, e sentiam que seus cérebros haviam mudado como resultado. Suas memórias não pareciam tão boas – isso seria possível?, perguntaram a ela. A própria Kosmyna ficou impressionada com a rapidez com que as pessoas começaram a recorrer à IA generativa. Ela notou colegas usando o ChatGPT no trabalho, e as candidaturas que recebeu de pesquisadores que desejavam se juntar à sua equipe começaram a ter uma aparência diferente. Os e-mails eram mais longos e formais e, às vezes, quando entrevistava candidatos pelo Zoom, notava que eles paravam antes de responder e olhavam para o lado – estariam eles recebendo ajuda da IA?, ela se perguntou, chocada. E se estivessem usando IA, o quanto entendiam das respostas que davam?
Com alguns colegas do MIT, Kosmyna realizou um experimento que utilizou um eletroencefalograma para monitorar a atividade cerebral das pessoas enquanto escreviam redações, sem assistência digital ou com a ajuda de um mecanismo de busca na internet, o ChatGPT. Ela descobriu que quanto mais ajuda externa os participantes tinham, menor era o seu nível de conectividade cerebral. Portanto, aqueles que usaram o ChatGPT para escrever apresentaram significativamente menos atividade nas redes cerebrais associadas ao processamento cognitivo, à atenção e à criatividade.
Em outras palavras, o que quer que as pessoas que usaram o ChatGPT sentissem que estava acontecendo dentro de seus cérebros, os exames mostraram que não havia muita coisa acontecendo lá.
Os participantes do estudo, todos matriculados no MIT ou em universidades próximas, foram questionados, logo após a entrega do trabalho, se conseguiam se lembrar do que haviam escrito. “Quase ninguém no grupo ChatGPT conseguiu citar uma frase”, diz Kosmyna. “Isso era preocupante, porque você simplesmente escrevia e não se lembrava de nada.”
Kosmyna tem 35 anos, veste um vestido-camisa azul e um colar grande e multicolorido, na moda, e fala mais rápido do que a maioria das pessoas consegue imaginar. Como ela observa, escrever uma redação exige habilidades importantes em nossas vidas: a capacidade de sintetizar informações, considerar perspectivas conflitantes e construir um argumento. Você usa essas habilidades em conversas cotidianas. “Como você vai lidar com isso? Você vai ficar tipo, ‘Err… posso só olhar meu celular?'”, diz ela.
O experimento foi pequeno (54 participantes) e ainda não foi revisado por pares. Em junho, porém, Kosmyna o publicou online, pensando que outros pesquisadores poderiam achar interessante, e então seguiu com suas atividades, sem saber que havia acabado de criar um frenesi na mídia internacional.
Além dos pedidos dos jornalistas, ela recebeu mais de 4.000 e-mails do mundo todo, muitos de professores estressados que acham que seus alunos não estão aprendendo direito porque usam o ChatGPT para fazer a lição de casa. Eles temem que a IA esteja criando uma geração que consegue produzir trabalhos razoáveis, mas não tem nenhum conhecimento prático ou compreensão do material.
A questão fundamental, diz Kosmyna, é que, assim que uma tecnologia se torna disponível e facilita nossas vidas, estamos evolutivamente preparados para usá-la. “Nossos cérebros adoram atalhos, está na nossa natureza. Mas seu cérebro precisa de atrito para aprender. Ele precisa de um desafio.”
Se os cérebros precisam de atrito, mas também o evitam instintivamente, é interessante que a promessa da tecnologia tenha sido criar uma experiência de usuário “sem atrito”, para garantir que, desde que deslizemos de um aplicativo para outro ou de uma tela para outra, não encontraremos resistência. A experiência de usuário sem atrito é a razão pela qual, sem pensar, descarregamos cada vez mais informações e trabalho em nossos dispositivos digitais; é a razão pela qual as tocas de coelho da internet são tão fáceis de cair e tão difíceis de sair; é a razão pela qual a IA generativa já se integrou tão completamente à vida da maioria das pessoas.
Sabemos, por experiência própria, que, uma vez acostumados à ciberesfera hipereficiente, o mundo real cheio de atritos parece mais difícil de lidar. Então, você evita ligações telefônicas, usa caixas de autoatendimento, pede tudo por um aplicativo; pega o celular para fazer contas que consegue fazer de cabeça, para verificar um fato antes de ter que desenterrá-lo da memória, para inserir seu destino no Google Maps e viajar de A a B no piloto automático. Talvez você pare de ler livros porque manter esse tipo de foco parece um atrito; talvez você sonhe em ter um carro autônomo. Será este o início do que a escritora e especialista em educação Daisy Christodoulou chama de “sociedade estupidamenteogênica“, um paralelo a uma sociedade obesogênica, na qual é fácil se tornar estúpido porque as máquinas podem pensar por você?
As empresas de IA estão determinadas a lançar os seus produtos ao público antes de compreendermos completamente os custos psicológicos e cognitivos
A inteligência humana é ampla e variada demais para ser reduzida a palavras como “burro”, mas há sinais preocupantes de que toda essa conveniência digital está nos custando caro. Nos países economicamente desenvolvidos da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), as pontuações do Pisa, que avaliam os níveis de leitura, matemática e ciências de jovens de 15 anos, tenderam a atingir o pico por volta de 2012. Embora, ao longo do século XX, as pontuações de QI tenham aumentado globalmente, talvez devido à melhoria do acesso à educação e à nutrição, em muitos países desenvolvidos elas parecem ter diminuído.
Testes de queda e pontuações de QI são objeto de debate acalorado. O que é mais difícil de contestar é que, a cada avanço tecnológico, aprofundamos nossa dependência de dispositivos digitais e achamos mais difícil trabalhar, lembrar, pensar ou, francamente, funcionar sem eles. “São apenas desenvolvedores de software e traficantes de drogas que chamam as pessoas de usuários”, murmura Kosmyna em determinado momento, frustrada com a determinação das empresas de IA em lançar seus produtos ao público antes de compreendermos completamente os custos psicológicos e cognitivos.
No mundo online em constante expansão e sem atritos, você é, antes de tudo, um usuário: passivo, dependente. Na era emergente da desinformação gerada por IA e dos deepfakes, como manteremos o ceticismo e a independência intelectual de que precisaremos? Quando concordarmos que nossas mentes não nos pertencem mais, que simplesmente não conseguimos pensar com clareza sem assistência tecnológica, quantos de nós ainda resistirão?
Comece a dizer às pessoas que você está preocupado com o que as máquinas inteligentes estão fazendo com nossos cérebros e que há o risco de que, em um futuro não muito distante, todos riam do quão antiquado você foi. Sócrates temia que a escrita enfraquecesse a memória das pessoas e encorajasse apenas a compreensão superficial: não a sabedoria, mas “a presunção da sabedoria” – um argumento que é surpreendentemente semelhante a muitas críticas à IA. O que aconteceu, em vez disso, foi que a escrita e os avanços tecnológicos que se seguiram – a imprensa, a mídia de massa, a era da internet – significaram que cada vez mais pessoas tinham acesso a cada vez mais informações. Mais pessoas puderam desenvolver grandes ideias e compartilhá-las com mais facilidade, e isso nos tornou mais inteligentes e inovadores, como indivíduos e como comunidades.
Afinal, a escrita não mudou apenas a forma como acessamos e retemos informações; mudou também a forma como pensamos. Uma pessoa pode realizar tarefas mais complexas com um caderno e papel à mão do que sem: a maioria das pessoas não consegue calcular 53.683 dividido por 7 de cabeça, mas poderia tentar fazer uma divisão longa no papel. Eu não conseguiria ditar este texto, mas escrever me ajudou a organizar e clarear meus pensamentos. Como humanos, somos muito bons no que os especialistas chamam de “descarregamento cognitivo”, ou seja, usar nosso ambiente físico para reduzir nossa carga mental, e isso, por sua vez, nos ajuda a realizar tarefas cognitivas mais complexas. Imagine como seria mais difícil funcionar todos os dias sem um calendário ou lembretes no celular, ou sem o Google para lembrar de tudo para você. Na melhor das hipóteses, pessoas inteligentes trabalhando em parceria com máquinas inteligentes alcançarão novos feitos intelectuais e resolverão problemas complexos: já estamos vendo, por exemplo, como a IA pode ajudar cientistas a descobrir novos medicamentos mais rapidamente e médicos a detectar câncer mais cedo e com mais eficiência.
A complicação é: se a tecnologia está realmente nos tornando mais inteligentes — nos transformando em máquinas eficientes de processamento de informações — por que passamos tanto tempo nos sentindo idiotas?
No ano passado, “podridão cerebral” foi eleita a palavra do ano pela Oxford University Press, um termo que captura tanto a sensação específica de inconsciência que nos acompanha quando passamos muito tempo navegando por lixo online quanto o próprio conteúdo corrosivo e agressivamente estúpido, os memes sem sentido e a confusão da IA. Quando seguramos nossos celulares, temos, em teoria, a maior parte do conhecimento acumulado do mundo na ponta dos dedos, então por que passamos tanto tempo arrastando os olhos por aí?
Um problema é que nossos dispositivos digitais não foram projetados para nos ajudar a pensar de forma mais eficiente e clara; quase tudo que encontramos online foi projetado para capturar e monetizar nossa atenção. Cada vez que você pega seu telefone com a intenção de completar uma tarefa simples, discreta e potencialmente auto-aprimorável, como verificar as notícias, seu cérebro primitivo de caçador-coletor confronta uma indústria de tecnologia multibilionária dedicada a desviá-lo do curso e prender sua atenção, não importa o que aconteça. Para estender a metáfora de Christodoulou, da mesma forma que uma característica de uma sociedade obesogênica são os desertos alimentares – bairros inteiros nos quais você não pode comprar uma refeição saudável – grandes partes da internet são desertos de informação, nos quais o único alimento cerebral disponível é lixo.
A multitarefa digital dá a você uma falsa sensação de estar no controle das coisas, sem nunca chegar ao fundo de nada
No final dos anos 90, a consultora de tecnologia Linda Stone, que trabalhava como professora na Universidade de Nova York, percebeu que seus alunos usavam a tecnologia de forma muito diferente de seus colegas da Microsoft, onde ela também trabalhava. Enquanto seus colegas da Microsoft eram disciplinados em relação a trabalhar em duas telas – uma para e-mails, talvez, e outra para o Word ou uma planilha – seus alunos pareciam estar tentando fazer 20 coisas ao mesmo tempo. Ela cunhou o termo “atenção parcial contínua” para descrever o estado estressante e involuntário em que frequentemente nos encontramos quando tentamos alternar entre várias atividades cognitivamente exigentes, como responder a e-mails durante uma chamada do Zoom. Quando ouvi o termo pela primeira vez, percebi que eu, como a maioria das pessoas que conheço, vivo a maior parte da minha vida em um estado de atenção parcial contínua, seja verificando meu telefone com culpa quando deveria estar brincando com meus filhos, ou incessantemente distraída por mensagens de texto e e-mails quando estou tentando escrever, ou tentando relaxar enquanto assisto à Netflix e, ao mesmo tempo, faço compras de comida online, ainda me perguntando por que me sinto tão relaxada quanto um jantar superaquecido no micro-ondas. A multitarefa digital nos faz sentir produtivos, mas isso geralmente é ilusório. “Você tem uma falsa sensação de estar no controle das coisas sem nunca chegar ao fundo de nada”, Stone me diz. Também faz você se sentir permanentemente tenso: um estudo que ela conduziu descobriu que 80% das pessoas sofrem de “apneia da tela” ao verificar seus e-mails: elas ficam tão presas nas notificações intermináveis que se esquecem de respirar corretamente. “Seu sistema de luta ou fuga fica superregulado, porque você está constantemente tentando ficar por dentro das coisas”, ela diz, e essa hipervigilância tem custos cognitivos: ela nos torna mais esquecidos, piores na tomada de decisões e menos atentos.
Ilustração: Justin Metz/The Guardian
A atenção parcial contínua ajuda a explicar tanto a deterioração cerebral como um estado mental – porque o que é isso senão sobrecarga cognitiva, o ponto em que você para de resistir ao ataque da distração digital e permite que seu cérebro descanse nas águas rasas e quentes da internet? – quanto a própria existência da porcaria online. Afinal, o que importa financeiramente para as empresas de tecnologia não é que você queira ler o que está lendo, ou que você ame o que ouve ou o que está vendo, apenas que você não esteja disposto ou não consiga se afastar. É por isso que serviços de streaming como a Netflix produzem filmes sem graça e estereotipados que são eufemisticamente rotulados como “visualização casual” e são literalmente projetados para espectadores que não estão realmente assistindo, e as playlists do Spotify são preenchidas com músicas genéricas de artistas falsos, para fornecer música de fundo, vibrações de “Chill Out” ou “Party“, para ouvintes que não estão realmente ouvindo. Em suma, a internet moderna não necessariamente faz de você um idiota, mas definitivamente o prepara para agir como um.
Foi nesse clima que a IA generativa chegou, com uma oferta totalmente nova. Até recentemente, só era possível terceirizar a memorização e parte do processamento de dados para a tecnologia; agora, é possível terceirizar o próprio pensamento. Dado que passamos a maior parte da vida nos sentindo superestimulados e exaustos, não é de se admirar que tantos tenham aproveitado a oportunidade de deixar um computador fazer mais coisas que antes faríamos por nós mesmos – como escrever relatórios de trabalho ou e-mails, ou planejar férias. À medida que transitamos da era da internet para a era da IA, o que estamos consumindo não é apenas cada vez mais informações de baixo valor e ultraprocessadas, mas mais informações essencialmente pré-digeridas, entregues de uma forma projetada para ignorar funções humanas importantes, como avaliar, filtrar e resumir informações, ou realmente considerar um problema em vez de refinar a primeira solução que nos é apresentada.
Michael Gerlich, chefe do Centro de Previsão Corporativa Estratégica e Sustentabilidade da SBS Swiss Business School, começou a estudar o impacto da IA generativa no pensamento crítico porque notou que a qualidade das discussões em sala de aula estava diminuindo. Às vezes, ele propunha aos alunos um exercício em grupo e, em vez de conversarem entre si, eles continuavam sentados em silêncio, consultando seus laptops. Ele conversou com outros professores, que notaram algo semelhante. Gerlich conduziu recentemente um estudo envolvendo 666 pessoas de várias idades e descobriu que aqueles que usavam IA com mais frequência pontuavam menos em pensamento crítico. (Como ele observa, até o momento, seu trabalho fornece apenas evidências de uma correlação entre os dois: é possível que pessoas com menor capacidade de pensamento crítico sejam mais propensas a confiar na IA, por exemplo.)
As escolas estão preparadas para produzir pensadores criativos ou o sistema educacional vai produzir drones irracionais, com inteligência artificial, que escrevem ensaios?
Como muitos pesquisadores, Gerlich acredita que, usada da maneira certa, a IA pode nos tornar mais inteligentes e criativos – mas a forma como a maioria das pessoas a utiliza produz um trabalho insosso, sem imaginação e factualmente questionável. Uma preocupação é o chamado “efeito ancoragem”. Se você postar uma pergunta para a IA generativa, a resposta que ela lhe dá coloca seu cérebro em um determinado caminho mental e torna menos provável que você considere abordagens alternativas. “Eu sempre uso o exemplo: imagine uma vela. Agora, a IA pode ajudá-lo a melhorar a vela. Ela será a mais brilhante de todas, queimará por mais tempo, será muito barata e terá uma aparência incrível, mas nunca se desenvolverá para a lâmpada”, diz ele. Para ir da vela para a lâmpada, você precisa de um ser humano com bom pensamento crítico, alguém que possa adotar uma abordagem caótica, desestruturada e imprevisível para a resolução de problemas. Quando, como aconteceu em muitos locais de trabalho, as empresas lançam ferramentas como o chatbot Copilot sem oferecer um treinamento decente em IA, elas correm o risco de formar equipes de fabricantes de velas razoáveis em um mundo que exige lâmpadas de alta eficiência.
Há também a questão maior de que adultos que usam IA como atalho pelo menos se beneficiaram de passar pelo sistema educacional nos anos anteriores à possibilidade de um computador fazer a lição de casa para você. Uma pesquisa britânica recente descobriu que 92% dos estudantes universitários usam IA, e cerca de 20% a usaram para escrever toda ou parte de uma tarefa para eles. Nessas circunstâncias, quanto eles estão aprendendo? As escolas e universidades ainda estão preparadas para produzir pensadores criativos e originais que construirão sociedades melhores e mais inteligentes – ou o sistema educacional vai produzir robôs de redação de IA, crédulos e irracionais?
Há alguns anos, Matt Miles, professor de psicologia em uma escola de ensino médio na Virgínia, nos EUA, foi enviado para um programa de treinamento sobre tecnologia em escolas. Os professores assistiram a um vídeo em que uma estudante é flagrada mexendo no celular durante as aulas. No vídeo, ela olha para cima e diz: “Vocês acham que estou apenas no TikTok ou jogando. Na verdade, estou em uma sala de pesquisa conversando com um pesquisador de recursos hídricos de Botsuana sobre um projeto.”
“É risível. Você mostra para as crianças e todas elas riem, certo?”, diz Miles. Alarmados com a desconexão entre como os formuladores de políticas veem a tecnologia na educação e o que os professores estavam vendo na sala de aula, em 2017 Miles e seu colega Joe Clement, que ensina economia e governo na mesma escola, publicaram Screen Schooled, um livro que argumentava que o uso excessivo da tecnologia está tornando as crianças mais burras. Nos anos seguintes, os smartphones foram banidos de suas salas de aula, mas os alunos ainda trabalham em seus laptops. “Tivemos uma criança nos dizendo, e eu acho que foi muito perspicaz: ‘Se você me vir no meu telefone, há 0% de chance de eu estar fazendo algo produtivo. Se você me vir no meu laptop, há 50% de chance'”, diz Miles.
Em essência, o que está acontecendo com essas tecnologias é que estamos fazendo experiências em crianças
Até a pandemia, muitos professores eram “com razão céticos” quanto aos benefícios de introduzir mais tecnologia na sala de aula, observa Faith Boninger, pesquisadora da Universidade do Colorado, mas quando os lockdowns forçaram as escolas a se tornarem online, um novo normal foi criado e plataformas de tecnologia educacional como Google Workspace for Education, Kahoot! e Zearn se tornaram onipresentes. Com a disseminação da IA generativa, surgiram novas promessas de que ela poderia revolucionar a educação e inaugurar uma era de aprendizagem personalizada dos alunos, ao mesmo tempo em que reduzia a carga de trabalho dos professores. Mas quase todas as pesquisas que encontraram benefícios na introdução da tecnologia nas salas de aula são financiadas pela indústria de tecnologia educacional, e a maioria das pesquisas independentes em larga escala descobriu que o tempo de tela atrapalha o desempenho. Um estudo global da OCDE descobriu, por exemplo, que quanto mais os alunos usam tecnologia nas escolas, piores são seus resultados. “Simplesmente não há evidências independentes em larga escala da eficácia dessas ferramentas… em essência, o que está acontecendo com essas tecnologias é que estamos fazendo experimentos em crianças”, diz Wayne Holmes, professor de estudos críticos de inteligência artificial e educação na University College London. “A maioria das pessoas sensatas não entraria em um bar e encontraria alguém que dissesse: ‘Ei, tenho um novo medicamento. É muito bom para você’ – e simplesmente o usaria. Geralmente, esperamos que nossos medicamentos sejam rigorosamente testados, esperamos que sejam prescritos por profissionais. Mas, de repente, quando falamos de tecnologia educacional, que aparentemente é muito benéfica para o cérebro em desenvolvimento das crianças, não precisamos mais fazer isso.”
O que preocupa Miles e Clement não é apenas que seus alunos estejam permanentemente distraídos com seus dispositivos, mas também que eles não desenvolverão habilidades de pensamento crítico e conhecimento profundo quando respostas rápidas estiverem a apenas um clique de distância. Onde antes Clement fazia perguntas à sua turma como: “Onde vocês acham que os EUA estão classificados em termos de PIB per capita?” e orientava seus alunos enquanto eles tentavam encontrar a solução, agora alguém terá pesquisado a resposta no Google antes mesmo de terminar a pergunta. Eles sabem que os alunos usam o ChatGPT constantemente e ficam irritados se não receberem uma cópia digital de suas tarefas, porque então precisam digitar, em vez de copiar e colar, as perguntas relevantes em um assistente de IA ou na barra de pesquisa do Google. “Ser capaz de pesquisar algo no Google e fornecer a resposta correta não é conhecimento”, diz Clement. “E ter conhecimento é incrivelmente importante para que, quando você ouve algo questionável ou talvez falso, pense: ‘Espere um minuto, isso contradiz todo o conhecimento que tenho que diz o contrário, certo?'” Não é de se admirar que haja um bando de idiotas por aí que acham que a Terra é plana. Tipo, se você lê um blog sobre a Terra plana, pensa: ‘Ah, isso faz muito sentido’, porque você não tem nenhum entendimento ou conhecimento.” A internet já está inundada de conspirações e desinformação, algo que só vai piorar à medida que a IA alucina e produz falsificações plausíveis, e ele se preocupa que os jovens estejam mal preparados para navegar por ela.
Durante a pandemia, Miles conta que encontrou seu filho pequeno chorando sobre o tablet fornecido pela escola. Seu filho estava fazendo um programa de matemática online e tinha a tarefa de fazer seis usando o menor número de fichas de um, três e cinco. Ele continuou sugerindo usar dois três, e o computador continuou dizendo que ele estava errado. Miles tentou um e cinco, que o computador aceitou. “Esse é o tipo de pesadelo que você tem com uma IA não humana, certo?” Miles observa: os alunos frequentemente abordam os tópicos de maneiras interessantes e inesperadas, mas as máquinas têm dificuldade para lidar com a idiossincrasia. Ouvindo sua história, no entanto, fui atingido por um tipo diferente de pesadelo. Talvez o alvorecer da nova era de ouro da estupidez não comece quando nos submetemos a máquinas superinteligentes; começa quando entregamos o poder a máquinas burras.
Tradução livre, parcial, de Luiz Jacques Saldanha, outubro de 2025
