Inteligência artificial está nos deixando burros? Cientistas investigam efeitos no cérebro

(Foto: Reprodução) – Dentro dos nossos cérebros, ainda não está claro como o uso persistente da IA molda a mente.

Na nossa vida cotidiana, o uso de programas de inteligência artificial como o ChatGPT é evidente. Estudantes usam essa tecnologia para produzir trabalhos de conclusão de curso. Funcionários de escritório pedem a ajuda virtual para organizar calendários e escrever relatórios. Pais acionam a IA para criar histórias personalizadas na hora de dormir para as crianças.

Dentro dos nossos cérebros, ainda não está claro como o uso persistente da IA molda a mente.

À medida que nossa dependência em ter vasto conhecimento rapidamente sintetizado na ponta dos dedos aumenta, cientistas correm para entender como o uso frequente de programas de modelo de linguagem de grande escala, ou LLMs, afeta nossos cérebros. Eles investigam preocupações de que os recursos de IA enfraquecem capacidades cognitivas e reduzem a diversidade de nossas ideias.

Manchetes sobre como a a inteligência artificial está nos tornando estúpidos e preguiçosos viralizaram este mês após a divulgação de uma pesquisa do MIT Media Lab. Embora os pesquisadores alertem que este artigo científico e outros na área não chegaram a conclusões definitivas, o trabalho do MIT e outros pequenos estudos publicados este ano oferecem sugestões preocupantes.

Uma pesquisa no Reino Unido com mais de 600 pessoas publicado em janeiro encontrou “correlação negativa significativa entre o uso frequente de ferramentas de IA e habilidades de pensamento crítico”, já que usuários mais jovens, em particular, frequentemente dependiam dos programas como substitutos, não suplementos, para tarefas rotineiras.

Um estudo publicado na semana passada pela Escola Wharton da Universidade da Pensilvânia (EUA) mostrou que alunos do ensino médio na Turquia com acesso a um tutor ao estilo ChatGPT tiveram desempenho significativamente melhor ao resolver problemas de Matemática. Mas quando o programa foi retirado, tiveram desempenho pior do que os estudantes que não usaram nenhum tutor de IA.

E o estudo do MIT que ganhou grande atenção – e alguma reação negativa – envolveu pesquisadores que mediram a atividade cerebral de universitários enquanto usavam o ChatGPT para escrever redações no estilo do SAT (espécie de Enem americano) durante três sessões.

O trabalho deles foi comparado ao de outros que usaram o Google ou nada. Os pesquisadores equiparam 54 autores de redações com toucas cobertas de eletrodos que monitoram sinais elétricos no cérebro.

Os dados de EEG revelaram que os escritores que usaram o ChatGPT exibiram o menor engajamento cerebral e “consistentemente apresentaram desempenho inferior em níveis neurais, linguísticos e comportamentais”, conforme o estudo. Em última análise, eles produziram redações que soavam semelhantes e careciam de toques pessoais.

Professores de Inglês que leram os trabalhos os chamaram de “sem alma”. O grupo “apenas cérebro” mostrou as maiores ativações neurais e conexões entre regiões do cérebro que “correlacionavam com memória mais forte, maior precisão semântica e posse mais firme do trabalho escrito”.

Em uma quarta sessão, membros do grupo do ChatGPT foram convidados a reescrever uma de suas redações anteriores sem a ferramenta, mas os participantes se lembravam pouco do seu trabalho anterior.

Céticos apontam inúmeras limitações. Eles argumentam que a conectividade neural medida pelo EEG não indica necessariamente cognição pobre ou saúde cerebral. Para os participantes do estudo, os riscos também eram baixos – a entrada para a faculdade, por exemplo, não dependia da conclusão das redações. Além disso, apenas 18 participantes retornaram para a quarta e última sessão.

A principal pesquisadora do MIT, Nataliya Kosmyna, reconhece que o estudo foi limitado em escopo e, contrariamente às manchetes virais da internet sobre o papel, não estava avaliando se o ChatGPT está nos tornando menos inteligentes.

O artigo científico não foi revisado por pares, mas a equipe divulgou resultados preliminares para provocar conversas sobre o impacto do ChatGPT, particularmente em cérebros em desenvolvimento, e os riscos do ethos do Vale do Silício de lançar tecnologia poderosa rapidamente.

“Talvez não devêssemos aplicar esta cultura cegamente nos espaços onde o cérebro é frágil,” disse Nataliya Kosmyna em entrevista.

A OpenAI, empresa da Califórnia que lançou o ChatGPT em 2022, não respondeu aos pedidos de comentário. (O jornal Washington Post tem parceria de conteúdo com o OpenAI.)

Michael Gerlich, que liderou o estudo de pesquisa do Reino Unido, chamou a abordagem do MIT de “brilhante” e disse que mostrou que a IA está superestimulando o que é conhecido como “descarga cognitiva”, onde usamos uma ação física para reduzir as demandas em nosso cérebro.

Mas, em vez de descarregar dados simples – como números de telefone que uma vez memorizamos, mas agora armazenamos em nossos telefones – as pessoas que confiam em LLMs descarregam o processo de pensamento crítico.

Seu estudo sugeriu que pessoas mais jovens e aquelas com menos educação são mais rápidas em descarregar o pensamento crítico para LLMs porque são menos confiantes em suas habilidades. (“Isso se tornou parte de como penso,” um estudante disse mais tarde aos pesquisadores.)

“É um modelo de linguagem extenso. Você acha que é mais inteligente que você. E você adota isso,” disse Gerlich, professor na SBS Swiss Business School em Zurique.

Ainda assim, Kosmyna, Gerlich e outros pesquisadores alertam sobre o risco de tirar conclusões abrangentes – nenhum estudo de longo prazo foi concluído sobre efeitos na cognição da tecnologia nascente. Os pesquisadores também enfatizam que os benefícios da IA podem, em última análise, superar os riscos, liberando nossas mentes para enfrentar pensamentos maiores e mais ousados.
Medos enraizados e avenidas para criatividade

O medo de que a tecnologia reestruture nossos cérebros não é nada novo. Sócrates alertou que a escrita faria os humanos se tornarem esquecidos. Em meados dos anos 1970, professores temiam que calculadoras baratas pudessem privar os alunos da capacidade de fazer contas simples. Mais recentemente, o surgimento de motores de busca suscitou temores de “amnésia digital”.

“Não faz muito tempo que todos estávamos em pânico sobre o Google estar nos tornando estúpidos e agora que o Google faz parte mais do nosso cotidiano, não parece tão assustador,” disse Sam J. Gilbert, professor de Neurociência Cognitiva na University College London.

“O ChatGPT é o novo alvo de algumas das preocupações. Precisamos ser muito cuidadosos e equilibrados na maneira como interpretamos esses achados” do estudo do MIT.

O artigo do MIT sugere que os autores de redações do ChatGPT ilustram “dívida cognitiva”, uma condição na qual contar com tais programas substitui os processos cognitivos trabalhosos necessários para o pensamento independente. As redações se tornam tendenciosas e superficiais. A longo prazo, tal dívida cognitiva pode nos tornar mais fáceis de manipular e sufocar a criatividade.

Mas Gilbert argumenta que o estudo do MIT também poderia ser visto como um exemplo do que ele chama de “transbordamento cognitivo”, ou descartar algumas informações para limpar a mente para pensamentos potencialmente mais ambiciosos.

“Só porque as pessoas dedicaram menos esforço mental à escrita das redações que os pesquisadores pediram que elas fizessem, isso não é necessariamente uma coisa ruim,” ele disse. “Talvez tivessem coisas mais úteis, mais valiosas que poderiam fazer com suas mentes.”

Especialistas sugerem que talvez a IA – a longo prazo e implantada corretamente – nos levará aumentar, não substituir o pensamento crítico.

O estudo da Wharton School em quase mil alunos do ensino médio turcos também incluiu um grupo que teve acesso a um programa tutor estilo ChatGPT com salvaguardas embutidas que forneciam dicas projetadas por professores em vez de dar as respostas.

Esses alunos tiveram desempenho extremamente bom e fizeram aproximadamente o mesmo que os alunos que não usaram IA quando foram solicitados a resolver problemas sem assistência, mostrou o estudo.

Mais pesquisas são necessárias sobre as melhores maneiras de moldar comportamentos do usuário e criar programas LLM para evitar danificar habilidades de pensamento crítico, disse Aniket Kittur, professor no Instituto de Interação Humano-Computador da Carnegie Mellon University. Ele faz parte de uma equipe que cria programas de IA projetados para acender faíscas criativas, não gerar saídas finalizadas, mas sem graça.

Um programa, chamado BioSpark, visa a ajudar os usuários a resolverem problemas por meio da inspiração no mundo natural – por exemplo, criar um suporte de bicicleta melhor para montar em carros.

Em vez de uma interface de texto sem graça, o programa pode exibir imagens e detalhes de diferentes espécies de animais para servir de inspiração, como o formato das pernas de um sapo ou a viscosidade do muco de um caracol que poderia espelhar um gel para manter as bicicletas seguras. Os usuários podem percorrer pesquisas científicas relevantes, salvando ideias à la Pinterest, e então fazer perguntas mais detalhadas ao programa de IA.

“Precisamos de novas formas de interagir com essas ferramentas que desbloqueiem esse tipo de criatividade,” disse Kittur. “Precisamos de formas rigorosas de medir quão bem-sucedidas essas ferramentas são. Isso é algo que só se pode fazer com pesquisa.”