O que a IA tem de errado?

De todas as reações ao manifesto do papa Leão 14 sobre inteligência artificial, desde seus admiradores do humanismo liberal até seus críticos que acreditam em consciência digital, uma das mais notáveis é a decepção dos céticos da IA que acham que o sumo pontífice passou longe de ser incisivo o suficiente. Escrevendo na revista Compact, Greg Conti, da Universidade Princeton, responde à descrição do papa sobre os perigos da era da IA perguntando: “Precisamos mesmo já ter essa era declarada?” Não poderia um papa, em vez disso, convocar “uma era de resistência à IA?” Na The Hedgehog Review, o crítico cultural Anton Barba-Kay comenta que abordar a IA como uma “ferramenta valiosa que requer vigilância”, nas palavras de Leão 14, é como dizer que “a cocaína pode ser uma droga valiosa que deve ser cheirada com uma pitada de ceticismo”. Minha própria reação à intervenção papal tinha algo em comum com esses críticos. Achei que Leão 14 poderia ter ido mais fundo na pura estranheza da IA, na natureza de seu desafio ao excepcionalismo humano, na razão pela qual ela gera tantos impulsos messiânicos e medos apocalípticos. Mas não acho que um chamado papal para resistência massiva a uma era de IA teria sido adequado às condições de 2026. Parece ao mesmo tempo tarde demais e cedo demais para essa mensagem. Tarde demais, no sentido de que a tecnologia já se infiltrou por grande parte da sociedade, construindo riqueza e infraestrutura demais, prometendo benefícios de curto prazo demais e implicando instituições demais para que alguém imagine que a revolução da IA possa ser (como Conti sugere) “extirpada ou reprimida”. E cedo demais, no sentido de que a natureza dos humanos é reagir contra uma tecnologia apenas quando seus danos se tornam inegáveis; respondemos melhor a perigos manifestos, não a ameaças hipotéticas. As regulamentações que domaram a industrialização foram ajustadas aos abusos da época; os movimentos para conter a proliferação nuclear teriam sido muito diferentes sem a lição objetiva de Hiroshima e Nagasaki; a recente reação contra o uso de smartphones por crianças não poderia ter sido fabricada em 2010. Lá Fora Receba no seu email uma seleção semanal com o que de mais importante aconteceu no mundo Sem dúvida, em um mundo ideal, a resposta precederia a lição amarga. Mas neste mundo, tanto para o cético humanista da IA quanto para o defensor da segurança que teme a Skynet, alguma versão do Grande Mal provavelmente precisa ser não apenas visível, mas inegável, antes que o mundo aja. E se o humanista é cristão, como o papa, ele tem boas razões para confiar que Deus nos concederá todo o tempo necessário para domar e regular ou mesmo extirpar a Coisa Ruim, em vez de simplesmente nos entregar à destruição. (A menos que esta seja a última tentação tecnológica de todas, caso em que nem encíclicas nem colunas de jornal nos servirão de muito.) Isso não significa, porém, que céticos e críticos precisem apenas sentar e esperar que seus piores medos se concretizem. Se você está convencido dos perigos existenciais da IA, então deveria favorecer regulamentação incremental e maior conscientização política, mesmo que o que você realmente deseje seja uma moratória abrangente. Da mesma forma, se você teme os perigos culturais da IA, então seu objetivo deveria ser moralizar em termos concretos, identificar usos particulares da tecnologia que pareçam particularmente vergonhosos, dizer aos seus leitores como não usar a IA —mesmo que, em algum nível, você prefira condenar todas as pompas e obras desta era. Escrevendo na revista The Atlantic, Tyler Austin Harper argumenta que alguns céticos seculares da IA foram atraídos por pensadores religiosos como o papa exatamente por essa razão —porque uma linguagem de dano parece inadequada aos perigos que a IA cria para os humanos, que são melhor identificados pela linguagem do pecado. Se esse for o caso, porém, o objetivo do crítico deveria ser identificar o pecado diretamente, não meramente lamentar o avanço geral da tecnologia nem oferecer desculpas para indivíduos apanhados na disrupção. Não ofereça lamentos vagos sobre o destino do ensino superior; diga que estudantes que usam IA para colar estão fazendo algo gravemente errado. Não se limite a lamentar a proliferação de prosa influenciada pelo Claude; diga que o romancista ou ensaísta que terceiriza um capítulo para a IA cometeu o que deveria ser um crime literário que encerra carreiras. Não se limite a preocupar-se, como faz a encíclica do papa, com o fato de que receber “palavras de conselho, empatia, amizade e até amor” de um chatbot pode ser “enganoso” para “usuários menos discernentes”. Diga aos católicos e outros cristãos que tratar um bot de IA como sua namorada ou seu namorado é pecado. O objetivo desse tipo de condenação não é impedir a grande disrupção da IA. É lançar as bases para quaisquer estruturas que construirmos do outro lado. A contribuição necessária do crítico não é convencer magicamente todos de que é errado usar IA. É convencer algumas pessoas, e depois mais pessoas, e no fim quase todos, de que pode ser errado usar IA daquela maneira. LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.