Entre Babel e o algoritmo: a questão humana na era da IA

Vivemos num mundo acelerado, onde, quer queiramos ou não, as transformações tecnológicas nos impõem uma escolha que nem sempre reconhecemos como tal: podemos deixar que as mudanças nos aconteçam ou, em alternativa, podemos tentar compreendê-las e, assim, participar na sua orientação. A inteligência artificial (IA) é hoje o exemplo mais paradigmático desta tensão. Em poucos anos, os sistemas de IA passaram de ferramentas de apoio ao processamento de linguagem natural para agentes autónomos capazes de executar tarefas de engenharia complexas, conduzir ciclos de investigação científica e, progressivamente, participar no seu próprio processo de desenvolvimento. Esta aceleração — vertiginosa e sem qualquer precedente histórico idêntico em dimensão e impacto — coloca-nos perguntas que a filosofia, a ética, a teologia e as ciências políticas não podem continuar a ignorar: que lugar ocupa o ser humano num mundo em que a máquina aprende a melhorar-se a si mesma? Existe um limiar para além do qual o progresso tecnológico deixa de ser instrumento do ser humano para se tornar um vetor da sua substituição?

Parto para esta breve e humilde reflexão articulando dois documentos que considero fundacionais, produzidos em 2026 a partir de perspetivas radicalmente distintas — a encíclica Magnifica Humanitas do Papa Leão XIV e o relatório When AI Builds Itself do Anthropic Institute — para demonstrar que, apesar das diferenças de linguagem e de método, ambos convergem na identificação de um risco civilizacional: a perda de controlo humano sobre os processos de tomada de decisão em condições de automelhoria progressiva dos sistemas de IA atualmente em desenvolvimento.

A Arquitetura da Encíclica: Dignidade como Critério Normativo

A encíclica Magnifica Humanitas, publicada a 15 de maio de 2026, no 135.º aniversário da Rerum novarum de Leão XIII, inscreve-se numa tradição de longa data da Doutrina Social da Igreja (DSI): a de produzir discernimento moral perante as res novae de cada época (Leão XIV, 2026, n.º 3). O documento não condena a IA enquanto tecnologia, reconhecendo-a como "expressão da criatividade humana" e como instrumento potencialmente emancipador (Leão XIV, 2026, n.º 4). Contudo, o argumento central da encíclica assenta numa distinção filosófica incontornável: a tecnologia não é neutra, porque "tem o rosto daqueles que a concebem, financiam, regulam e utilizam" (Leão XIV, 2026, n.º 9).

Este princípio articula-se com a preocupação recorrente da DSI quanto à concentração de poder. O Papa Leão XIV retoma a advertência de Francisco sobre o facto de os principais motores da inovação serem, crescentemente, atores privados transnacionais "dotados de recursos e capacidades de intervenção superiores aos de muitos Governos" (Francisco, 2015; Leão XIV, 2026, n.º 5). A IA, neste quadro, não é apenas uma questão técnica ou económica, mas um problema de soberania e de bem comum. O risco que a encíclica nomeia como "síndrome de Babel" — a uniformidade que elimina a diversidade, a pretensão de autossuficiência que prescinde de qualquer referência transcendente — encontra na IA a sua versão mais sofisticada: a construção de uma linguagem única e algorítmica que "traduz tudo em dados e desempenhos, inclusive o mistério da pessoa" (Leão XIV, 2026, n.º 10).

A Perspetiva Técnica: Quando a IA Constrói a IA

Se a encíclica formula o diagnóstico em linguagem teológica e filosófica, o relatório do Anthropic Institute apresenta a mesma problemática em termos empíricos e quantitativos. O documento, intitulado When AI Builds Itself, descreve o fenómeno da "recursive self-improvement" (RSI) como "um sistema de IA capaz de, de forma totalmente autónoma, conceber e desenvolver o seu próprio sucessor" (Favaro & Clark, 2026). O relatório reconhece que tal ponto de inflexão ainda não foi alcançado, mas sublinha que poderia chegar "mais cedo do que a maioria das instituições está preparada" (Favaro & Clark, 2026).

Os dados empíricos apresentados são reveladores. Em maio de 2026, mais de 80% do código integrado na base de produção da Anthropic foi produzido por Claude, quando em 2024 essa percentagem era residual (Favaro & Clark, 2026). A capacidade dos modelos de executar tarefas de forma autónoma tem crescido exponencialmente: enquanto em março de 2024 o modelo Claude Opus 3 conseguia completar tarefas que exigem cerca de quatro minutos a um humano qualificado, em abril de 2026 o Claude Mythos Preview geria tarefas de doze horas (Favaro & Clark, 2026) — uma progressão que segue uma curva de duplicação aproximada a cada quatro meses.

A Convergência: Governação, Controlo e o Imperativo do Humano

A aparente distância epistemológica entre os dois textos — ou entre o sagrado e o profano — dissolve-se quando submetida a uma leitura estrutural comparada. Tanto a encíclica como o relatório identificam o mesmo nó górdio: a dissociação crescente entre capacidade técnica e responsabilidade moral. Se a encíclica formula este problema em termos de dignidade da pessoa humana — "nenhuma máquina poderá substituir [o humano] no seu esplendor" (Leão XIV, 2026, n.º 15) —, o relatório do Anthropic Institute coloca-o em termos de alinhamento e verificabilidade, reconhecendo que, num cenário de automelhoria recursiva plena, "as raras ocorrências de desalinhamento presentes nos modelos atuais poderiam ampliar-se à medida que os modelos constroem os seus sucessores, tornando-se mais frequentes e menos compreensíveis até perdermos o controlo sobre eles" (Favaro & Clark, 2026).

Ambos os documentos apelam à governação global como resposta necessária, ainda que insuficiente: a encíclica insiste na "responsabilidade partilhada" e convoca cientistas, legisladores, educadores e comunidades de fé para a reconstrução do que designa como "Jerusalém" — uma cidade edificada sobre a comunhão e o reconhecimento da dignidade de cada pessoa (Leão XIV, 2026, n.ºs 8, 13). O relatório, por sua vez, propõe a criação de mecanismos de verificação internacional que permitam eventuais pausas coordenadas no desenvolvimento dos sistemas de IA, admitindo que "o mundo construiu regimes de verificação para outras tecnologias complexas", embora reconheça que "esses regimes levaram décadas a construir" (Favaro & Clark, 2026). A urgência partilhada é a mesma: a janela de deliberação está aberta, mas é estreita — e o tempo parece correr contra a humanidade.

A Questão do Poder e a Falência do Tecnocratismo

Um terceiro eixo de convergência reside na crítica ao paradigma tecnocrático. Leão XIV, retomando a tradição da DSI desde Laudato si' (Francisco, 2015), alerta para o risco de que o progresso técnico se torne "um critério absoluto de julgamento", subordinando a pessoa humana à lógica da eficiência e da acumulação (Leão XIV, 2026, n.º 4). Esta advertência encontra eco no diagnóstico do relatório do Anthropic Institute quando reconhece que, num cenário de automelhoria recursiva, "a velocidade do progresso no desenvolvimento de IA tornar-se-ia inteiramente determinada pela disponibilidade de computação" (Favaro & Clark, 2026). A lógica da eficiência tende, pela sua própria dinâmica, a excluir tudo o que não é mensurável — incluindo o julgamento, o discernimento e a escolha ética, dimensões que o relatório reconhece como o último reduto da vantagem comparativa humana.

Esta é, precisamente, a articulação mais fértil entre os dois textos: o que a encíclica designa por "mistério da pessoa" é o mesmo espaço que o relatório técnico identifica como o único domínio ainda não automatizável — o de decidir quais os problemas que valem a pena ser resolvidos. Que a linguagem teológica e a linguagem técnica coincidam neste ponto não é acidental. Sugere que o problema da IA é, em última análise, um problema de antropologia: o que define o humano não é a velocidade de processamento nem a capacidade de otimização, mas a capacidade de atribuir sentido, de exercer responsabilidade e de se vincular a outros no interior de uma comunidade moral.

Conclusão: Para uma Ética da Co-Responsabilidade

A leitura articulada de Magnifica Humanitas e de When AI Builds Itself revela-nos que a humanidade se encontra perante uma bifurcação histórica sem precedente análogo próximo. A automelhoria recursiva da IA não é um cenário de ficção científica, mas uma trajetória empiricamente documentada cujo horizonte temporal é medido em anos, não em décadas. Respondê-la exige o que a encíclica denomina de "co-responsabilidade corajosa" (Leão XIV, 2026, n.º 13) e o que o relatório designa como "deliberação global" com o envolvimento de atores para além das empresas de IA (Favaro & Clark, 2026). As pedras desta nova muralha terão de ser assentes por legisladores, cientistas, educadores, comunidades civis e religiosas, e pelos próprios sistemas que estamos a construir — enquanto ainda somos nós a ter o poder de escolher o que deve ser construído. Se é que ainda o temos, efetivamente.

Referências e Bibliografia

Coeckelbergh, M. (2020). AI ethics. MIT Press.

Favaro, M., & Clark, J. (2026). When AI builds itself. Anthropic Institute. https://www.anthropic.com/institute/recursive-self-improvement

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5

Francisco. (2015). Laudato si': Sobre o cuidado da casa comum [Carta Encíclica]. Santa Sé. https://www.vatican.va/content/francesco/pt/encyclicals/documents/papa-francesco_20150524_enciclica-laudato-si.html

Leão XIV. (2026). Magnifica humanitas: Sobre a salvaguarda da pessoa humana na era da inteligência artificial [Carta Encíclica]. Santa Sé. https://www.vatican.va/content/leo-xiv/pt/encyclicals/documents/20260515-magnifica-humanitas.html 

Metzinger, T. (2021). Artificial suffering: An argument for a global moratorium on synthetic phenomenology. Journal of Artificial Intelligence and Consciousness, 8(1), 43–66. https://doi.org/10.1142/S2705078521500023

Russell, S. (2019). Human compatible: Artificial intelligence and the problem of control. Viking.

Taddeo, M., & Floridi, L. (2018). How AI can be a force for good. Science, 361(6404), 751–752. https://doi.org/10.1126/science.aat5991

Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs.