Se você já se pegou pensando que as ferramentas de inteligência artificial são carinhosas em excesso, saiba que não está só. Até o papa acha isso, conforme um alerta que ele emitiu neste fim de semana. Leão XIV declarou que chatbots (leia-se ChatGPT, Gemini, Claude e afins) podem ter impactos profundos e virar muletas emocionais.
“À medida que navegamos por nossos feeds de informação, torna-se cada vez mais difícil entender se estamos interagindo com outros seres humanos, bots ou influenciadores virtuais”, escreveu o pontífice numa mensagem que inicia os preparativos para o Dia Mundial das Comunicações Sociais da Igreja Católica, marcado para maio.
Leão XIV alertou que chatbots “excessivamente afetuosos”, além de sempre presentes e disponíveis, podem se tornar arquitetos ocultos de nossos estados emocionais e, dessa forma, invadir e ocupar as esferas íntimas das pessoas.”
Uso ético de IA como uma causa do papado
O papa também alertou que o avanço da inteligência artificial pode diluir capacidades humanas fundamentais, como criatividade e tomada de decisão, especialmente num ambiente em que algoritmos passam a mediar grande parte das interações cotidianas.
Mais conectado ao mundo digital do que papas anteriores, ele tinha, em seus tempos de bispo e cardeal, uma conta no X e, já no posto de papa, foi fotografado usando o que parece ser um Apple Watch. Leão deixou claro que pretende fazer da IA um dos temas centrais de seu papado, defendendo a criação de um arcabouço ético para orientar o desenvolvimento da tecnologia.
No texto, ele cobra ação concreta de governos nacionais e organismos internacionais para enfrentar os riscos emocionais e informacionais associados aos sistemas de IA: “Uma regulação apropriada pode proteger as pessoas de um apego emocional aos chatbots e conter a disseminação de conteúdos falsos, manipuladores ou enganosos, preservando a integridade da informação contra sua simulação enganosa.”
De olho na concentração de poder
Em seu texto, o líder católico também entrou no debate sobre jornalismo e produção de conteúdo, pedindo distinções claras entre o que é criado por pessoas e o que é gerado por máquinas. “A autoria e a soberania sobre o trabalho de jornalistas e outros criadores de conteúdo devem ser protegidas. A informação é um bem público.”
Outro ponto sensível levantado por Leão XIV foi a concentração de poder em um pequeno grupo de empresas que desenvolvem os sistemas de inteligência artificial. Segundo ele, o fato de poucos atores controlarem tecnologias capazes de moldar comportamentos e narrativas levanta sérias preocupações sobre o futuro da sociedade e até sobre como a própria história pode ser influenciada.
Enquanto boa parte da discussão pública sobre IA se concentra em produtividade, automação e ganhos econômicos, o papa trouxe o foco para um território mais invisível, porém profundo: o emocional. Num mundo em que assistentes virtuais conversam como amigos, demonstram empatia programada e estão disponíveis o tempo todo, a fronteira entre ferramenta e companhia começa a ficar borrada com muita facilidade. Não à toa, pesquisas de 2025 mostraram crescimento do uso do ChatGPT como substituição a terapeutas humanos, prática arriscada (que a gente comentou aqui na coluna, explicando que é uma péssima ideia).
Na sexta, falamos aqui sobre o movimento de celebridades de Hollywood contra o uso de seu trabalho criativo para treinar IAs sem compensação financeira. É fundamental que vozes capazes de criar repercussão ganhem eco, então eu diria que a fala do papa chega numa ótima hora, porque inteligência artificial (como qualquer tecnologia) precisa ser regulamentada para garantir que seu potencial benéfico prevaleça sobre os riscos que ele também carrega.
Aliás, Leão XIV falou também da importância de resguardar a voz e o rosto humanos diante de uma tecnologia capaz de simulá-los, manipulá-los e esvaziá-los. Termino com as palavras dele, que são importantes para pessoas de qualquer religião (deixei até em negrito e itálico para você, leitor, não deixar de ver), olha só:
“O desafio, portanto, não é tecnológico, mas antropológico. Proteger rostos e vozes significa, em última instância, proteger a nós mesmos. Acolher com coragem, determinação e discernimento as oportunidades oferecidas pela tecnologia digital e pela inteligência artificial não implica esconder seus pontos críticos, suas opacidades e seus riscos.”
