Ética e Inteligência Artificial: as tensões entre humanidade e tecnologia

Ler Resumo

Um mundo no qual a grande maioria das tarefas repetitivas será feita de maneira automatizada. Ninguém mais perderá tempo com leitura ou escrita de intermináveis textos e relatórios. Livros e bibliotecas? Não serão mais consultados. O “chat” responderá tudo. Cálculos complexos serão feitos a partir de um simples comando. Fórmulas matemáticas e até as calculadoras científicas se tornarão dispensáveis. Novas profissões surgirão e ofícios obsoletos irão desaparecer.

Por outro lado, empresas substituirão quase 100% da mão de obra humana por IA. Apenas os “engenheiros de prompt” terão emprego. Salas de aula e redações de jornal rapidamente passarão a ser dispensáveis. Haverá uma massa de desempregados dependendo de auxílios do governo. Isso se ainda houver governo, se tudo não for tomado e determinado pelas “big techs”.

Quando falamos em IA (Inteligência Artificial), são muitos os cenários vislumbrados. No entanto, é possível que nenhum dos cenários descritos acima se concretize plenamente. De qualquer forma, diante da ainda recente ascensão da IA, algumas perguntas de difícil resposta são colocadas: como utilizar a IA de maneira ética e socialmente responsável? Como equalizar deveres e responsabilizações entre usuários, empresas e governos?

O economista Daron Acemoglu, um dos laureados com o Prêmio Nobel de Economia em 2024, é uma das vozes críticas ao excesso de otimismo em relação à IA. Sua crítica, porém, não se assemelha ao “ludismo”, ou seja, à negação da tecnologia. Em seu livro “Poder e Progresso: uma luta de mil anos entre a tecnologia e a prosperidade” (em coautoria com Simon Johnson, também vencedor do Nobel; edição original de 2023 e tradução brasileira de 2024), são destacados dois aspectos fundamentais: a amplitude da produtividade que poderá ser alcançada pela IA; e as escolhas coletivas que a sociedade fará sobre como lidar com a IA.

Acemoglu não é tão otimista quanto à capacidade da IA de aumentar a produtividade e o bem-estar da sociedade. Diferentemente de outras revoluções tecnológicas, como a máquina a vapor ou a eletricidade, a IA pode não entregar um grande salto tecnológico. É o que o autor chama de “automação moderada” (so-so automation). Um exemplo citado são os SACs, nos quais após infindáveis interações improdutivas com um “robô”, surge um humano para resolver o problema. No entanto, todas as informações têm que ser repassadas novamente e as poucas interações do operador humano com os clientes tiram dele a possibilidade de aperfeiçoamento de sua “inteligência social”, algo tão destacado pelo economista como uma habilidade humana difícil de ser substituída pela IA.

Continua após a publicidade

Outra questão discutida pelo autor é quem ditará os usos da IA. Atualmente, as chamadas “big techs”, grandes empresas de tecnologia, concentram o mercado de IA. Ainda há poucas regulamentações e parece haver poucos limites e transparência em relação ao uso das ferramentas. A sociedade e o mercado, movidos pelo “hype” e pelo FOMO (“fear of missing out” ou “medo de ficar de fora”), utilizam os “chats” de forma indiscriminada. Esse processo vai continuar até que a IA – e não mais governos e sociedade civil, ou seja, as instituições humanas – dê a última palavra sobre qualquer assunto?

Para Acemoglu, isso dependerá de escolhas sociais. O autor cita como exemplo as grandes empresas norte-americanas do final do século XIX. Diversos setores, como siderurgia e petróleo, eram dominados por apenas uma empresa monopolista. Muitas vezes, tais empresas mantinham relações de “compadrio” com o governo. Parecia impossível estabelecer qualquer tipo de limite. No entanto, após muitas pressões da imprensa, da sociedade civil e de outros empresários, foi aprovada a Lei Antitruste, em 1890, um marco na regulamentação governamental sobre o mercado, que influenciou diversas legislações semelhantes em outros países.

Cabe ressaltar também que, assim como a Lei Antitruste, a visão de Acemoglu e dos que defendem uma maior regulamentação sobre IA não se trata de uma posição “antimercado”. Pelo contrário: o mercado, como nos mostrou Schumpeter, é responsável pela “destruição criativa”, ou seja, pelo surgimento de novas tecnologias e novas formas de organizar a economia que “destroem” aquelas até então existentes. Ao longo do tempo, ainda que muitas vezes com custos de transição, a força de trabalho desempregada é absorvida por outros setores. No entanto, a concentração em poucas empresas é uma “falha de mercado” e pode ser um desestímulo à inovação.

Continua após a publicidade

Diante de tantas interrogações, é certo que o processo de “acomodação” da IA na sociedade e na economia nos próximos anos não será natural e sem tensões. Além de regulamentações, caberá às organizações, como empresas, órgãos de imprensa, instituições de ensino, estabelecerem protocolos próprios e personalizados para a devida utilização de ferramentas de IA. Nesse processo, o senso crítico e a necessidade de repertório terão um papel central. Não existem soluções prontas ou universais, mas é urgente estabelecer soluções específicas, ainda que provisórias. Isso, porém, a IA ainda está longe de poder fazer por nós.

Caio César Vioto de Andrade é doutor em História pela UNESP.

VER NA FONTE