Inteligência artificial e política

Os perigos da IA para a democracia

André Oliveira & Rodolfo Marques são colunistas do Jornal de Toronto

No livro A Hora dos Predadores, o cientista político italiano Giuliano Da Empoli traça um quadro sombrio sobre os impactos negativos que o uso da Inteligência Artificial (IA) terá sobre o funcionamento da democracia, dado o seu notório potencial de concentração e manipulação de informações nas mãos de poucas corporações. Giuliano Da Empoli chega a comparar a bajulação dos tecnocratas da IA pelos líderes democráticos no Ocidente à recepção benevolente, mas inútil, do rei asteca Montezuma II ao conquistador Hernán Cortez. Como sabemos pelos relatos históricos disponíveis, Cortez destruiu implacavelmente o fabuloso império asteca aproveitando-se do aparato militar superior de que dispunha, incluindo a cavalaria – os astecas ignoravam a existência de cavalos e cogitaram se os espanhóis não eram, em verdade, demiurgos.

Realmente, não é mais possível conceber a vida social e política sem o uso das redes sociais e, indo além, das novas ferramentas criadas pela IA como o ChatGPT. No campo econômico, as implicações serão profundas com a IA substituindo milhares de trabalhadores em atividades que poderão ser executadas com maior velocidade e exatidão. Mesmo considerando que a IA não possui o que entendemos como consciência, sendo desprovida de certos atributos humanos, como a imaginação e o senso crítico, ainda assim, tarefas rotineiras, escoradas unicamente no tratamento de dados e sem maiores nuances técnicas, resultarão certamente na substituição de trabalhadores pela IA. Discussões ainda incipientes sugerem que a instituição de uma renda universal seria destinada aos novos excluídos sociais.

No plano político, os riscos para a democracia são igualmente enormes, a começar pela concentração do manuseio da IA em poucas (e poderosas) corporações, como a Meta (Facebook, Instagram e WhatsApp) e Apple, por exemplo. Uma concentração de poderes tão extensos levaria certamente à difusão de desinformação, visando atender a interesses corporativos quando estes entrassem em desacordo com os objetivos perseguidos pela democracia. A homogeneização do pensamento é outro perigo que daí decorre. Os grandes tecnocratas, como Jeff Bezos e Mark Zuckerberg, estavam presentes à posse do presidente Donald Trump que, como todo autocrata, tem se notabilizado pelo assédio à imprensa livre.

Apenas impedir o desenvolvimento de tecnologias tão avançadas que, se usadas adequadamente, vão incrementar o bem-estar das pessoas não nos parece o melhor caminho. Mas remanesce a questão sobre o que fazer para evitar o uso abusivo e oligopolizado da IA. Algum tipo de regulação e/ou controle social há de ser instituído, porque a experiência histórica já demonstrou que o poder econômico avassalador tende a se tornar abusivo. Para ser defendida, a democracia precisará de cidadãos bem-informados e mobilizados para bloquear tentativas de homogeneização de comportamentos e pensamento, um desafio difícil de conseguir em escala global, mas não impossível.