Precisamos de uma IA que favoreça a democracia

• proteção: STF estabelece regras para uso obrigatório de câmeras corporais por policiais militares em São Paulo

O filósofo Mark Cockelberg, em seu livro “Por que a inteligência artificial prejudica a democracia e o que fazer a respeito” (2024), acredita que “as tecnologias são em si políticas. A suposição é que as tecnologias não são apenas ferramentas neutras para alcançar objectivos humanitários, mas também alteram esses objectivos e os significados humanos a eles associados, pelo que também não são neutras no que diz respeito à democracia. Se realmente queremos democracia, é melhor criarmos tecnologias mais democráticas. Precisamos de “IA democrática” e até de “IA para a democracia”.

• intercâmbio: Argentina faz a maior venda de reservas internacionais em um dia para reter dólares

A IA generativa, com a sua capacidade de produzir desinformação em grande escala, ameaça minar a responsabilização democrática e minar a confiança social e política. Ameaça três pilares básicos da democracia: representação, responsabilização e confiança, que são os mais importantes num sistema político. O perigo é que, à medida que o conteúdo falso se espalha em formatos de texto, imagem e vídeo, os cidadãos podem não saber em que acreditar e, portanto, não confiarão em todo o ecossistema de informação.

Em 2023, o Parlamento Europeu publicou um artigo intitulado “Inteligência Artificial, Democracia e Eleições”, considerando que a inteligência artificial é uma oportunidade para melhorar o processo democrático, ajudando os cidadãos a compreenderem melhor a política e a participarem mais facilmente, além de trazerem políticos cidadãos. E, em última análise, representá-los de forma mais eficaz:

Este consenso entre cidadãos e políticos pode mudar a face das campanhas eleitorais e melhorar significativamente o processo de formulação de políticas, tornando-o mais preciso e eficiente.

No entanto, os benefícios dependem da adoção de salvaguardas adequadas, como a Lei Europeia de Inteligência Artificial, que incluiu aquelas desenvolvidas com o objetivo de influenciar os eleitores em campanhas políticas na lista de sistemas de alto risco.

Para avaliar o impacto da IA ​​nas democracias, a UNESCO encomendou um estudo a Daniele Inerariti, que – em colaboração com a Cátedra de IA e Democracia da Escola de Governança Transnacional de Florença, o Instituto Universitário Europeu e o Instituto de Governação Democrática de San Sebastián – produziu o relatório “Inteligência Artificial e Democracia” (2024), com recomendações sobre temas a ter em consideração na gestão da IA: educação e sensibilização; Regulamentação e legislação; Participação pública e proteção da democracia; Regulamentação e legislação de dados; Transparência, interpretabilidade e concorrência; Estratégias nacionais abrangentes; Abordagem multissetorial; E o desenvolvimento de estruturas globais.

– Como organização líder no estabelecimento de padrões internacionais no campo da transformação social, a UNESCO pretende desempenhar um papel de liderança na concepção de metodologias e produtos de conhecimento para garantir que as tecnologias de IA melhorem a democracia, aumentando a participação dos cidadãos nos processos democráticos – explica o estudo.

Embora a IA tenha impactos positivos na democracia – acesso à informação, deteção de fraude e corrupção e combate ao preconceito, entre outros – fenómenos como a manipulação eleitoral e a desinformação podem minar o Estado de direito. Determinar o impacto real, especialmente a longo prazo, requer a combinação de conhecimentos de diferentes áreas do conhecimento. As abordagens puramente tecnológicas podem sobrestimar o impacto da IA ​​nos sistemas sociais, e as abordagens puras das ciências sociais podem interpretar mal a forma como a IA realmente funciona. A recomendação é preferir abordagens multidisciplinares e não apressar o diagnóstico.