Transparência e Auditoria na Inteligência Artificial: O Desafio Urgente para a Democracia e Soberania Tecnológica, Segundo Especialista da USP

A concentração do controle da IA por poucas empresas e países exige acesso público e fiscalização para garantir decisões confiáveis e preservar a sociedade.

A crescente integração de códigos de computador e sistemas de inteligência artificial (IA) está remodelando profundamente a maneira como decisões são tomadas, ao mesmo tempo em que desafia noções tradicionais de verdade, poder e democracia. Diferentemente de um texto, que demanda interpretação, os algoritmos executam ações concretas, tornando crucial a verificação de seu funcionamento, critérios e impactos.

A Era dos Algoritmos e a Necessidade de Verificação

Nesta nova realidade, a influência da IA vai além da simples análise de dados; ela molda percepções e direciona comportamentos. O professor Gilson Schwartz, da Universidade de São Paulo (USP), alerta que, com os principais sistemas de IA sob o controle de um número limitado de empresas e nações, a falta de transparência sobre códigos, dados e modelos se torna uma preocupação central para o futuro democrático e a soberania digital.

O Perigo da Concentração e a Fiscalização Essencial

A opacidade em torno desses sistemas levanta questões fundamentais sobre a confiabilidade das decisões que eles influenciam. Sem acesso e compreensão de como a IA opera, a capacidade da sociedade de fiscalizar e contestar seus resultados é severamente comprometida, abrindo portas para vieses e manipulações que podem minar a soberania e a equidade democrática.

O Caminho para a Soberania Digital e a Governança da IA

Para combater essa centralização e garantir a confiabilidade, Schwartz propõe medidas essenciais: auditorias independentes, a adoção de padrões abertos, o acesso à infraestrutura tecnológica e o fortalecimento da soberania digital. Essas ações são vistas como vitais para que universidades, governos e a sociedade civil possam efetivamente fiscalizar e regular esses sistemas complexos, assegurando que sirvam ao interesse público.

O Direito de Verificar na Sociedade Algorítmica

Na era algorítmica, o direito de interpretar informações já não é suficiente. Torna-se imperativo garantir o direito de verificar as tecnologias que influenciam diretamente as decisões e redefinem as dinâmicas de poder. Essa capacidade de escrutínio é fundamental para proteger a democracia e assegurar um desenvolvimento tecnológico alinhado aos valores sociais e éticos, consolidando a soberania tecnológica.

Fonte: jornal.usp.br