Desafios Éticos da IA Generativa na Pesquisa: USP Alerta para Dependência Digital e Urgência de Soberania Contra o ‘Colonialismo de Dados’

Professora da USP destaca a necessidade de resgatar a história da ciência e discernir os interesses por trás do avanço tecnológico

A ascensão da Inteligência Artificial Generativa (IAGen) no cenário científico e tecnológico impõe desafios éticos e soberanos que exigem uma abordagem crítica e aprofundada. Para Deisy Ventura, professora titular da Faculdade de Saúde Pública da USP, é fundamental resgatar a história da ciência e compreender que a atribuição de tarefas humanas às máquinas não é uma novidade, mas parte de um longo debate sobre a relação entre ética, técnica e produção científica.

Ventura lembra filósofos como Hans Jonas, que já nos anos 1970 alertava para a responsabilidade dos cientistas pelos efeitos do “progresso” e como a busca incessante pela “novidade” pode justificar ações sem precaução. Muito antes, povos originários já advertiam sobre a confusão entre avanço tecnológico e progresso humano, a distribuição assimétrica de benefícios e danos, e a venda do futuro a um preço módico, como pontuado por Ailton Krenak.

O Ambiente Não-Neutro da IA: Vieses, Desinformação e Lucros

O segundo desafio, segundo a professora, é reconhecer que a IA não se desenvolve em um ambiente “neutro”. A extração massiva de dados sem consentimento claro, a presença de vieses em ferramentas aparentemente inofensivas e a ausência de controle legal e social não são falhas, mas funcionalidades estratégicas das big techs. Essas características servem não apenas aos vultosos lucros da “economia de dados”, mas também aos ecossistemas de desinformação, financiados por bilhões e com objetivos político-ideológicos claros, que impulsionam a ascensão global das extremas direitas.

A história se repete, não pela ignorância, mas pela existência de um ambiente fértil para a credulidade, como descreveu Marc Bloch em suas reflexões sobre notícias falsas. Hoje, práticas científicas graves como plágio, fabricação ou falsificação de dados experimentam um preocupante “boom de empreendedorismo”, evidenciando a fragilidade do ambiente atual.

Coerção e Propaganda: As Estratégias das Big Techs

O terceiro desafio reside em discernir o *modus operandi* das big techs, que combina coerção e propaganda. Muitos softwares e aplicativos impõem a IA sem opção de recusa, tornando a interação com conteúdos e serviços ansiogênica e muitas vezes limitadora, além de perpetuar a exclusão digital.

A propaganda da IAGen se manifesta em quatro dimensões principais:

1. O Determinismo da IAGen: A ideia de que sua disseminação é inevitável e representa uma ruptura antropológica irreversível é questionada. Filósofas como Anne Alombert, da Universidade de Paris 8, argumentam que a IA dá continuidade à externalização de funções humanas, levando à dependência cognitiva e à uniformização cultural pela “média”, esterilizando a singularidade. Asma Mhalla, da Politécnica de Paris, reforça que a irreversibilidade é imposta por pressões econômicas e políticas, não pela máquina em si, mas por quem a governa.
2. A Desqualificação de Críticos: Quem questiona o uso da IA é frequentemente rotulado como anacrônico ou tecnofóbico. No entanto, estudos sérios, como os do MIT, demonstram a queda de desempenho em níveis neural, linguístico e comportamental de usuários do ChatGPT. Pesquisadores da USP e da UnB, ao criar um índice de soberania digital, revelam a dependência de grande parte do Sul global de corporações estrangeiras, configurando um novo “colonialismo de dados”.
3. Os Benefícios Exagerados na Pesquisa: A propaganda de que a IAGen aumenta e acelera a produtividade, sendo indispensável para uma ciência atualizada, ignora os riscos da “excelência artificial”. No contexto de superficialidade atual, há tolerância a sínteses incorretas, mediocridade textual e erros crassos. A culpa é frequentemente transferida ao usuário, que teria formulado mal o “prompt” ou “treinado” a IA de forma inadequada. Ventura enfatiza que a universidade brasileira não deve formar revisores de textos gerados por algoritmos nem reproduzir acriticamente interesses de corporações estrangeiras.
4. A Insuficiência da Regulação: A crença de que a regulação por si só basta para evitar riscos é perigosa. Muitos defensores dessa ideia têm vínculos com empresas de tecnologia, e as big techs, na prática, investem agressivamente contra qualquer regulação. Trata-se de uma ética *a posteriori*, com princípios frequentemente violados por quem os propõe.

O Papel Crucial das Comissões de Ética e a Soberania Nacional

Nesse cenário, o papel das Comissões de Ética em Pesquisa (CEPs) é decisivo. Elas precisam ter voz ativa nos processos regulatórios, dada sua função e décadas de experiência. Durante um evento na USP, a pesquisadora Márcia Azevedo Coelho, da Cátedra Alfredo Bosi de Educação Básica, destacou os limites de iniciativas como a Portaria CNPq n. 2.664, de 2026, que, embora um avanço, não aborda problemas éticos cruciais como o risco de dependência na formulação de problemas de pesquisa e o condicionamento epistêmico pelas limitações da ferramenta.

O encorajamento acrítico do uso da IAGen no meio universitário, comparado à propaganda das casas de apostas que pedem para “jogar com responsabilidade” sem regras claras, prenuncia derrotas em cascata: da dependência cognitiva individual à dependência tecnológica nacional. A hesitação na percepção do que é real ou artificial aumenta o risco de perda de confiança na ciência. Por tudo isso, esses desafios devem ser enfrentados com urgência, não apenas por especialistas em IA, mas por todos os pesquisadores, pelo Estado e pela sociedade brasileira.

Fonte: jornal.usp.br