Confiança em Sistemas de Inteligência Artificial: Especialista de Stanford Desvenda Desafios e Vulnerabilidades Humanas em Seminário Gratuito na USP

Evento promovido pelo IEA/USP, com David Levi e participação do Google, abordará como nossa psicologia interage com algoritmos e a urgência de uma nova governança para garantir a integridade da IA.

A construção de confiança em sistemas de inteligência artificial (IA) será o foco de um seminário crucial promovido pela rede Understanding Artificial Intelligence (UAI) do Instituto de Estudos Avançados (IEA) da USP. No dia 24 de março, às 10h, o evento “IA e Confiança” reunirá especialistas para discutir um dos desafios mais prementes da era tecnológica: como humanos podem confiar em máquinas que tomam decisões cada vez mais autônomas.

O destaque do seminário será a participação de David Levi, Industry Partnerships Program Manager e pesquisador do Stanford Human-Centered Artificial Intelligence, dos Estados Unidos. Levi explorará por que os mecanismos humanos de confiança, moldados por milênios de interações interpessoais, falham sistematicamente quando aplicados a sistemas algorítmicos. O evento é gratuito, aberto ao público e contará com transmissão online pelo canal do YouTube do IEA.

A Falha da Confiança Humana Diante da IA

Durante sua apresentação, David Levi aprofundará como nossa psicologia evolutiva nos torna suscetíveis a confiar inadequadamente na IA, seja por excesso ou por falta. Ele demonstrará como o design desses sistemas pode, intencionalmente ou não, explorar essas vulnerabilidades cognitivas, levando a decisões equivocadas ou à perda de controle. A discussão promete lançar luz sobre as complexas interações entre a mente humana e a lógica algorítmica.

O Dilema do ‘Gêmeo Digital’ e a Delegação de Autoridade

Um dos pontos centrais da abordagem de Levi será o dilema do “gêmeo digital”: deveríamos desenvolver agentes de IA que repliquem fielmente nossos comportamentos e decisões, ou versões aspiracionais que tomem escolhas superiores às nossas? Essa questão possui implicações profundas para a delegação de autoridade e a atribuição de responsabilidade em um futuro cada vez mais automatizado. A escolha entre replicação e otimização levanta debates éticos e práticos sobre o papel da IA na sociedade.

Rumo a uma Governança de IA Mais Robusta

Para mitigar os riscos e construir uma base sólida para a confiança na IA, Levi defenderá uma transformação na governança desses sistemas. Ele proporá a transição de relatos anedóticos de falhas para observatórios sistemáticos. Esses observatórios teriam a função de monitorar padrões e documentar incidentes de forma rigorosa, permitindo uma compreensão mais profunda e uma resposta mais eficaz aos desafios emergentes da inteligência artificial.

Detalhes do Evento e Parcerias

O Seminário IA e Confiança ocorrerá no dia 24 de março, das 10h às 11h30, na Sala Alfredo Bosi do IEA/USP, localizada na Rua da Praça do Relógio, 109, Cidade Universitária, Butantã, São Paulo. A transmissão online será feita pelo canal do YouTube do IEA. O evento será realizado em inglês, com tradução simultânea, e contará com comentários de Lucas Boscaini (Google) e mediação da professora Veridiana Domingos Cordeiro (Núcleo de Estudos da Violência-NEV e UAI-USP), coordenadora da rede UAI.

A organização do evento conta com a colaboração da U.S. Embassy and Consulates e da Cátedra IA Responsável, além do apoio do Center for Artificial Intelligence and Machine Learning (USP). As inscrições são gratuitas e devem ser feitas através do link disponível no site do IEA, sem certificação de participação.

Fonte: jornal.usp.br