USP e Infantia Lançam IA Pioneira para Proteger Crianças e Adolescentes de Riscos Digitais em Mensagens e Redes Sociais

Desenvolvido em parceria, o aplicativo Infantia Online utiliza Grandes Modelos de Linguagem (LLMs) para identificar bullying, assédio, violência e outros perigos em conteúdos textuais, oferecendo suporte preventivo às famílias.

A presença de crianças e adolescentes no ambiente digital é uma realidade inegável. Dados da pesquisa TIC Kids Online Brasil 2025 revelam que 92% dos jovens entre 9 e 17 anos utilizam a internet, e 28% tiveram seu primeiro contato antes dos seis anos. Contudo, essa imersão digital traz consigo desafios significativos, como a exposição a conteúdos de caráter sexual, recebidos por um em cada cinco jovens de 11 a 17 anos, e outros riscos como bullying, assédio e automutilação.

Diante desse cenário complexo, uma inovadora tecnologia baseada em inteligência artificial (IA) foi desenvolvida para auxiliar famílias na proteção de seus filhos. Fruto de uma parceria entre a Embrapii ICMC-USP, unidade da Empresa Brasileira de Pesquisa e Inovação Industrial (Embrapii) integrada ao Instituto de Ciências Matemáticas e de Computação (ICMC) da USP em São Carlos, e a startup Infantia, a solução visa analisar conteúdos textuais produzidos e consumidos por esse público em ambientes digitais. O aplicativo resultante, chamado Infantia Online, já está disponível para download gratuito.

A Dimensão do Desafio Digital e a Solução Inovadora

A necessidade de ferramentas mais eficazes para navegar pelos desafios digitais enfrentados pelas famílias impulsionou a criação da Infantia. Segundo Ricardo Busato, sócio da Infantia, a proteção digital infantil tornou-se um dos maiores desafios da atualidade. Pais e responsáveis, muitas vezes com rotinas corridas e dificuldades em compreender o impacto das experiências online, sentem a falta de apoio para garantir a segurança dos filhos sem invadir sua privacidade ou romper vínculos de confiança.

A tecnologia desenvolvida surge como uma resposta a essa inquietação. Coordenado pelo professor Luís Gustavo Nonato, do ICMC-USP, o projeto incorpora técnicas avançadas de análise de dados e inteligência artificial para aprimorar a identificação de sinais e comportamentos relevantes na rotina digital de crianças e adolescentes.

Como a Inteligência Artificial Atua na Proteção

O cerne da tecnologia reside no uso de Grandes Modelos de Linguagem (Large Language Models – LLMs), que permitem à IA compreender padrões linguísticos e contextos específicos do comportamento online infantojuvenil. O sistema é especializado na análise de texto, identificando temáticas sensíveis como bullying, assédio, violência, automutilação, uso de drogas e outros conteúdos nocivos.

Além disso, a IA é capaz de detectar mudanças de padrão linguístico, sinais de isolamento, linguagem de alerta e até mesmo pedidos indiretos de ajuda. Os dados são coletados diretamente no dispositivo da criança ou adolescente (smartphones e tablets), anonimizados e processados em ambiente seguro. Quando situações potencialmente preocupantes são identificadas, alertas são gerados e direcionados aos pais ou responsáveis, permitindo ações preventivas e um acompanhamento mais próximo.

Além dos Links: Análise Profunda do Conteúdo

Um dos grandes diferenciais do Infantia Online em relação às soluções existentes no mercado é sua capacidade de ir além do histórico de links acessados. A metodologia proposta permite analisar o conteúdo efetivamente produzido e consumido no ambiente virtual, incluindo mensagens e postagens enviadas ou lidas em redes sociais e aplicativos de comunicação. Essa análise aprofundada oferece uma visão mais completa e contextualizada dos riscos.

A Visão Humana por Trás da Tecnologia

A Infantia tem como objetivo transformar sinais complexos do ambiente digital em orientações práticas para o cotidiano das famílias. Para isso, a solução combina a precisão da inteligência artificial com a sensibilidade humana, contando com o apoio de psicólogos pesquisadores da Universidade Federal do Espírito Santo (Ufes).

Essa abordagem garante que a tecnologia seja utilizada de forma responsável, buscando proteger crianças e adolescentes sem comprometer a privacidade ou a confiança. A parceria com a Embrapii e o ICMC-USP exemplifica os benefícios do modelo de inovação aberta, que aproxima empresas e universidades para acelerar o desenvolvimento de soluções com alto potencial de impacto social, unindo ciência, tecnologia e responsabilidade social para enfrentar um dos desafios mais urgentes da era digital.

Fonte: jornal.usp.br