Joyce Horn Fonteles

IA multimodal e colaboração humano–IA para compreender como as pessoas aprendem juntas.

Pesquisadora em IA · arquiteta de software · educadora

Doutoranda em Ciência da Computação, Vanderbilt University · NSF EngageAI Institute

Desenvolvo sistemas de IA que ajudam a compreender a interação humana, sistemas que especialistas conseguem inspecionar e corrigir, e nos quais, com o tempo, aprendem a confiar.

Sou doutoranda em Ciência da Computação na Vanderbilt University, orientada pelo Prof. Gautam Biswas, e pesquisadora do NSF EngageAI Institute. Meu trabalho combina modelos de linguagem de grande escala (LLMs), visão computacional e análise de fala com anotação humana no ciclo (human-in-the-loop) para interpretar como estudantes aprendem juntos em salas de aula reais: o que dizem, para onde olham, como se movem. Projeto os pipelines de análise, os métodos de avaliação que indicam quando a leitura de um LLM sobre uma sala de aula é confiável e as interfaces que levam esses resultados a pesquisadores e professores.

Tenho quinze anos de experiência na indústria: arquitetando plataformas de saúde e do setor financeiro, liderando as equipes de desenvolvimento e de banco de dados por trás de mais de 60 sistemas do Tribunal de Justiça do Pará e capacitando os servidores que levaram esse tribunal do papel ao digital. Essa trajetória molda a forma como pesquiso: me importo com dados que se sustentam em produção e com ferramentas que pessoas reais de fato adotam.

Humano no ciclo

Parceria humano–IA

Um framework para interpretar comportamentos de aprendizagem a partir de gravações de sala de aula, no qual modelos de IA propõem interpretações, especialistas as verificam e corrigem, e autoridade, trabalho e evidências inspecionáveis são distribuídos entre todas as etapas do pipeline de análise.

Projetos
GEM-STEP: análise multimodal da aprendizagem corporificada de ciências2022 – atual

Um framework modular que combina visão computacional, processamento de áudio e fusão tardia baseada em LLMs para classificar comportamentos de autorregulação e de regulação socialmente compartilhada, refinado continuamente com prompting chain-of-thought e aprendizado ativo a partir de feedback humano.

LLMs e pensamento computacional corporificado2024 – atual

Ferramentas de IA que transformam a exploração corporificada dos estudantes em código executável por meio de fluxos de linguagem natural para código, com engenharia de prompts e salvaguardas multilíngues para interações culturalmente sensíveis e pedagogicamente alinhadas. Co-design de currículo e pilotos nos EUA e em Israel.

IA explicável

Interfaces que podem ser questionadas

Ferramentas de revisão que mantêm a evidência ao lado de cada julgamento da IA, para que pesquisadores e professores possam validá-lo, contestá-lo e aprender com ele, construídas sobre pipelines que preservam a privacidade, nos quais dados identificáveis da educação básica são processados localmente.

Projetos
Linha do tempo aprimorada por IA para análise de interações multimodais2023 – atual

Uma interface que alinha olhar, movimento, fala e comportamentos detectados pela IA em uma linha do tempo compartilhada, para que pesquisadores da aprendizagem confiram o que os modelos encontraram em relação ao vídeo e o corrijam.

Avaliação de LLMs

Saber quando confiar na leitura de um LLM

Métodos para avaliar LLMs e modelos de visão e linguagem como analistas qualitativos de dados multimodais de sala de aula: onde concordam com codificadores especialistas, onde divergem e como o desenho da avaliação muda a resposta.

Projetos
Avaliação de LLMs como analistas de interações em sala de aula2025 – 2026

Um método para medir o desempenho de modelos de linguagem de grande escala na análise multimodal da aprendizagem corporificada em sala de aula, em comparação com a interpretação de especialistas humanos.

Publicações-chave
Validade e confiança

Evidências que acompanham cada resultado

Evidências de validade, confiabilidade, reprodutibilidade e incerteza carregadas por cada etapa do pipeline, para que uma interpretação questionável possa ser rastreada até a etapa que a produziu e a confiança dos especialistas na análise seja medida, e não presumida.

Publicações-chave
Trabalhos anteriores:Regendo partículas: visualização musical controlada por gestos (2008 – 2021)

Sistemas de partículas 3D em tempo real mapeados à estrutura musical e controlados por Leap Motion e Kinect, avaliados com músicos e regentes, além de um jogo rítmico para exercícios de terapia da mão testado com usuários com dificuldades motoras.

Timeline chart loaded.
Today
Neste momento...
0 items active

Pesquisa

Assistente de Pesquisa

Vanderbilt University · NSF EngageAI Institute

Learning analytics multimodal: deep learning e LLMs que identificam e interpretam o comportamento de estudantes a partir de olhar, movimento, fala e gestos; ferramentas interativas para validação por especialistas; responsável pela IA multimodal do GEM-STEP; co-coordenadora da colaboração com a University of Haifa.

IA multimodalHumano no cicloLLMsLearning analytics

Pesquisadora de mestrado, orientada pela Profa. Dra. Maria Andréia Formico Rodrigues

Universidade de Fortaleza (UNIFOR)

Sistemas em tempo real controlados por gestos (Leap Motion, Kinect) para visualizar a estrutura musical; estudos de usabilidade com músicos, regentes e usuários com dificuldades motoras.

IHCComputação musicalComputação gráfica

Bolsista de Iniciação Científica

Universidade de Fortaleza (UNIFOR) · CNPq

Computação gráfica 3D e computação musical para visualização de dados.

Computação gráficaComputação musical

Publicações

Making Interpretations Accountable: Propagating Validation Evidence Through a Human–AI Multimodal Learning Analytics Pipeline

LAK 2027
Validade e confiançaHumano no cicloIA multimodal

Expanding Access to Collaborative Computational Thinking through the ReCode Loop and Role-Differentiated AI Agents

Learning and Individual Differences
Agentes de IALLMsAprendizagem corporificada

A Human–AI Partnership Framework for Multimodal Analysis in Embodied Learning Environments

AIED 2026 – International Conference on Artificial Intelligence in Education
Humano no cicloIA multimodal

Do Emotion Recognition Models Generalize to Classrooms? Robustness and Fairness Analysis

CV4Edu Workshop @ CVPR 2026
Visão computacionalComputação afetiva

When Modalities Disagree: Multimodal Sentiment Conflict as an Affective Signal in Collaborative Learning

ACII 2026 Workshops and Demos
Computação afetivaIA multimodalAprendizagem colaborativa

A Multimodal Study of Emotion Regulation in Student Dyads During Computational Model Building

ISLS 2026
Computação afetivaAprendizagem colaborativa

Multimodal Engagement Analytics for Collaborative Learning: A Human-in-the-Loop Approach

EARLI SIG: AI in Learning, Teaching and Education 2026
Humano no cicloAprendizagem colaborativa

A Human–AI Multimodal Analysis of Collaborative Knowledge Integration through Embodiment and Reflection

British Journal of Educational Technology
Humano no cicloIA multimodalAprendizagem colaborativa

Analyzing Embodied Learning in Classroom Settings: A Human-in-the-Loop AI Approach for Multimodal Learning Analytics

Learning and Instruction
Humano no cicloIA multimodalLearning analyticsIA explicável

A Novel Approach to Evaluating the Effectiveness of Large Language Models for Multimodal Analysis of Embodied Learning in Classrooms

LAK 2026 – International Learning Analytics and Knowledge Conference
Avaliação de LLMsIA multimodal

A Theory of Adaptive Scaffolding for LLM-Based Pedagogical Agents

AAAI 2026 – Proceedings of the AAAI Conference on Artificial Intelligence
Agentes de IALLMs

SyncFlow: A Scalable Platform for Multimodal Learning Analytics

US-RSE 2025
Infraestrutura de dadosIA multimodal

Personalizing Student–Agent Interactions Using Log-Contextualized Retrieval-Augmented Generation (RAG)

arXiv:2505.17238
Agentes de IALLMs

Exploring Agentic Multimodal Late Fusion with LLMs for Embodied Learning

MMLA Workshop @ EDM 2025
Agentes de IAIA multimodalLLMs

Exploring the Design of Pedagogical Agent Roles in Collaborative STEM+C Learning

CSCL 2025 – International Conference on Computer-Supported Collaborative Learning
Agentes de IAAprendizagem colaborativa

Interaction Analysis Practice Within Computational Trends: Promises and Challenges

ICLS 2025 – International Conference of the Learning Sciences
Humano no ciclo

Using Collaborative Interactivity Metrics to Analyze Students' Problem-Solving Behaviors during STEM+C Computational Modeling Tasks

Learning and Individual Differences
Aprendizagem colaborativaLearning analytics

A Multimodal Approach to Support Teacher, Researcher and AI Collaboration in STEM+C Learning Environments

British Journal of Educational Technology
IA multimodalAprendizagem colaborativa

Designing an AI-Enhanced Timeline for Monitoring Multimodal Interactions in Embodied Learning Environments

ICCE 2024 – 32nd International Conference on Computers in Education
IA explicávelVisualizaçãoHumano no ciclo

A First Step in Using Machine Learning Methods to Enhance Interaction Analysis for Embodied Learning Environments

AIED 2024 – Artificial Intelligence in Education (LNCS)
Humano no cicloIA multimodalIA explicável

Promoting Equitable Learning Outcomes for Underserved Students in Open-Ended Learning Environments

IDC 2024 – 23rd ACM Interaction Design and Children Conference
IHC

Exploring Artificial Intelligence Supported Interaction Analysis

ICLS 2024 – International Conference of the Learning Sciences
Humano no ciclo

3D Gaze Tracking for Studying Collaborative Interactions in Mixed-Reality Environments

ICMI Companion '24 – 26th International Conference on Multimodal Interaction
Visão computacionalAprendizagem colaborativa

Multimodal Methods for Analyzing Learning and Training Environments: A Systematic Literature Review

ACM Computing Surveys
IA multimodal

Analyzing Students Collaborative Problem-Solving Behaviors in Synergistic STEM+C Learning

LAK 2024 – 14th Learning Analytics and Knowledge Conference
Aprendizagem colaborativaLearning analytics

ChimeraPy: A Scientific Distributed Streaming Framework for Real-time Multimodal Data Retrieval and Processing

IEEE BigData 2023 – IEEE International Conference on Big Data
Infraestrutura de dadosIA multimodal

Identifying Gaze Behavior Evolution via Temporal Fully-Weighted Scanpath Graphs

LAK23 – 13th International Learning Analytics and Knowledge Conference
Visão computacionalLearning analytics

User Experience in a Kinect-Based Conducting System for Visualization of Musical Structures

Entertainment Computing
IHCComputação musical

Gesture-Controlled Interactive Musical Game to Practice Hand Therapy Exercises and Learn Rhythm and Melodic Structures

IEEE SeGAH 2018 – 6th International Conference on Serious Games and Applications for Health
IHCAcessibilidadeComputação musical

Interactive Musical Game with a Gesture-Controlled Virtual Puppet

SVR 2017 – 19th Symposium on Virtual and Augmented Reality
IHCComputação musical

Visual and Gesture-Driven Interaction Using the Leap Motion to Conduct a 3D Particle System: Evaluation and Analysis of an Orchestral Performance

Journal on Interactive Systems
IHCComputação musicalComputação gráfica

Visual and Interactive Performance of Particles Conducted by the Leap Motion

SVR 2015 – XVII Symposium on Virtual and Augmented Reality
Computação gráficaComputação musical

Apresentando o Tratbem: Suporte Social, Informacional e Psicológico ao Tabagista

XV Workshop de Informática Médica – XXXV Congresso da Sociedade Brasileira de Computação
IHC

Real-Time Animations of Virtual Fountains Based on a Particle System for Visualizing Musical Structures

SVR 2014 – XVI Symposium on Virtual and Augmented Reality
Computação gráficaComputação musical

Creating and Evaluating a Particle System for Music Visualization

Journal of Visual Languages & Computing
Computação gráficaVisualizaçãoComputação musical

Formação

Doutorado em Ciência da Computação

Vanderbilt University

Ambientes inteligentes de aprendizagem aberta para aprendizagem corporificada, usando IA e learning analytics multimodal para estudar comportamentos de aprendizagem dos estudantes.

Orientação: Prof. Gautam Biswas
IA multimodalAprendizagem corporificada

Mestrado em Informática Aplicada

Universidade de Fortaleza (UNIFOR)
Orientação: Prof. Maria Andréia Formico Rodrigues
Dissertação/TCC: Criação e Avaliação de um Sistema de Regência por Controle Gestual para Visualização de Estruturas Musicais
IHCVisualizaçãoComputação musical

Bacharelado em Ciência da Computação

Universidade de Fortaleza (UNIFOR)
Orientação: Prof. Maria Andréia Formico Rodrigues
Dissertação/TCC: Computação Musical para Controle de Sistema de Partículas com Estilos
Computação gráficaComputação musical

Indústria

Chefe da Divisão de Implementação de Projetos

Tribunal de Justiça do Estado do Pará

Liderança do time de desenvolvimento em análises, correções e atualizações de dezenas de sistemas, e no planejamento, desenvolvimento, teste e implantação de novas soluções. Product Owner e Scrum Master em diversos projetos.

LiderançaEngenharia de software

Chefe da Divisão de Banco de Dados

Tribunal de Justiça do Estado do Pará

Liderança do time de DBAs na administração e sustentação de bancos Oracle, SQL Server, PostgreSQL e MySQL que atendem a mais de 60 sistemas do Tribunal; desempenho e integridade de dados.

LiderançaInfraestrutura de dados

Analista de Capacitação

Lanlink (Pará State Court of Appeals)

Elaboração de conteúdos de EAD e ministração de cursos teóricos e práticos que levaram servidores de toda a região amazônica dos processos judiciais em papel para os digitais.

Ensino e capacitação

Lead Engineer

IMMI Financial Solutions

Liderança técnica no desenvolvimento mobile (Swift, Android) e web (Node.js, React, MongoDB) de plataformas financeiras; projetos ágeis e levantamento de requisitos com clientes no Brasil e nos EUA.

LiderançaEngenharia de software

Consultora de Tecnologia

LEAD – Dell Technologies

Direcionamento arquitetural de um aplicativo móvel híbrido para educação a distância acessível; treinamentos em Dialogflow, React Native e Redux para desenvolvedores.

Engenharia de softwareEnsino e capacitaçãoAcessibilidade

Arquiteta de Soluções

FFIT – Innovation in Health and Education

Projeto e liderança de aplicativos móveis e sistemas web (Node.js, Ruby on Rails, Angular, Ionic, React Native) com componentes reaproveitáveis e microsserviços; Product Owner e ponte técnica com os clientes.

Engenharia de software

Analista de Sistemas

Unimed Fortaleza

Analista de negócios e desenvolvedora full-stack do principal portal de serviços de saúde (Java, JasperReports, PL/SQL); Scrum Master do time ágil interno.

Engenharia de software

Estagiária de Desenvolvimento

Caixa Econômica Federal

Desenvolvimento de sistema em ASP para disponibilizar dados do FGTS aos clientes; manutenção de servidores e backups.

Engenharia de software

Prêmios e financiamentos

AI4Ed Summer Fellow (segunda seleção)

AI Institutes Virtual Organization (AIVO) · funded by Google.org

Fellowship que conecta pesquisadores dos NSF National AI Research Institutes em IA na educação.

Student Horizon Travel Grant

LIVE, Vanderbilt's AI and learning sciences incubator

Auxílio competitivo para apresentação de pesquisa em conferência internacional.

Red Hat Certified Developer in Cloud-native Applications

Red Hat

AI4Ed Summer Fellow

AI Institutes Virtual Organization (AIVO) · funded by Google.org

Fellowship que conecta pesquisadores dos NSF National AI Research Institutes em IA na educação; apresentação no AI4Ed Summit.

Faculty Seed Grant (US$ 10.000), coautora

University of Haifa

Pesquisa colaborativa sobre LLMs e pensamento computacional corporificado.

Peabody Global Research Grant (US$ 7.500), coautora

Vanderbilt Peabody College

Colaboração internacional com a University of Haifa em aprendizagem corporificada apoiada por IA.

Certified PBB Practitioner

Caroli.org

2º lugar, Melhor Artigo Completo (trilha de Aplicações)

19th Symposium on Virtual and Augmented Reality (SVR 2017)

Certified ScrumMaster®

Scrum Alliance

Bolsa de Iniciação Científica

CNPq (Brazil's National Council for Scientific and Technological Development)

Bolsa de pesquisa na graduação do Conselho Nacional de Desenvolvimento Científico e Tecnológico.

Serviço e orientação

Co-organizadora do workshop CV4Edu: Visão Computacional × Educação

CVPR 2026

Aproximando visão computacional, IHC e ciências da aprendizagem em torno de robustez de domínio, inferência alinhada a construtos e avaliação multimodal com preservação de privacidade.

Orientação de aluno de graduação

LLMs como mecanismos de fusão tardia para classificação e IA explicável.

Orientação de aluno de mestrado estrangeiro

Agentes baseados em LLMs para apoio ao pensamento computacional.

Mentoria de estagiário de graduação

Modelos de transcrição e diarização de falantes para áudio de sala de aula.

Revisora

Computers & Education · CVPR 2026 · LAK 2025, 2027 · AIED 2025 · EDM 2025 · ICCE 2025 · ISLS 2024, 2025 · EAAI 2025, 2027

Mentoria de dois alunos de graduação

Rastreamento de mãos e reconhecimento de gestos com Leap Motion; desenvolvimento de jogos educacionais na Unreal Engine.