Sistemas Human-in-the-loop (HITL) representam parcerias colaborativas entre modelos algorítmicos e humanos, reconhecidos como oportunidades não apenas para melhorar a precisão dos sistemas algorítmicos, mas também para tornar a tomada de decisão humana mais eficaz, e como uma tentativa de manter a agência e responsabilidade humanas, o que pode ser particularmente importante em decisões de alto risco que afetam criticamente a vida das pessoas. Neste projeto, desenvolvemos e testámos, em colaboração com o Instituto de Emprego e Formação Profissional e através de um teste piloto, um sistema de decisão human-in-the-loop para a previsão de desemprego de longa duração, procurando compreender as suas potencialidade e limitações. Os resultados demonstraram que oferecer mais informação aos humanos sobre a decisão algorítmica é percebido como útil e aumenta a confiança na decisão, mas não tem efeitos significativos na qualidade da decisão.
AUTORES
Susana Lavado, Leid Zejnilovic
NOTA BIOGRÁFICA
Susana Lavado é uma investigadora na Nova School of Business and Economics. Neste papel, tem desenvolvido projetos de investigação aplicada com foco na Inteligência Artificial, em colaboração com o Instituto de Emprego e Formação Profissional e com diferentes organizações sociais para implementar projetos de data for good. É doutorada em Psicologia Social pela Universidade de Lisboa e tem um mestrado em Ciência de Dados pela Nova Information Management School. Os seus interesses de pesquisa abrangem a interação humano-IA e IA responsável.