Linha de pesquisa: DMAS - Métodos para Tomada de Decisão em Sistemas Autônomos
Título: DMAS – D1X – Explicabilidade de Decisões
Orientador: Carlos Henrique Quartucci Forster
Duração: 48 meses
Número de vagas: 1 vaga(s)
Data limite para inscrição: 07/10/2024
Formação esperada: Graduação em Engenharia ou Computação e Mestrado
Idiomas: Inglês e Português
Obrigatório processo de seleção / aprovação pelo ITA e inscrição no Programa de Pós-Graduação: Sim
Expectativa de início das atividades: 01/11/2024
Escopo
Este plano de trabalho consiste na construção de modelos e algoritmos para gerar explicações para decisões automáticas na pilotagem de veículos aéreos com diferentes níveis de automação. A explicação das decisões aponta quais são os fatores e as informações mais importantes consideradas para uma tomada de decisão automática. Com essa resposta, é possível saber se a decisão foi tomada baseada em informação relevante ou não, permitindo intervenção humana no caso de um processo com supervisão ou então melhoria do processo através de ajuste ou re-design. As explicações podem ser geradas por modelos de Aprendizado de Máquina já concebidos para serem interpretáveis ou utilizando métodos que analisam o modelo como uma caixa-preta, inserindo variações na entrada e observado os resultados.
Objetivos
Definir e avaliar métodos de explicação de decisões no contexto de sistemas autônomos de pilotagem e planejamento da execução de tarefas. Utilizar esses métodos para informar um supervisor da qualidade da decisão com base na informação utilizada. Preparar a intervenção de um supervisor no caso de decisão pouco confiável. Definir métodos para reprojetar o sistema decisório no caso de uso de informação pouco relevante para a decisão automática.
Resultados Esperados
Será feita uma revisão bibliográfica dos métodos de explicabilidade tanto com base em construção de modelos interpretáveis quanto na análise caixa-preta de modelos. Serão revisados métodos de explicabilidade em uso no contexto de pilotagem de veículos e operação de máquinas e controle de vôo. Serão definidos os processos decisórios que serão avaliados, por exemplo, decisões como abortar ou não uma missão, definir a atribuição de tarefas ao humano, decidir onde pousar numa emergência. Serão definidas atividades como experimento no ambiente de simulação e realizada a coleta de dados. Os resultados das explicações serão analisados e interpretados por usuários. Nos casos de decisões baseadas em informações pouco relevantes, procurar-se-á melhorar o projeto do decisor. Será definida uma proposta com prova de conceito de como intervir se a explicação de uma decisão mostrar que essa é pouco adequada.
Informações adicionais
Para candidatar-se
Para candidatar-se, favor enviar CV, preferencialmente formato Lattes, carta de motivação e uma carta de recomendação
carlos.forster@gp.ita.br