Banca de DEFESA: PAULO JOSE NUNES BATISTA DOS PRAZERES

Uma banca de DEFESA de MESTRADO foi cadastrada pelo programa.
DISCENTE: PAULO JOSE NUNES BATISTA DOS PRAZERES
DATA : 28/08/2023
HORA: 10:00
LOCAL: Virtual
TÍTULO:

ADS Testing with Attention

PALAVRAS-CHAVES:

Segurança de Veículos Autônomos; Processamento de imagens; Inteligên-cia Artificial Explicável; Testes de Redes Neurais

PÁGINAS: 56
RESUMO:

À medida que veículos autônomos se tornam mais comuns em todo o mundo, há umcrescente interesse na segurança de seus sistemas de controle. Esses sistemas geralmente
incluem Redes Neurais que usam imagens da estrada para orientar a direção do volante do
veículo, desempenhando um papel fundamental nesses veículos. Desenvolver estratégias
eficazes para monitorar e testar essas Redes Neurais é, portanto, crítico. Esta dissertação
propõe duas estratégias distintas, mas complementares, para enfrentar esse desafio.
A primeira estratégia emprega uma técnica inovadora baseada nos mapas de atenção
calculados pela explainable artificial intelligence. Esta abordagem monitora ativamente
as operações da Rede Neural dentro do veículo, identificando instâncias anômalas onde a
Rede Neural pode se comportar de maneira inesperada, mitigando assim potenciais riscos
de acidentes. Este método foi validado empiricamente usando o Simulador de Direção
Virtual desenvolvido pela Udacity.
A segunda parte da dissertação apresenta um estudo preliminar de uma estratégia
de teste aplicável durante a fase de teste das Redes Neurais. Esta estratégia envolve gerar
uma variedade de cenários de condução para expor e entender as limitações e fraquezas
da Rede Neural. Uma Rede Neural treinada no conjunto de dados MNIST para classificar
dígitos foi empregada neste estudo, servindo como uma prova de conceito para a eficácia
dos mapas de atenção em orientar a geração de variações de dígitos e identificar corner
cases. A analogia entre a forma de um dígito e o layout de uma estrada formou a base para
usar a classificação de dígitos neste estudo preliminar. O objetivo é demonstrar que os
ganhos de eficiência alcançados com a aplicação de mapas de atenção podem ser replicados
na geração automática de cenários de estrada simulados para simulações de condução. Os
resultados sugerem que nossa abordagem pode melhorar substancialmente a segurança e
a confiabilidade dos veículos autônomos.

MEMBROS DA BANCA:
Externo à Instituição - VINCENZO RICCIO - OUTRA
Interno - 1670589 - MARCELO BEZERRA D AMORIM
Presidente - 1511095 - TSANG ING REN