DA TRANSPARÊNCIA DOS ALGORITMOS UTILIZADOS EM SISTEMAS AUTOMATIZADOS DE APOIO À DECISÃO: UMA ANÁLISE SOB A PERSPECTIVA DA SALVAGUARDA DOS DIREITOS FUNDAMENTAIS DE GRUPOS HISTORICAMENTE SUBALTERNIZADOS
2025 | Graduação
Caroline Maria Velanes Vilela
A presente monografia analisa criticamente os impactos jurídicos e sociais da opacidade
algorítmica em Sistemas Automatizados de Apoio à Decisão, com foco nos efeitos produzidos
sobre os direitos fundamentais de grupos historicamente marginalizados. A pesquisa parte da
constatação de que a crescente utilização desses sistemas em processos decisórios públicos e
privados vem configurando as estruturas de poder contemporâneas ao deslocar a centralidade
da deliberação humana para mecanismos automatizados e, muitas vezes, opacos. O estudo
destaca os riscos de reprodução de discursos discriminatórios por meio desses mecanismos
tecnológicos, uma vez que seu desenvolvimento é envolto de decisões às quais se associam à
artefatos políticos, com potencial de reproduzir e ampliar desigualdades estruturais. Para
tanto, a investigação adota uma metodologia qualitativa e abordagem hipotético-dedutiva,
fundamentada em revisão bibliográfica interdisciplinar e análise crítica de documentos
jurídicos, relatórios técnicos e evidências empíricas. O objetivo é demonstrar que a
transparência algorítmica não deve ser tratada apenas como requisito técnico, mas como um
imperativo jurídico, indispensável à proteção dos direitos constitucionais à igualdade e à não
discriminação. Para isso, utiliza-se a interseccionalidade como ferramenta analítica central,
evidenciando como raça, gênero, classe e territorialidade se combinam na produção de
injustiças tecnicamente mediadas. Os resultados obtidos revelam a existência de um déficit
estrutural de auditabilidade e inteligibilidade desses sistemas, o que compromete a
possibilidade de escrutínio democrático e a responsabilização institucional por decisões
automatizadas com efeitos discriminatórios. A ausência de marcos regulatórios específicos e a
fragilidade dos dispositivos legais existentes, como a Lei Geral de Proteção de Dados
Pessoais, revelam a necessidade de medidas mais robustas, que incorporem o princípio da
explicabilidade, a revisão humana qualificada e o controle social sobre sistemas decisórios
automatizados. Conclui-se pela essencialidade da construção de uma agenda jurídica
orientada pela transparência, pela justiça distributiva e pela dignidade humana para
salvaguardar os direitos fundamentais frente à automatização opaca.
Palavras-chave: Transparência Algorítmica. Direitos Fundamentais. Discriminação
Algorítmica. Inteligência Artificial. Sistemas de Apoio à Decisão. Interseccionalidade.