DA TRANSPARÊNCIA DOS ALGORITMOS UTILIZADOS EM SISTEMAS AUTOMATIZADOS DE APOIO À DECISÃO: UMA ANÁLISE SOB A PERSPECTIVA DA SALVAGUARDA DOS DIREITOS FUNDAMENTAIS DE GRUPOS HISTORICAMENTE SUBALTERNIZADOS

2025 | Graduação

Caroline Maria Velanes Vilela

A presente monografia analisa criticamente os impactos jurídicos e sociais da opacidade algorítmica em Sistemas Automatizados de Apoio à Decisão, com foco nos efeitos produzidos sobre os direitos fundamentais de grupos historicamente marginalizados. A pesquisa parte da constatação de que a crescente utilização desses sistemas em processos decisórios públicos e privados vem configurando as estruturas de poder contemporâneas ao deslocar a centralidade da deliberação humana para mecanismos automatizados e, muitas vezes, opacos. O estudo destaca os riscos de reprodução de discursos discriminatórios por meio desses mecanismos tecnológicos, uma vez que seu desenvolvimento é envolto de decisões às quais se associam à artefatos políticos, com potencial de reproduzir e ampliar desigualdades estruturais. Para tanto, a investigação adota uma metodologia qualitativa e abordagem hipotético-dedutiva, fundamentada em revisão bibliográfica interdisciplinar e análise crítica de documentos jurídicos, relatórios técnicos e evidências empíricas. O objetivo é demonstrar que a transparência algorítmica não deve ser tratada apenas como requisito técnico, mas como um imperativo jurídico, indispensável à proteção dos direitos constitucionais à igualdade e à não discriminação. Para isso, utiliza-se a interseccionalidade como ferramenta analítica central, evidenciando como raça, gênero, classe e territorialidade se combinam na produção de injustiças tecnicamente mediadas. Os resultados obtidos revelam a existência de um déficit estrutural de auditabilidade e inteligibilidade desses sistemas, o que compromete a possibilidade de escrutínio democrático e a responsabilização institucional por decisões automatizadas com efeitos discriminatórios. A ausência de marcos regulatórios específicos e a fragilidade dos dispositivos legais existentes, como a Lei Geral de Proteção de Dados Pessoais, revelam a necessidade de medidas mais robustas, que incorporem o princípio da explicabilidade, a revisão humana qualificada e o controle social sobre sistemas decisórios automatizados. Conclui-se pela essencialidade da construção de uma agenda jurídica orientada pela transparência, pela justiça distributiva e pela dignidade humana para salvaguardar os direitos fundamentais frente à automatização opaca. Palavras-chave: Transparência Algorítmica. Direitos Fundamentais. Discriminação Algorítmica. Inteligência Artificial. Sistemas de Apoio à Decisão. Interseccionalidade.