Democracy out-of-the-box: analysis of compliance with constitutional principles in tax policies that use Artificial Intelligence

Erik Henrique da Costa Nunes; Junior Cezar Bezerra de Oliveira; Laura Maria de Queiroz Melo; Carlos Eduardo A. Feitosa; Ingrid Teixeira Monteiro

doi:10.5753/jis.2024.3879

Authors

Erik Henrique da Costa Nunes Universidade Federal do Ceará https://orcid.org/0000-0003-1098-7219
Junior Cezar Bezerra de Oliveira Universidade Federal do Ceará https://orcid.org/0000-0003-4691-1726
Laura Maria de Queiroz Melo Universidade Federal do Ceará https://orcid.org/0009-0005-5013-6832
Carlos Eduardo A. Feitosa Universidade Federal do Ceará https://orcid.org/0009-0001-1395-524X
Ingrid Teixeira Monteiro Universidade Federal do Ceará https://orcid.org/0000-0001-5468-0724

DOI:

https://doi.org/10.5753/jis.2024.3879

Keywords:

Democracy, AI, Taxation, Law, Systematic Mapping Study

Abstract

The Democratic State of Law emerged with the objective of improving everyone’s life, restricting the power of tyrants, who, among other arbitrary acts, unfairly taxed the people. While taxes remain crucial for the State’s upkeep, modern rules prevent individuals from enduring excessive burdens. Although new technologies leveraging Artificial Intelligence (AI) hold the promise of enhancing lives, the extent of this improvement raises questions. This study delves into the relationship between individuals and the State, specifically exploring the use of AI in tax-related scenarios. Conducting a comprehensive three-stage investigation, the first stage involved surveying the reasons behind State-imposed limitations on taxation. The second stage identified criteria from computer literature addressing potential AI challenges and strategies for achieving explainability. Additionally, a discussion emphasized the importance of technological models aligning with principles that underpin our society. Then, to understand how actions have been carried out in Public Administration, a Systematic Mapping Study (SMS) was carried out, analyzing works from the ACM Digital Library, SBC OpenLib (SOL) and the ENAP (National School of Public Administration)’s repository (a Gray Literature repository). On the ENAP website, works relating to the Creativity and Innovation Award from the Federal Revenue of Brazil were specifically consulted. In the end, 10 works that met the inclusion criteria were selected. It was concluded that none of them has an AI explainable model, considering the interpretability criteria of models (Rules and logic, Data visualization, and Model documentation). In light of this, it is recommended that studies addressing the use of AI in Public Administration incorporate a dedicated section discussing the explainability of models.

Downloads

Download data is not yet available.

References

Angwin, J., Larson, J., Mattu, S., and Kirchner, L. (2016). Machine bias. In Ethics of Data and Analytics, pages 254– 264. Auerbach Publications.

Bandeira de Mello, C. A. (2009). Curso de direito administrativo. São Paulo: Malheiros, 26.

Bangalore (2019). Cofundador da apple diz que apple card deu a sua esposa limite de crédito mais baixo. [link].

Barreto, A. S., Bueno, T. C. D., and Hoeschl, H. C. (2003). Applying case-based reasoning to knowledge representation of tributary decisions. In Proceedings of the 9th International Conference on Artificial Intelligence and Law, ICAIL ’03, page 77–78, New York, NY, USA. Association for Computing Machinery. DOI: 10.1145/1047788.1047801.

Bartik, J. J. (2013). Pioneer programmer: Jean Jennings Bartik and the computer that changed the world. Truman State University Press.

Bonavides, P. (2014). Ciência Política. Malheiros.

Brasil (1942). Decreto-Lei n. 4.657, de 4 de setembro de 1942, Lei de Introdução às normas do Direito Brasileiro. Brasília, DF.

Brasil (1988). Constituição da República Federativa do Brasil de 1988. Brasília, DF.

Brasil (2023). Projeto de lei n. 2338, de 2023. dispõe sobre o uso da inteligência artificial. Senado.

Brasílico, I. d. S. (2017). 3º lugar. ANJA - Plataforma de visão computacional e aprendizado de máquina. Receita Federal do Brasil (RFB).

Buolamwini, J. and Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. In Conference on fairness, accountability and transparency, pages 77–91. PMLR.

Campos, J. C. D. (2013). Nomogênese e poder constituinte: fundamentação racional e legitimação democrática da norma constitucional. PhD thesis, Universidade de São Paulo, São Paulo, SP.

Carvalho, R. L. d. (2016). Inovação intraorganizacional: influência do intraempreendedorismo no fomento à disrupção digital de mercados. Master’s thesis, Universidade Federal de Pernambuco, Recife, PE.

Carvalho, S. C. (2015). 3º lugar. MIDCS - um método de inferência difusa para classificação de sonegadores fiscais. Receita Federal do Brasil (RFB).

Cintra, A. d. A., Grinover, A. P., and Dinamarco, C. R. (2005). Teoria geral do processo.

CNJ, C. N. d. J. (2020). Resolução n. 332, de 21 de agosto de 2020. dispõe sobre a ética, a transparência e a governança na produção e no uso de inteligência artificial no poder judiciário e dá outras providências. DJe/CNJ, nº 274, de 25/08/2020.

Coêlho, S. C. N. (2018). Curso de direito tributário brasileiro. Grupo Gen-Editora Forense.

Costa, D. F. O. and Maia, R. (2021). Política pública judiciária de inteligência artificial: uma análise dos programas de IA utilizados pelo STJ à luz da racionalidade neoliberal. Revista Inter-Legere, 4(31):c25024. DOI: 10.21680/1982-1662.2021v4n31ID25024.

Da Costa Nunes, E. H. (2022). Heuristics for computer-mediated human interactions based on consumer rights. In Proceedings of the 21st Brazilian Symposium on Human Factors in Computing Systems, IHC ’22, New York, NY, USA. Association for Computing Machinery. DOI:10.1145/3554364.3559128.

Digiampietri, L. A., Roman, N. T., Meira, L. A. A., Filho, J. J., Ferreira, C. D., Kondo, A. A., Constantino, E. R., Rezende, R. C., Brandao, B. C., Ribeiro, H. S., Carolino, P. K., Lanna, A., Wainer, J., and Goldenstein, S. (2008). Uses of artificial intelligence in the brazilian customs fraud detection system. In Proceedings of the 2008 International Conference on Digital Government Research, dg.o ’08, page 181–187. Digital Government Society of North America.

Dinamarco, C. R., Grinover, A. P., and de Araújo Cintra, A. C. (2001). Teoria geral do processo. Malheiros Ed.

Dornelas, A., Campos, L., and Figueiredo, K. (2022). Modelos para previsão tributária utilizando redes neurais LSTM. In Anais do XIX Encontro Nacional de Inteligência Artificial e Computacional, pages 95–105, Porto Alegre, RS, Brasil. SBC. DOI: 10.5753/eniac.2022.227595.

Eco, U. (2011). Apocalípticos e integrados. Perspectiva.

Ezequiel, M. d. S. (2019). Receita Federal: 50 years (1968-2018). Receita Federal.

Fabro, C. (2023). Advogado usa chatgpt para fazer pesquisa jurídica e É multado em 24 mil reais; entenda.

Federal, J. (2020). I jornada de direito administrativo aprova 40 enunciados. [link].

Franco, W., Alves, E., Sousa, F., Bastos, Z., and Pinheiro, V. (2023). An intelligent model for generating indications of tax gap in service companies. In Anais do II Brazilian Workshop on Artificial Intelligence in Finance, pages 61–72, Porto Alegre, RS, Brasil. SBC. DOI: 10.5753/bwaif.2023.230149.

Fussey, P. and Murray, D. (2019). Independent report on the London metropolitan police service’s trial of live facial recognition technology.

Gray, C. M., Kou, Y., Battles, B., Hoggatt, J., and Toombs, A. L. (2018). The dark (patterns) side of UX design. In Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems, CHI ’18, page 1–14, New York, NY, USA. Association for Computing Machinery. DOI: 10.1145/3173574.3174108.

Grier, D. A. (2001). The human computer and the birth of the information age. Joseph Henry Lecture of the Philosophical Soc. of Washington, pages 42–43.

Harada, K. (2020). Direito financeiro e tributário. Atlas.

Horkheimer, M. and Adorno, T. W. (2011). A indústria cultural: o iluminismo como mistificação da massa, page 179–238. Terra e Paz.

Jambeiro Filho, J. E. d. S. (2016). 1º lugar. Inteligência artificial no sistema de seleção aduaneira por aprendizado de máquina. Receita Federal do Brasil (RFB).

Jambeiro Filho, J. E. d. S. (2019). 2º lugar: gerência da expectativa de retorno do sonegador e simulação de estratégias fiscais. Receita Federal do Brasil (RFB).

Jardim, L. (2023). Juiz usa chatgpt para escrever uma sentença e se dá mal: Ferramenta inventou jurisprudências.

Kitchenham, B. and Charters, S. (2007). Guidelines for performing systematic literature reviews in software engineering. 2.

Machado Segundo, H. d. B. (2009). Fundamentos do ordenamento jurídico : liberdade, igualdade e democracia como premissas necessárias à aproximação de uma justiça possível. PhD thesis, Universidade de Fortaleza, Fortaleza, CE.

Mafra, S. N. and Travassos, G. H. (2006). Estudos primários e secundários apoiando a busca por evidência em engenharia de software. Relatório Técnico, RT-ES, 687(06).

Mass, B. (2016). Cinco exemplos práticos que provam que já vivemos no mundo do big data. [link].

Molnar, C. (2020). Interpretable machine learning. Lulu.com.

Monteiro, M. and Castillo, V. (2019). Ruined by design: How designers destroyed the world, and what we can do to fix it. Mule Design.

Munárriz, L. Á. (1994). Fundamentos de inteligencia artificial, volume 1. Editum.

Nascimento, I. S. d. M. P. d. (2022). Inteligência artificial e direito: potencial da ia como ferramenta otimizadora da prestação jurisdicional voltada à superação das desigualdades sob a perspectiva do estado de coisas inconstitucional. Master’s thesis, Universidade de Brasília.

Nature (2024). Computers make mistakes and ai will make things worse — the law must recognize that. Nature, 625(7996):631–631. DOI: 10.1038/d41586-024-00168-8.

Neiva, L. (2020). Big Data na investigação criminal: desafios e expectativas na União Europeia. Edições Húmus.

Oliveira, C. G. B. d., de Paula Albuquerque, O., Liene Belotti, E., Ferreira Lopes, I., Brandão de A. Silva, R., and Arbix, G. (2023). Regulation and ethics of facial recognition systems: An analysis of cases in the court of appeal in the state of são paulo. In Naldi, M. C. and Bianchi, R. A. C., editors, Intelligent Systems, pages 18–32, Cham. Springer Nature Switzerland.

Oliveira, F., Almeida, C., Monteiro, L., Escobar, F., Otávio, R., Silva, D., and Almeida, W. (2020). Mapeamento sistemático sobre uma análise do impacto das práticas de big data na administração pública federal. In Atas da Conferências IADIS Ibero-Americanas WWW/Internet e Computação Aplicada 2020.

Paula, M. and Carvalho, R. (2022). Systematic mapping of the literature of reports of the use of participatory budgeting in digital form. In Proceedings of the 10th Workshop on Applied Computing in Electronic Government, pages 49–60, Porto Alegre, RS, Brasil. SBC. DOI: 10.5753/wcge.2022.223258.

Petersen, K., Feldt, R., Mujtaba, S., and Mattsson, M. (2008). Systematic mapping studies in software engineering. Proceedings of the 12th International Conference on Evaluation and Assessment in Software Engineering, 17.

Presse, F. (2023). Juiz usa robô chatgpt para redigir sentença em caso de criança autista na colômbia.

Rampazzo, N. L. (2019). O significado da inovação na indústria de tecnologia: um estudo no Porto Digital de Recife. PhD thesis, Universidade Federal de Pernambuco, Recife, PE.

Rebouças, M. V. P. (2019). Elementos para uma teoria da tributação redistributiva para o Brasil contemporâneo. PhD thesis, Universidade Federal do Ceará, Fortaleza, Ceará.

Roman, N. T., Ferreira, C. D., Meira, L. A. A., Rezende, R., Digiampietri, L. A., and Filho, J. J. (2009). Attribute-value specification in customs fraud detection: A human-aided approach. In Proceedings of the 10th Annual International Conference on Digital Government Research: Social Networks: Making Connections between Citizens, Data and Government, dg.o ’09, page 264–271. Digital Government Society of North America.

Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5):206–215. DOI: 10.1038/s42256-019-0048-x.

Santos, S. (2024). Valor não declarado de investimento em bitcoin em 2023 chega a 1,06 bilhões de reais - estadão e-investidor - as principais notícias do mercado financeiro.

Segel, E. and Heer, J. (2010). Narrative visualization: Telling stories with data. IEEE Transactions on Visualization and Computer Graphics, 16(6):1139–1148. DOI: 10.1109/TVCG.2010.179.

Sperandio, H. R. d. C. (2018). Desafios da inteligência artificial para a profissão jurídica. Master’s thesis, Fundação Getúlio Vargas, São Paulo, SP.

Thompson, R. C. (2016). 1º lugar. Projeto IRIS - Reconhecimento facial de viajantes. Receita Federal do Brasil (RFB).

Vasconcelos, K. and Marques, J. (2023). A systematic mapping of the literature on the decision-making process of information technology investments in public organizations. In Proceedings of the 11th Workshop on Applied Computing in Electronic Government, pages 25–36, Porto Alegre, RS, Brasil. SBC. DOI: 10.5753/wcge.2023.229863.

Vidal, V. and Geffner, H. (2006). Branching and pruning: An optimal temporal pocl planner based on constraint programming. Artificial Intelligence, 170(3):298–335.

Wohlin, C., Runeson, P., Höst, M., Ohlsson, M. C., Regnell, B., and Wesslén, A. (2012). Experimentation in software engineering. Springer Science & Business Media.