Ética da Inteligência Artificial na Educação: Dilemas apontados nas pesquisas brasileiras
Palavras-chave:
Tecnologias Digitais na Educação, Sul Global, Inteligência Artificial no Brasil, Formação de professoresResumo
A sociedade contemporânea é cada vez mais dependente das Tecnologias Digitais, com destaque para a rápida expansão da Inteligência Artificial (IA). No campo educacional, a IA na Educação (IAED) apresenta aplicações pedagógicas e administrativas, levantando importantes preocupações éticas, como a gestão de dados, privacidade e o impacto no processo formativo dos estudantes. Enquanto os debates éticos sobre IAED são amplamente discutidos em países do Norte Global, no Sul Global essas questões ainda estão em fase inicial, com exceção da China e Índia. O presente artigo tem como objetivo identificar as principais questões éticas relacionadas à IAED, a partir da análise de trabalhos nacionais. A pesquisa segue uma abordagem qualitativa, exploratória e bibliográfica, baseada na análise de 15 estudos. Foram avaliados aspectos como o foco das pesquisas, benefícios e aplicações da IAED, desafios éticos e possíveis soluções para mitigar tais problemas. Os resultados revelam que as discussões éticas no Brasil estão em consonância com aquelas realizadas no Norte Global, embora com ênfase nos problemas particulares do país. Ademais, o estudo evidencia como os riscos associados a IAED são diversos, abrangendo dimensões técnicas, sociais, emocionais, biológicas, cognitivas e muitas outras – reforçando a necessidade de formar docentes para que sejam capazes de compreender, utilizar e se posicionar em relação ao uso dessa tecnologia com criticidade.Referências
BARBOSA, R. P.; ALVES, N. A Reforma do Ensino Médio e a Plataformização da Educação: expansão da privatização e padronização dos processos pedagógicos. Revista e-curriculum, v. 21, 2023. Disponível em: http://educa.fcc.org.br/scielo.php?pid=S1809-38762023000100120&script=sci_arttext. Acesso em: 1 out. 2023.
BRASIL. Ministério da Ciência, Tecnologia e Inovação. Plano brasileiro de IA terá supercomputador e investimento de R$ 2,3 bilhões em quatro anos. 2024. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/noticias/2024/07/plano-brasileiro-de-ia-tera-supercomputador-e-investimento-de-r-23-bilhoes-em-quatro-anos/ia_para_o_bem_de_todos.pdf/view. Acesso em: 30 set. 2024.
COMEST. Preliminary Study on the Ethics of Artificial Intelligence. Paris: Unesco, 2019. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000367823. Acesso em: 1 out. 2023.
COSTA JÚNIOR, J. F.; LIMA, U. F.; LEME, M. D.; MORAES, L. S.; COSTA, J. B.; BARROS, D. M.; SOUSA, M. A. M. A.; OLIVEIRA, L. C. F. A inteligência artificial como ferramenta de apoio no ensino superior. Rebena: Revista Brasileira de Ensino e Aprendizagem, v. 6, p. 246-269, 2023. Disponível em: https://rebena.emnuvens.com.br/revista/article/view/111. Acesso em: 1 out. 2023.
CROMPTON, H.; BURKE, D. Artificial intelligence in higher education: the state of the field. International Journal of Educational Technology in Higher Education, v. 20, n. 1, abr. 2023. Disponível em: https://educationaltechnologyjournal.springeropen.com/articles/10.1186/s41239-023-00392-8. Acesso em: 1 out. 2023.
DALALAH, D.; DALALAH, O. M. A. The false positives and false negatives of generative AI detection tools in education and academic research: The case of ChatGPT. The International Journal of Management Education, v. 21, n. 2, p. 100822, 2023. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S1472811723000605. Acesso em: 1 out. 2023.
ESSENFELDER, R.; ARAÚJO, D. L.; CÉSAR, T. C. Da forma ética à ação ética: riscos na adoção da inteligência artificial em sala de aula. Educação e tecnologias: formação docente, inteligência artificial e humanismo em tempos de desafios, n. 1, p. 113-130, 2023. Disponível em: https://bdigital.ufp.pt/handle/10284/12718. Acesso em: 1 out. 2023.
FERNANDES, A. B.; NARCISO, R.; BRAGA, A. S.; CARDOSO, A. S.; LIMA, E. S. C.; VILALVA, E. A. M. M.; REZENDE, G. U. M.; MELO JÚNIOR, H. G.; SILVA, L. V.; LIMA, S. S. A. A ética no uso de inteligência artificial na educação: implicações para professores e estudantes. Revista Ibero-Americana de Humanidades, Ciências e Educação, v. 10, n. 3, p. 346-361, 2024. Disponível em: https://periodicorease.pro.br/rease/article/view/13056. Acesso em: 1 out. 2023.
FIGUEIREDO, L. O.; LOPES, A. M. Z.; VALIDORIO, V. C.; MUSSIO, S. C. Desafios e impactos do uso da Inteligência Artificial na educação. Educação Online, v. 18, n. 44, p. e18234408-e18234408, 2023. Disponível em: https://educacaoonline.edu.puc-rio.br/index.php/eduonline/article/view/1506. Acesso em: 1 out. 2023.
FRANCO, D.; VIEGAS, L. E.; RÖHE, A. Guia Ético para a Inteligência Artificial Generativa no Ensino Superior. TECCOGS: Revista Digital de Tecnologias Cognitivas, n. 28, p. 108-117, 2023. Disponível em: https://revistas.pucsp.br/index.php/teccogs/article/view/67074. Acesso em: 1 out. 2023.
FRIEDERICH, S.; SYMONS, J. Norms for academic writing in the era of advanced artificial intelligence. Digital Society, v. 2, n. 3, p. 48, 2023. Disponível em: https://link.springer.com/article/10.1007/s44206-023-00079-7. Acesso em: 1 out. 2023.
HOLMES, W.; PORAYSKA-POMSTA, K.; HOLSTEIN, K.; SUTHERLAND, E.; BAKER, T.; SHUM, S. B.; SANTOS, O. C.; RODRIGO, M. T.; CUKUROVA, M.; BITTENCOURT, I. I.; KOEDINGER, K. R. Ethics of AI in education: Towards a community-wide framework. International Journal of Artificial Intelligence in Education, v. 31, n.1, p. 1-23, 2021. Disponível em: https://link.springer.com/article/10.1007/s40593-021-00239-1. Acesso em: 1 out. 2023.
HOROWITCH, R. The elite college students who can’t read books. The Atlantic, [S.l.], nov. 2024. Disponível em: https://www.theatlantic.com/magazine/archive/2024/11/the-elite-college-students-who-cant-read-books/679945/. Acesso em: 21 dez. 2024.
HUANG, C.; ZHANG, Z.; MAO, B.; YAO, X. An Overview of Artificial Intelligence Ethics. IEEE Transactions on Artificial Intelligence, v. 4, n. 4, p. 1–21, 2022. Disponível em: https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=9844014. Acesso em: 1 out. 2023.
LIMONGI, R. The use of artificial intelligence in scientific research with integrity and ethics. Future Studies Research Journal: Trends and Strategies, v. 16, n. 1, p. e845-e845, 2024. Disponível em: https://future.emnuvens.com.br/FSRJ/article/view/845. Acesso em: 1 out. 2023.
LÜDKE, M., ANDRÉ, M. E. D. A. Abordagens qualitativas de pesquisa: a pesquisa etnográfica e o estudo de caso. São Paulo: EPU, 1986.
M. N. T.; NÁDER, A. A. G. (Org.). Educando em Direitos Humanos. João Pessoa-PB: Editora da UFPB, p. 41-46. v. 1. 2016.
MIJWIL, M. M.; HIRAN, K. K.; DOSHI, R.; DADHICH, M.; AL-MISTAREHI, A.; BALA, I. ChatGPT and the future of academic integrity in the artificial intelligence era: a new frontier. Al-Salam Journal for Engineering and Technology, v. 2, n. 2, p. 116-127, 2023. Disponível em: https://journal.alsalam.edu.iq/index.php/ajest/article/view/115. Acesso em: 1 out. 2023.
MODESTO, B. N. A. Ética para uso de inteligência artificial na educação superior no Brasil. 2023. 102 f., Dissertação (Mestrado em Desenvolvimento, Sociedade e Cooperação Internacional) — Universidade de Brasília, Brasília, 2023. Disponível em: https://bdtd.ibict.br/vufind/Record/UNB_cd6496dc924d104def3fd95d790caa20. Acesso em: 1 out. 2023.
NASCIMENTO, D. S. Análise da Inteligência Artificial (IA) aplicada à Educação sob a perspectiva ética através de um estudo bibliográfico. 2022. 45 f. TCF (Pós-graduação) - Curso de Pós-Graduação em Informática na Educação, Instituto Federal do Espírito Santo, Vitoria, 2022. Disponível em: https://repositorio.ifes.edu.br/handle/123456789/3018. Acesso em: 1 out. 2023.
NEMORIN, S.; VLACHIDIS, A.; AYERAKWA, H. M.; ANDRIOTIS, P. AI hyped? A horizon scan of discourse on artificial intelligence in education (AIED) and development. Learning, Media and Technology, p. 1-14, 2022. Disponível em: https://www.tandfonline.com/doi/full/10.1080/17439884.2022.2095568. Acesso em: 1 out. 2023.
NGUYEN, A.; NGO, H. N.; HONG, Y.; DANG, B.; NGUYEN, B. T. Ethical principles for artificial intelligence in education. Education and Information Technologies, p. 1-21, 2022. Disponível em: https://link.springer.com/article/10.1007/s10639-022-11316-w. Acesso em: 1 out. 2023.
OLIVEIRA, R. M.; SILVA, M. R. O uso da inteligência artificial no ensino da matemática. Caderno Intersaberes, v. 12, n. 44, p. 19-29, 2023. Disponível em: https://www.cadernosuninter.com/index.php/intersaberes/article/view/2964. Acesso em: 1 out. 2023.
PAULA, E. L. R.; BRAGA JUNIOR, A. D. Educação Emancipadora e Inteligência Artificial no EAD. In: Anais do 28° Congresso Internacional de Educação a Distância 2023, 2023, Rio de Janeiro. Anais eletrônicos... Campinas, Galoá, 2023. Disponível em: https://proceedings.science/ciaed-2023/trabalhos/educacao-emancipadora-e-inteligencia-artificial-no-ead?lang=pt-br. Acesso em: 10 out. 2024.
PEQUENO, M. J. P. Ética, Educação e Direitos Humanos. In: FERREIRA, L. F. G.; ZENAIDE,
PRODANOV, C. C.; FREITAS, E. C. Metodologia do Trabalho Científico: Métodos e Técnicas da Pesquisa e do Trabalho Acadêmico. 2. ed. Nova Hamburgo: Feevale, 2013.
RASA, T., LAVONEN, J., LAHERTO, A. Agency and Transformative Potential of Technology in Students’ Images of the Future – Futures Thinking as Critical Scientific Literacy. Science and Education, v. 33, p. 1-25, 2023. Disponível em: https://link.springer.com/article/10.1007/s11191-023-00432-9. Acesso em: 1 out. 2023.
RUSSEL, S.; NORVIG, P. Inteligência artificial. 3ª Edição. Tradução Regina Célia Simille. Rio de Janeiro: Elsevier, 2013.
SANT´ANA, F. P.; SANT´ANA, I. P.; SANT´ANA, C. de C. Uma utilização do Chat GPT no ensino. Com a Palavra, o Professor, [S. l.], v. 8, n. 20, p. 74–86, 2023. DOI: 10.23864/cpp.v8i20.951. Disponível em: http://revista.geem.mat.br/index.php/CPP/article/view/951. Acesso em: 21 dez. 2024.
SEVERINO, A. J. Metodologia do Trabalho Científico. 23. ed. São Paulo: Cortez, 2007.
SILVA, K. R.; BARBOSA, L. S. O.; BOTELHO, W. L.; PINHEIRO, J. M. B.; PEIXOTO, I. S.; MENEZES, I. V. C. B. Inteligência artificial e seus impactos na educação: uma revisão sistemática. RECIMA21: Revista Científica Multidisciplinar, v. 4, n. 11, p. e4114353, 2023. Disponível em: https://recima21.com.br/index.php/recima21/article/view/4353. Acesso em: 1 out. 2023.
SILVA, V. L. Ética e responsabilidade na era da Inteligência Artificial: aprendizagem digital no Chat GPT. Monografia (Especialização em Mídia e Educação) - Universidade Aberta do Brasil, Campus São Borja (UFP/UAB), São Borja/RS, 2023. Disponível em: https://dspace.unipampa.edu.br/handle/riu/8334. Acesso em: 1 out. 2023.
SOARES, C. B.; HOGA, L. A. K.; PEDUZZI, M.; SANGALETI, C.; YONEKURA, T.; SILVA, D. R. A. D. Revisão integrativa: conceitos e métodos utilizados na enfermagem. Revista da Escola de Enfermagem da USP, São Paulo, v. 48, n. 2, p. 335-345, abr. 2014. Disponível em: https://www.scielo.br/j/reeusp/a/3ZZqKB9pVhmMtCnsvVW5Zhc/?format=pdf&lang=pt. Acesso em: 1 out. 2023.
TEDESCO, A. L.; FERREIRA, J. L. Ética e Integridade acadêmica na Pós-Graduação em Educação em tempos de Inteligência Artificial. Horizontes, v. 41, n. 1, p. e023032-e023032, 2023. Disponível em: https://revistahorizontes.usf.edu.br/horizontes/article/view/1620. Acesso em: 1 out. 2023.
TELES, L.; NAGUMO, E. Uma inteligência artificial na educação para além do modelo behaviorista. Revista Ponto de Vista, v. 12, n. 3, p. 01-15, 2023. Disponível em: https://periodicos.ufv.br/RPV/article/view/15452. Acesso em: 1 out. 2023.
THOMAS, J.; HARDEN, A. Methods for the thematic synthesis of qualitative research in systematic reviews. BMC medical research methodology, v. 8, p. 1-10, 2008. Disponível em: https://bmcmedresmethodol.biomedcentral.com/articles/10.1186/1471-2288-8-45. Acesso em: 1 out. 2023.
UNESCO. AI and education: guidance for policymakers. Paris: Unesco Publishing, 2021. Disponível em https://unesdoc.unesco.org/ark:/48223/pf0000376709. Acesso em: 30 set. 2024.
UNESCO. AI competency framework for teachers. Paris: Unesco, 2024. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000391104. Acesso em: 30 set. 2024.
UNESCO. K-12 AI curricula. A mapping of government-endorsed AI curricula. Paris: Unesco Publishing, 2022. Disponível em https://unesdoc.unesco.org/ark:/48223/pf0000380602. Acesso em: 29 de set. de 2024.
VICARI, R. M. Tendências em inteligência artificial na educação no período de 2017 a 2030. 1. ed. Brasília: Diretoria de Tecnologia e Educação (DIRET), Unidade de Estudos e Prospectiva (UNIEPRO), 2018. v. 1, p. 52. Disponível em: https://www2.fiescnet.com.br/web/uploads/recursos/d1dbf03635c1ad8ad3607190f17c9a19.pdf. Acesso em: 1 out. 2023.
VICARI, R.; BRACKMANN, C.; MIZUSAKI, L.; GALAFASSI, C. Inteligência artificial na educação básica. São Paulo: Novatec Editora, 2023. 1. ed.
VICARI, R.; BRACKMANN, C.; MIZUSAKI, L.; LOPES, D.; BARONE, D.; CASTRO, H. Referencial Curricular: Inteligência Artificial no Ensino Médio. 2022. ISBN 978-65-00-58427-1. DOI 10.13140/RG.2.2.23179.98089. Disponível em: https://www.inf.ufrgs.br/ciars/wp-content/uploads/2023/03/Referencial-Curricular-em-IA-no-Ensino-Medio.pdf. Acesso em: 29 set. 2024.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
TERMO DE RESPONSABILIDADE Título do trabalho: Nome completo do (s) autor (es): O(os) autor(es) vem por meio desta declarar que o trabalho acima citado, enviado para publicação na Revista COM A PALAVRA, O PROFESSOR é um trabalho original, que não foi ou está sendo publicado em outro periódico, quer seja no formato impresso ou eletrônico. Declaro (amos), também que: 1)O presente trabalho está em conformidade com os Artigos 297 a 299 do Código Penal, Decreto-Lei nº 2.848 de 7 de dezembro de 1940; da Lei no 9.610, de 19 de fevereiro de 1998, sobre os Direitos Autorais. 2)Participei (amos) da construção do trabalho e desejo (amos) tornar pública nossa responsabilidade referente ao seu conteúdo. 3)Declaro (amos) que o uso de qualquer marca registrada ou direito autoral dentro do manuscrito foi creditado a seu proprietário ou a permissão para usar o nome foi concedida. 4)Declaro (amos) que todas as afirmações contidas no manuscrito são verdadeiras ou baseadas em pesquisa com provável exatidão. 5)Caso o trabalho envolva seres humanos, enviaremos também a autorização do Comitê de Ética e Pesquisa.
