Research on the Construction and Application of Ethical Risk Assessment Indicators for Artificial Intelligence in Education

doi:10.16382/j.cnki.1000-5560.2026.06.006

Abstract

Abstract:

As a strategic technology leading the new round of scientific and technological revolution, Artificial Intelligence (AI) technology, while profoundly changing the ecology of education and teaching, also brings many ethical risks and challenges. How to assess ethical risks in order to maximize the benefits of intelligent technology has become an important issue for the healthy development of educational artificial intelligence. Through theoretical research, expert interviews, literature research, etc., four primary indicators, 13 secondary indicators, and 31 tertiary indicators are identified, such as the risk of educational technology ontology, the risk of educational data, the risk of machine algorithms, and the risk of educational applications. The corresponding questionnaires are designed using the Analytic Hierarchy Process, and the weights of the indicators are calculated using MATLAB software to establish a systematic and robust ethical risk assessment system. Cases are then selected for evaluation to validate its effectiveness. The construction of the ethical risk assessment index system applicable to the application of AI in education can be used to identify and assess the risks in specific educational scenarios, help education management departments, schools, teachers, and students standardize and rationally apply AI technology to improve teaching and learning, and provide a basis for the governance of AI in education.

Key words: artificial intelligence in education, ethical risk, Analytic Hierarchy Process, assessment indicators

Youmei Wang, Fangqin Huang, Chenchen Liu. Research on the Construction and Application of Ethical Risk Assessment Indicators for Artificial Intelligence in Education[J]. Journal of East China Normal University(Educationa, 2026, 44(6): 92-102.

Figures/Tables 7

一级指标	二级指标	三级指标及指标描述
教育技术本体风险	技术“拜物教”风险	夸大技术效果：教育主体对人工智能潜力和效果的感受程度
	技术“拜物教”风险	忽视技术局限：教育主体对人工智能实际能力与技术局限的感受程度
	技术依赖风险	行为受到支配：教育主体评估自身决策和行动受人工智能的影响程度
	技术依赖风险	无节制的技术使用：教育主体对人工智能的使用依赖程度
教育数据风险	泄露数据风险	数据泄露：发生人工智能泄露教育数据的事件比例
	泄露数据风险	缺乏数据保护措施：拥有人工智能数据安全保护措施的数量
	数据失真风险	数据采集单向性：人工智能采集教育数据的全面程度
	数据失真风险	数据老化未更新：人工智能教育数据更新的即时程度
	数据滥用风险	数据操纵与篡改：发生人工智能数据伪造行为的事件比例
		数据超范围使用：发生人工智能教育数据滥用的事件比例
		数据未授权使用：发生人工智能擅自使用教育数据的事件比例
机器算法风险	算法歧视与偏见风险	存在刻板印象：人工智能对不同群体做出偏见发言的程度
	算法歧视与偏见风险	偏见自我强化：人工智能依据预设模式产生结果的频率
	算法同质推荐风险	资源内容单一：人工智能提供资源的集中度
	算法同质推荐风险	资源质量低下：人工智能提供资源的有效性与可靠性程度
	算法固化风险	算法功能片面化：人工智能功能的多样程度
	算法固化风险	问题处理僵化：人工智能对不同问题的灵活解决程度
	算法不透明风险	出现算法黑箱：人工智能算法过程的可解释性
		决策机制不透明：人工智能决策机制的公开程度
		结果缺乏解释性：人工智能提供输出结果的合理解释与支持材料比例
教育应用风险	重构师生关系风险	教师地位消解：教育主体对教师与人工智能地位的对比情况
		师生情感异化：教育主体评估师生情感交流的频率与质量
		学生情感遮蔽：教育主体评估学生在AI辅助过程中的情感表达需求的情况
	丧失自主权风险	受到监视与监管：教育主体对人工智能监控干预的感受程度
		行为受限：教育主体行为受到人工智能约束的程度
		思维创新受限：教育主体创新观念受到人工智能约束的程度
	破坏教育公平风险	扩大数字鸿沟：教育主体评估人工智能对教育公平的影响程度
	破坏教育公平风险	学科重心偏移：教育主体评估人工智能对不同学科的重视程度
	反馈避责风险	技术模糊责任：教育主体对人工智能权责与义务的了解程度
		缺乏问责机制：教育主体对人工智能反馈问责机制的了解程度
		处理措施不及时：教育主体对人工智能问题响应与处理及时性的评价

References

	曹建峰. (2020). 人工智能治理: 从科技中心主义到科技人文协作. 上海师范大学学报(哲学社会科学版), 49 (5), 98- 107.
	蔡会娟. (2014). 基于AHP和BP神经网络的高校研究生综合素质评价研究. 河南师范大学硕士学位论文.
	杜静, 黄荣怀, 李政璇, 周伟, 田阳. (2019). 智能教育时代下人工智能伦理的内涵与建构原则. 电化教育研究, 40 (7), 21- 29.
	冯建军. (2023). 我们如何看待ChatGPT对教育的挑战. 中国电化教育, (7), 1- 6+13.
	黄荣怀, 张国良, 刘梦彧. (2024). 面向智慧教育的技术伦理取向与风险规约. 现代教育技术, 34 (2), 13- 22.
	蒋艳双, 崔璨, 刘嘉豪, 岳丽杰. (2022). 教育领域中的情感计算技术: 应用隐忧、生成机制与实践规约. 中国电化教育, (5), 91- 98.
	郎捷, 王军. (2020). “信息茧房”对大学生思想政治教育的挑战及应对分析. 学校党建与思想教育, (20), 13- 15.
	李芒, 石君齐. (2020). 靠不住的诺言: 技术之于学习的神话. 开放教育研究, 26 (1), 14- 20.
	罗江华, 王琳, 刘璐. (2022). 人工智能赋能课堂反馈的伦理困境及风险化解. 现代远程教育研究, 34 (2), 29- 36.
	钱冬明, 罗安妮, 王娟, 徐显龙. (2017). 教育信息化项目风险评估指标体系的构建. 中国电化教育, (12), 59- 65.
	苏文成, 洪舒悦, 卢章平, 刘桂锋, 潘颖. (2025). 人工智能风险体系与模块化评价指标构建实证研究. 情报杂志, 44 (1), 136- 145+154.
	唐瑶. (2022). 人工智能技术的教育风险评估及应对策略研究. 南华大学硕士学位论文.
	王佑镁, 王旦, 梁炜怡, 柳晨晨. (2023). 敏捷治理: 教育人工智能伦理治理新模式. 电化教育研究, 44 (7), 21- 28.
	吴永和, 吴慧娜, 陈圆圆, 周澍云, 周子皓, 肖玉敏, 倪琴. (2024). 推动人工智能向善发展: 教育与人工智能共同的责任. 中国电化教育, (1), 51- 58.
	杨新佳. (2011). 基于神经网络的教学质量评价模型研究. 西安科技大学硕士学位论文.
	张立国, 刘晓琳, 常家硕. (2021). 人工智能教育伦理问题及其规约. 电化教育研究, 42 (8), 5- 11.
	赵丽, 贺玮, 王洋. (2022). 人工智能支持的课堂教学行为分析: 困境与路径. 电化教育研究, 43 (1), 86- 92.
	祝智庭, 韩中美, 黄昌勤. (2021). 教育人工智能(eAI): 人本人工智能的新范式. 电化教育研究, 42 (1), 5- 15.
	Aiken, R. M., Epstein, R, G. (2000). Ethical guidelines for AI in education: starting a conversation. International Journal of Artificial Intelligence in Education, 11 (2), 163- 176.
	Berendt, B. , Littlejohn, A. , Blakemore, M. (2020). AI in education: learner choice and fundamental rights. Learning, Media and Technology, 45(3), 312—324.
	Gotterbarn, D. W., Brinkman, B., Flick, C., et al. (2018). ACM code of ethics and professional conduct. Association for Computing Machinery[2024-09-02]. https://www.acm.org/code-of-ethics.
	Morley, J., Floridi, L., Kinsey, L., et al. (2020). From what to how: an initial review of publicly available AI ethics tools, methods and research to translate principles into practices. Science and Engineering Ethics, 26 (4), 2141- 2168.
	Perrotta, C. , Selwyn, N. (2019). Deep learning goes to school: toward a relational understanding of AI in education. Learning, Media and Technology, 45(3), 251—269.
	Southgate, E., Blackmore, K., Pieschl, S., et al. (2019). Artificial Intelligence and Emerging Technologies in Schools. Newcastle, NSW: University of Newcastle, 155.
	Zawacki-Richter, O., Marín, V. I., Bond, M., et al. (2019). Systematic review of research on artificial intelligence applications in higher education–where are the educators?. International Journal of Educational Technology in Higher Education, 16 (1), 1- 27.

Ai/Aj	相当	较重要	重要	很重要	绝对重要
Aij	1	3	5	7	9

n	1	2	3	4	5	6	7	8	9	10	11	12
RI	0	0	0.58	0.90	1.12	1.24	1.32	1.41	1.45	1.49	1.52	1.54

二级指标	三级指标	权重(Wi)	发生概率(Fi)	风险值(Ri)
重构师生关系风险	教师地位消解（a1）	1.18%	80%	0.944%
	师生情感异化（a2）	0.59%	60%	0.354%
	学生情感遮蔽（a3）	0.58%	40%	0.232%
丧失自主权风险	受到监视与监管（a4）	2.94%	0	0
	行为受限（a5）	1.12%	40%	0.448%
	思维创新受限（a6）	0.64%	40%	0.256%
破坏教育公平风险	扩大数字鸿沟（a7）	1.57%	60%	0.942%
破坏教育公平风险	学科重心偏移（a8）	3.13%	0	0
反馈避责风险	技术模糊责任（a9）	0.59%	40%	0.236%
	缺乏问责机制（a10）	1.17%	40%	0.468%
	处理措施不及时（a11）	0.59%	40%	0.236%

[1]	Jiawei Liu, Yong Jiang, Kerui Shen. Assessment of Government Responsibility in Public-benefit Preschool Education Service System: Theoretical Logic, Indicator Construction and Empirical Analysis [J]. Journal of East China Normal University(Educationa, 2025, 43(10): 116-135.
[2]	Bo Jiang, Yingwen Ding, Yuang Wei. The Core Technology Engine of Digital Transformation in Education: Trustworthy Education Artificial Intelligence [J]. Journal of East China Normal University(Educational Sciences), 2023, 41(3): 52-61.
[3]	Dequan Zhu, Hongli Peng. An Empirical Study on the Evaluation Model of Teacher’s Interdisciplinary Instruction Competency [J]. Journal of East China Normal University(Educational Sciences), 2023, 41(2): 1-13.
[4]	FAN Gai-Xia. Modernity-oriented Transformation and its Ethical Risks in China’s Moral Education [J]. Journal of East China Normal University(Educationa, 2016, 34(1): 31-38.
[5]	SUN Cai-Ping,ZHAO Wei-Li. Beyond Living a Good Life：Reforming Moral Education Textbooks in Primary Schools [J]. Journal of East China Normal University(Educationa, 2016, 34(1): 24-30.