录用日期: 2024-04-11
网络出版日期: 2024-07-23
基金资助
2022年度教育部哲学社会科学研究重大课题攻关项目“教育数字化转型的国际比较研究”(22JZD045)。
Potential Risks of the Application of General Large Model Education and Their Avoidance: From the Perspective of Technology Ethics
Accepted date: 2024-04-11
Online published: 2024-07-23
以ChatGPT为代表的通用大模型在教育行业快速普及,可能引发教育的系统性变革乃至生态重构。虽然技术应用于教育可能导致的伦理问题多年来一直受到关注,但从未像通用大模型的教育应用这样引发人们对技术伦理问题的担心。一方面,技术作用于教育活动的基本原理具有同质性,因此通用大模型教育应用的伦理风险类型较之以往具有趋同性,然而,因其智能化水平不同,在风险程度上将可能加剧传统伦理问题:在教育安全方面,对教育主体与组织的隐私窃取可能加剧教育过程安全危机、意识形态渗透可能加剧教育结果安全危机;在教育关系方面:可能加剧“师—机”关系中教师的技术恐惧与技术崇拜,以及“机—生”关系中学生的技术沉溺;在教育公平方面,可能加剧教育起点不公平与扩大教育结果不公平。另一方面,通用大模型有着特殊的技术基础与特征,为教育带来更为颠覆性的变革并导致新异化现象,可能产生新的伦理风险:在教育安全方面,大模型系统的对抗性攻击风险可能使学生面临算法规制而产生新的认知安全问题、模型能力的涌现性可能会让通用大模型在教育应用中失控;在教育关系方面,“人—机”协同育人模式可能阻碍师生间情感与思想交流;在教育公平方面,使用者可能在毫无察觉之下受到通用大模型的不公平对待,教育过程公平很可能难以保障。为规避通用大模型教育应用可能产生的伦理风险,应注重在制作层面确保通用大模型的道德化,在实践层面细化对通用大模型教育应用的指导,在管理层面建立通用大模型教育应用的监管体系,在研究层面加强对智能时代教育行业技术伦理问题的理论研究。
吴砥 , 吴河江 . 通用大模型教育应用的潜在风险及其规避——基于技术伦理的视角[J]. 华东师范大学学报(教育科学版), 2024 , 42(8) : 64 -75 . DOI: 10.16382/j.cnki.1000-5560.2024.08.006
The rapid popularization of the general large model represented by ChatGPT in education industry may lead to systematic reform and even ecological reconstruction of education. While the ethical issues that can arise from the use of technology in education have been a concern for many years, never has the educational application of general large model raised such concerns about the ethics of technology. On the one hand, the basic principle of the effect of technology on educational activities is homogeneous, so the types of ethical risks in the application of general large model education are similar compared with the past. However, due to the different level of intelligence, the degree of risks may aggravate traditional ethical problems. In terms of educational security, the privacy theft of educational subjects and organizations may aggravate the security crisis of educational process, and ideological infiltration may aggravate the security crisis of educational outcome. In terms of educational relationship, it may aggravate the teachers’ fear and worship of technology in the teacher-machine relationship, and the students’ addiction to technology in the machine-student relationship. From the aspect of education equity, it may aggravate the inequity of education starting point and expand the inequity of education result. On the other hand, general large model has special technical basis and characteristics, which brings more subversive changes to education and leads to new alienation phenomenon, which may produce new ethical risks. From the aspect of education security, the adversarial attack risk of large model system may make students face algorithm regulation and produce new cognitive security problems, and the emergence of model ability may make generative AI out of control in education application. In terms of educational relationship, the “man-machine” cooperative education model may hinder the emotional and ideological exchange between teachers and students. In terms of educational equity, users may be treated unfairly by the general model without being aware of it, and the fairness of the educational process may be difficult to guarantee. In order to avoid the ethical risks that may arise from the application of general large model in education, attention should be paid to ensuring the moralization of general large model at production level, specifying the guidance for general large model in education application practice level, establishing the supervision system for general large model in education application at management level, and strengthening the theoretical research on the technical ethics of education industry in the intelligent era at the research level.
null | 贝克, 威尔姆斯. (2001). 自由与资本主义: 与著名社会学家乌尔里希?贝克对话. (路国林 译). 杭州: 浙江人民出版社. |
null | 陈晓珊, 戚万学. “技术”何以重塑教育 教育研究 2021 42 10 45 61 陈晓珊, 戚万学. (2021). “技术”何以重塑教育. 教育研究, 42(10), 45—61. |
null | 达文波特, 柯尔比. (2018). 人机共生. (李盼 译). 杭州: 浙江人民出版社. |
null | 鄂维南. (2023).《AI for Science: 一场正在发生的科技革命》: 理解未来科学讲座实录.取自北京大学网站(2023年2月16日): http://bda.pku.edu.cn/info/1003/2083.htm. |
null | 海德格尔. (2018). 海德格尔文集?演讲与论文集. (孙周兴 译). 北京: 商务印书馆. |
null | 怀进鹏. (2023). 数字变革与教育未来. 中国教师报, 02-15(001). |
null | 贾萨诺夫. (2018). 发明的伦理: 技术与人类未来. (尚智丛等 译). 北京: 中国人民大学出版社. |
null | 蒋昌俊. 大智能: 大数据+大模型+大算力 高科技与产业化 2023 29 05 16 19 蒋昌俊. (2023). 大智能: 大数据+大模型+大算力. 高科技与产业化, 29(05), 16—19. |
null | 金生鈜. 何为回到教育事情本身 高等教育研究 2015 36 03 11 17 金生鈜. (2015). 何为回到教育事情本身. 高等教育研究, 36(03), 11—17. |
null | 凯利. (2011). 失控. (东西文库 译). 北京: 新星出版社. |
null | 李永智, 马陆亭, 姜朝晖等. 中国教育学论纲 教育研究 2023 44 04 4 11 李永智, 马陆亭, 姜朝晖等. (2023). 中国教育学论纲. 教育研究, 44(04), 4—11. |
null | 刘凯, 胡祥恩, 王培. 机器也需教育?论通用人工智能与教育学的革新 开放教育研究 2018 24 01 10 15 刘凯, 胡祥恩, 王培. (2018). 机器也需教育?论通用人工智能与教育学的革新. 开放教育研究, 24(01), 10—15. |
null | 全球技术地图. (2023). 美国兰德公司分析防御人工智能对抗性攻击的可行性.取自百度百家号(2023年1月11日): https://baijiahao.baidu.com/s?id=1754700518520405595&wfr=spider&for=pc. |
null | 人民网. (2020). 切实打好认知安全保卫战.取自百度百家号 (2020年8月6日): https://baijiahao.baidu.com/s?id=1674235336149073751&wfr=spider&for=pc. |
null | 师文, 陈昌凤. 分布与互动模式: 社交机器人操纵Twitter上的中国议题研究 国际新闻界 2020 42 05 61 80 师文, 陈昌凤. (2020). 分布与互动模式: 社交机器人操纵Twitter上的中国议题研究. 国际新闻界, 42(05), 61—80. |
null | 舒伦伯格, 彼得斯. (2023). 算法社会: 技术、权力和知识. (王延川, 栗鹏飞 译). 北京: 商务印书馆. |
null | 滕妍, 王国豫, 王迎春. 通用模型的伦理与治理: 挑战及对策 中国科学院院刊 2022 37 09 1290 1299 滕妍, 王国豫, 王迎春. (2022). 通用模型的伦理与治理: 挑战及对策. 中国科学院院刊, 37(09), 1290—1299. |
null | 王国豫, 梅宏. 构建数字化世界的伦理秩序 中国科学院院刊 2021 36 11 1278 1287 王国豫, 梅宏. (2021). 构建数字化世界的伦理秩序. 中国科学院院刊, 36(11), 1278—1287. |
null | 王建华. 新教育公平的旨趣 教育发展研究 2017 37 02 12 17 王建华. (2017). 新教育公平的旨趣. 教育发展研究, 37(02), 12—17. |
null | 王凌, 李官. 教育安全: 界说、特征与意义 学术探索 2014 07 138 143 王凌, 李官. (2014). 教育安全: 界说、特征与意义. 学术探索, (07), 138—143. |
null | 吴砥, 郭庆, 郑旭东. 智能技术进步如何促进学生发展 教育研究 2024 45 01 121 132 吴砥, 郭庆, 郑旭东. (2024). 智能技术进步如何促进学生发展. 教育研究, 45(01), 121—132. |
null | 吴砥, 李环, 陈旭. 人工智能通用大模型教育应用影响探析 开放教育研究 2023 29 02 19 25+45 吴砥, 李环, 陈旭. (2023). 人工智能通用大模型教育应用影响探析. 开放教育研究, 29(02), 19—25+45. |
null | 新华社. (2023). 习近平主持中央政治局第五次集体学习并发表重要讲话. 取自中国政府网 (2023年5月29日): https://www.gov.cn/yaowen/liebiao/202305/content_6883632.htm. |
null | 杨宗凯, 王俊, 吴砥等. ChatGPT/生成式人工智能对教育的影响探析及应对策略 华东师范大学学报(教育科学版) 2023 41 07 26 35 杨宗凯, 王俊, 吴砥等. (2023). ChatGPT/生成式人工智能对教育的影响探析及应对策略. 华东师范大学学报(教育科学版), 41(07), 26—35. |
null | 伊德. (2012). 技术与生活世界: 从伊甸园到尘世. (韩连庆 译). 北京: 北京大学出版社. |
null | 余清臣. 教育实践的技术化必然与限度——兼论技术在教育基本理论中的逻辑定位 教育研究 2020 41 06 14 26 余清臣. (2020). 教育实践的技术化必然与限度——兼论技术在教育基本理论中的逻辑定位. 教育研究, 41(06), 14—26. |
null | 张璐. 通用人工智能风险治理与监管初探——ChatGPT引发的问题与挑战 电子政务 2023 09 14 24 张璐. (2023). 通用人工智能风险治理与监管初探——ChatGPT引发的问题与挑战. 电子政务, (09), 14—24. |
null | 朱廷劭. 试析通用人工智能在心理学领域的应用 人民论坛?学术前沿 2023 14 86 91+101 朱廷劭. (2023). 试析通用人工智能在心理学领域的应用. 人民论坛?学术前沿, (14), 86—91+101. |
null | Cheney-Lippold, J. (2017). We are Data: Algorithms and the Making of Our Digital Selves. New York: New York University Press. |
null | Ellul, J. (1983). The Technological Order, in Philosophy and technology: Readings in the philosophical problems of technology. New York: The Free Press. |
null | Goldstein, J. Emergence as a construct: History and issues Emergence 1999 1 1 49 72 Goldstein, J. (1999). Emergence as a construct: History and issues. Emergence, 1(1), 49—72. |
null | Lenk, H. (1982). Die Sozialphilosophie der Technik. Frankfurt am Main: Suhrkamp. |
null | UNESCO. (2023). Guidance for generative AI in education and research. Retrieved from: https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research. |
/
〈 |
|
〉 |