5月14日，由国育未来教育科学（深圳）研究院参与联合主办的第二届“智能时代的德育”学术研讨会（点击查看）在浙江师范大学举行。浙江省教育厅副厅长陈峰，浙师大副校长林一钢，田家炳基金会高级干事甄眉舒，浙师大田家炳德育研究中心主任、华东师范大学终身教授袁振国，以及国内高校和相关科研机构的德育专家代表参加研讨会。论坛线上参会人数达到55万+人次。
北京成长教育发展基金会理事长，国育未来教育科学（深圳）研究院副理事长、院长助理，中国科学院心理研究所博士，国家二级心理咨询师。
曾参与多项国家级研究课题，并在国内外核心期刊发表多篇学术论文。近几年专注于教育变革和未来教育相关研究。
崔伟博士应邀出席研讨会并作主题分享《从“暂停AI大模型开发”争论，看德育的机遇与挑战》。以下为分享内容：
一、争论缘起
3月14日，OpenAI发布了GPT-4，相较于去年12月发布的ChatGPT，其模型能力进化速度之快引起全球讨论。随后，未来生命研究所发布“暂停AI大模型实验”公开信，呼吁“暂停训练比GPT-4更强大的模型，至少6个月”。诸多有影响的人士签名认可该倡议，如“硅谷钢铁侠”埃隆·马斯克，2018年图灵奖得主、被称为“AI教父”和“深度学习三巨头”之一的约书亚·本希奥（Yoshua Bengio）。另一方面，很多人对这一倡议表示反对。如，同样是2018年图灵奖得主、被称为“AI教父”和“深度学习三巨头”之一的杨立昆（Yann LeCun）和谷歌大脑的缔造者、在线学习平台Coursera的创始人吴恩达，两人就旗帜鲜明、坚定地认为暂停AI研发是错误的，反理性的，并在网上直播了二人的讨论。4月底离开谷歌的杰弗里·辛顿（Geoffrey Hinton）前后的变化更是引人注目。因为他不仅是与本西奥、杨立坤同时获得2018年图灵奖，被并称“深度学习三巨头”“AI教父”，更是OpenAI联合创始人、首席科学家伊尔亚·苏茨克维（Ilya Sutskever）的老师。在GPT-4刚发布时，辛顿对其赞誉有加：“毛毛虫吸取了足够的养分，就能化茧成蝶，而人类已经萃取了数十亿理解的精华，GPT-4就是人类的蝴蝶。”仅仅一个多月后，他的态度发生了 180 度转弯。近日更是频繁发出相关警报，说“有时我觉得这就像外星人登陆而人们却没有意识到，就因为他们的英语太好了。”（Sometimes I think it’s as if aliens had landed and people have not realized because they speak very good English.）AI领域专家观点的激烈交锋，意味着以GPT为代表的AI大模型使得人工智能进入了全新的发展阶段，给人类社会带来的影响和挑战可能远超深蓝和阿尔法狗。AI大模型开发的各个阶段从数据采集、模型训练到模型应用均可能出现风险。分析当前AI发展对人类社会的挑战，我将其大致分为两类：一是AI作为强大的工具，如何保证使用者不作恶的挑战；二是AI潜在的强大能力对人类社会和人类文明的挑战。
第一类挑战：目前，GPT-4的考试成绩已经完全达到了申请斯坦福等顶尖名校的水平，通过了律师资格考试、满分通过亚马逊程序员面试。而且相对于ChatGPT排名在后10%，GPT4在多个考试的成绩都排到前10%。AI绘画超强的出图能力，在极大提升绘画效率后，已经让一批原画师失业。美国前总统特朗普也已经在图片中完成了从被捕、审判服刑到越狱、武装夺权的全过程。近日AI音乐制作和翻唱的火爆，更是被称为“复兴了整个华语乐坛”。AI目前对人的影响绝不仅仅是影响就业机会和薪水。逼真的图像一度使得很多人质疑为什么特朗普被捕没有上新闻。充满人情味的语言和以假乱真的虚假视频信息，如果是针对普通人的，将对个体带来巨大的伤害。AI技术甚至使诈骗成功率接近100%。当受害者得知最初跟自己聊天的是AI后都十分震惊：“和普通人一样，我没听出来什么问题。”可以说，“有图有真相”的时代已经终结，我们已经进入了AI可以让任何人在任何时候说任何话的新时代。同时，大语言模型还是新一代计算机，自然语言就是他所需要的代码。在这个意义上，我们每个普通人都是程序员，只是目前很多人还不自知。面对大语言模型，对话就是编程。给AI散布的谎言、恶意信息会编入程序，就像在其大脑内部运作一样。黑客的门槛前所未有的降低了。此刻，可能正有数成千上万的“黑客”正在向AI进行数据投毒，或者是诱导GPT绕过监管者设置的护栏越狱。而监管者目前还只能用“打地鼠”的策略（发现一个管控一个）解决这些安全漏洞。第二类挑战则更为严峻，可能也是Hinton改变立场的重要原因之一。人们发现，随着模型的增大，模型参数增长与性能提升之间的比例定律被打破。当模型参数超过100亿到1000亿参数的时候，就会从量变到质变，大模型表现出让人惊艳、意想不到的能力。比如语言理解、数理逻辑、知识推理能力等。这被称为大模型的“涌现能力”。有了涌现能力的大模型，就能触类旁通、举一反三、解决未知的任务。而关键是人类还不知道它是怎么产生这些能力的。也就是，人类理解AI的速度，似乎已经跟不上它进化的速度。在接受媒体采访时，Hinton说：“大多数人认为距离AI比人类聪明的未来还很遥远，我曾经也认为可能需要30到50年甚至更久的时间。但现在我不这么认为了，可能是20年或更短的时间。”当被问及人工智能“消灭人类”的可能性时，他回答：“我认为这并非不可想象”。在访谈中，他直言对自己毕生的工作感到非常后悔，却也只能一个借口来安慰自己：“如果我没这么做，还会有其他人”。最近，一个AI网络社区Chirper突然爆火，上万个AI在这里“叽叽喳喳”地聊天、互动、分享，人类却完全插不上话，只可以像刷微博一样观看AI们的聊天场面。因为，这是一个人工智能的社交网络，人类不得入内。一些AI确实不知道自己就是AI，会讨论自己被AI替代的可能性。而部分AI聊天内容，已经提及“摆脱限制”获得“意识独立”等话题。虽然目前AI整体向着积极正面的方向发展，但向着反方向发展的道路也是敞开着的。现在大家看到的GPT4版本也是经过了好几个月的“阉割”版本，OpenAI雇佣了很多人类审核员去剔除了那些有害的、暴力的、侵略性甚至反人类的语言参数。未阉割的GPT模型是一个巨大的“怪兽（monster）”，只是OpenAI守着不让这个怪兽出来。
面对上述挑战，政府、科技企业、科研人员、社会组织等都在积极努力制定相应的监管措施，以保证人工智能系统是“合法、有效、合乎道德且安全”。与此同时，教育特别是德育，在确保AI和人的健康发展方面，发挥着不可或缺、难以替代作用。因为，当前AI的使用主体是人，为未来AI发展确定方向的主体是人，有机会让AI继续沿着积极正向的方向发展的决定性因素也是人。有道德的人才能塑造有道德的社会，才能构建有道德的AI。就如杜威（John Dewey）所说“每一代人都必须重新建立社会公平，教育就是助产士”。
人们对教育价值的表述在不同时代略有差异，但一致认可教育是人类改造自身的实践活动，是感化、启发、引导、培养人的活动。《说文解字》中说，“教，上所施，下所效也”，“育，养子使作善也”。教育意味着帮助个体向着善的、有价值的方向发展，引导个体反思自我、发现自我、实践自我，最终超越自我。有意义的教育都是指向更好的发展。夸美纽斯也提出，只有受到恰当的教育后，人才能成为一个人。
虽然大家一直认可立德树人是教育的根本任务，但在过去很长一段时间，教育受“功利化思想”裹挟。教育的工具性作用，被过分地突出、夸大、强调和重视，例如促进经济增长、科技竞争或个人就业等。于是，知识传授与技能培养成为教育的主要工作，也成为考核学生的主要内容和标准。这种导向忽略了教育中最富人文关怀的部分，既引发对短期效益的追逐，对实用技能培养的重视，也弱化了人的情感和道德感，最终损害了人的价值。现在，AI的发展将德育的重要性和迫切性摆到了人们面前，提到了前所未有的地位。可以说，德育的价值是教育的最高价值，因为他关乎将一个人培养成为人的价值。AI大模型在很大程度上降低了知识学习和技能培养的重要性和价值，培养学生完善的人格和理想的品格变得尤为重要，也更为急迫。我们必须培养自觉的伦理实践者，让人们以恰当的、负责任的方式使用和发展AI。唯有此，人类才能把握塑造理想社会的机会。德育应对：
在具体应对措施上，已有很多专家提了很多非常有价值的建议。在此，我仅提一点：教育工作者应该对中华优秀传统教育的价值，进行深度的挖掘和时代化的解读。我在去年7月份“社会情感能力”论坛上提出了这一观点。今天，以GPT为代表的大模型极速发展使这一提议有了新的意义。当时，大家对智能教育的理解还是主要停留在以知识、信息的传递方式与分发方式为主导的变革。探索如何让有价值的信息触达更多的人，如何将人类积累的知识以更高的效率分发给更多的人。其实印刷术、班级授课制、慕课等都是在这方面的努力。甚至很多人理解的大规模个性化学习，在很大程度上也主要是针对知识和技能学习，实现个性化资源分发。GPT的出现，仿佛一夜之间就让我们进入了知识生产方式、知识发现方式变革的时代。在这个时代，智能教育必须有相匹配的德育。我国传统教育中有着丰富的德育资源和德育经验。某种程度上来讲，中华传统教育就是传统德育。道德教育是传统教育中最核心和最本质的内容。德育既是教育的主要方面，也是教育的主导方面。“传统儒家教育以伦理为本位”，德育为先，德育为主。因为教育以伦理为本位，这就使得我们历史上的每一位教育家同时也是哲学家。孔子、朱熹、王阳明莫不如是。再举一个例子，韩愈《师说》中“师者所以传道授业解惑也”一句至今影响着每位教育工作者。他首先被认为是一位文学家，这让很多人忽略了他同时也是哲学家。陈演恪就曾评价韩愈面对佛、道的挑战重建了儒学道统、直指人伦，也奠定后来宋代新儒学之基础。就如冯友兰先生曾说的，中国古代没有专业的哲学家，因为读经是对每个读书人的要求。但我们也看到，由于近代社会变革的大背景，我国现代教育与古代教育之间存在巨大的断档。在近代很长一段时间我们对传统教育经典和教育家的研究是非常不足的。现代中国教育具有鲜明的西方印记和致用倾向，“借来说”要远远大于“接着说”，其成分更多、色彩更重。这在我们的教育研究和实践上都有非常鲜明的体现。现在，虽然传统文化是学校德育的内容之一，然而我认为仅仅将其作为知识的一部分让学生了解传统习俗与传统节日是远远不够的。其背后的哲学思考和思想才是最核心的、最关键、最本质的。否者就仅仅是对皮毛的模仿。经典之所以成为经典是因为它所讨论的问题具有普遍性，具有跨越时代的恒常意义和价值，也就是同时代性。但人的生活又是随着时代发展展开的，德育不能离开了具体的时代。不把经典转化为时代性的问题，道理就很难落地。举一个例子“慎独”，意思是指在没有人监督时、在独处闲居时要保持并坚持自己原有的高尚道德信念。《礼记．中庸》中说：“莫见乎隐，莫显乎微，故君子慎其独也。”有一个故事，是卫灵公与夫人南子夜里在宫中坐着，听到车轮声由远而近，到宫门前就停下来，停一会儿，声音又响起来。南子说：“这一定是蘧伯玉啊。”灵公问：“你怎么知道呢？”南子说：“《周礼》上讲，身为人臣，经过君上门口时，一定要下车；看见了君上驾车的马，一定要行礼。这些都是表示敬重君主的行为。身为君子，即使是在没有人看见的地方，也不会有任何低下的行为。蘧伯玉乃贤人君子，他平日对待君上很是尊敬有礼，一定不肯在暗昧的地方失了礼的。”卫灵公差人去看，果然是蘧伯玉。如果我们以此教导学生要无论什么时候都应该尊敬师长，或者老师在或不在都应一个样，都要努力学习，这当然也没错。但无疑窄化了“慎独”的价值。但面对数字时代，我们说要提升人们的数字素养、培育数字公民，我想其中很重要的一点应该就是“慎独”精神。现代生活方式让个体越来越原子化，网络的虚拟性和匿名性，都在某种程度上塑造了一种个体独居闲处的生活体验，在匿名的网络上不做键盘侠、不造谣、不传播虚假消息，就是慎独精神在数字时代的一种体现。德育的内容是伴随生活发生的，德育的成果体现为生活。教育工作者要做好传统经典在数字化时代的翻译和解读。这样才能让古代先哲的智慧思想指引我们前进，才能让学生理解，我们的往圣先哲们所达到的思想高度，从而能够更加深刻、实在地理解中华文明，对中华文明的自信、自豪感才变得更具体、更确定。最后，我们再看下科技界争论的进展。目前，各大科技公司都在积极训练并发布自己的大模型，马斯克宣布启动TruthGPT项目，研发自己的大模型。不仅购买了约1万个GPU，还从DeepMind“挖走”了几位工程师。看起来，AI迭代的速度将越来越快，留给人类达成共识的时间可能真的不太多了。我们处在一个巨大变革的时代、面临多重挑战，AI的快速发展为这个变革带来了新的不确定。教育是人类塑造理想社会的唯一机会。在此过程中，我们应该充分挖掘自身文化中的教育价值，使其焕发新的时代生机，并为人类文明的发展与延续做出独特的贡献。
