■小学数学老师程楠作AI赋能课堂教学主题分享。单位供图

　　是工作中的得力帮手，亦是生活中的贴身助理；能实现无人驾驶，也能助力生产提效……如今，人工智能（Artificial Intelligence，缩写为AI）正以前所未有的速度渗透到人们工作与生活的每一个角落。如何确保它的发展始终坚守着“以人为本，智能向善”的主线，既推动社会进步，又惠及人类福祉，显得尤为重要，也成了每一位AI使用者的责任担当。

　　程楠是深圳的一名小学数学老师。AI的出现让她打开了新的教学世界。在一次AI赋能课堂教学的公开课上，程楠选择了《与刘徽共研圆的周长》作为主题，借助AI智能体让数学家刘徽走进课堂与学生进行跨越时空的对话。课堂上，在AI智能体的带领下，学生与数字教师“刘徽”频繁互动，并沿着他的足迹进行割圆术的探索，表现出了极高的积极性。

　　在教学实践中，程楠也意识到，虽然AI技术带来了前所未有的教学便利，但如果不加以合理引导和利用，也可能会产生一些弊端。“比如，AI存在模型幻觉，也就是说，AI也可能会生成不准确、误导性甚至完全虚构的内容。”因此，在课堂中，她常常有意识地引导学生不能滥用AI，要敢于质疑，鼓励他们保持好奇心和探究精神。

　　程楠的故事，是AI技术与教育深度融合的一个缩影，它很好地证明了当AI以“向善”为指引时，能极大地促进教育质量提升，造福于人。

　　然而，随着AI的快速发展和广泛运用，其潜在的伦理和安全问题也日益凸显。如使用生成式AI编造伪信息、假新闻博取流量，利用AI换脸和拟声技术进行网络诈骗，或通过AI算法分析个人信息进行精准犯罪。同时，一些AI应用场景，如全自动化生产线、无人驾驶汽车等，更有着取代人类主体地位的风险。

　　种种事例无一不在为AI的滥用敲响警钟。因此，“智能向善”应该“有所为”，也必须体现“有所不为”。

　　深圳市乐乐米信息技术有限公司是一家专注于智慧校园软件研发的企业，“学有优教AI”产品是其在教育科技领域的重要创新与突破。但研发的过程并非一帆风顺，在AI通用大模型方面，“幻觉”是一个关键问题。为避免AI出现模型幻觉误导师生，保障其安全高效，公司研究团队基于NLP（自然语言处理）的学科语言理解和模型的构建，经过反复验证和修改，最终在多模态、多模型的辅助下，能够实现“幻觉”快速抑制。

　　点评：程楠的故事，是AI技术与教育深度融合的一个缩影，它证明了当AI以“向善”为指引时，能很好地促进中国教育的高质量发展。“智能向善”必须体现“有所不为”，对于AI式的违法犯罪活动，必须严厉打击；对于一些挑战人的主体地位的应用场景，应当叫停。此外，我们必须加强研发，以智能手段维护“智能向善”，“以其人之道还治其人之身”。