近日,有家长在社交媒体上爆料,自家孩子的科大讯飞学习机中出现了一些诋毁伟人、扭曲历史等违背主流价值观的内容,引发了社会的广泛关注和讨论。
对此,科大讯飞董事长刘庆峰在10月24日回应,这是由于合作伙伴在试用时未经审核就上线了相关内容,导致问题的出现。他称,科大讯飞在发现问题后第一时间下架了不当内容,并对合作伙伴进行了处罚处理,同时内部也做了相应的整改措施,引入了更严格的内容审核机制,以保障学习机的内容安全和质量。他还向社会公众和广大用户致以诚挚的歉意,并表示将加强内部管理和教育,防止类似问题的再次发生。
事件发生后,10月24日,科大讯飞股价跳水,触及跌停后小幅反弹,报收于46.7元,大跌9.97%,市值蒸发逾119亿元。

图片来源:北京商报
科大讯飞学习机是一款集语音交互、智能推荐、个性化学习等功能于一体的智能硬件产品,主要面向小学生和初中生用户。2022年,科大讯飞AI学习机营收增长53%,新增专卖店实现100%增长,线下销量同比增长130%。刘庆峰在2023年内部年会上曾表示,科大讯飞的AI学习机不是工具性产品,有着强烈的学习属性、用户黏性,以及独一无二的核心价值。未来五年,以学习机、考试为根据地业务的教育板块,可预见年营收规模将达200亿。

然而,此次事件也暴露出了科大讯飞学习机在内容质量和安全性方面存在的严重问题和隐患。这些问题和隐患不仅给科大讯飞的品牌形象和市场竞争力造成了损害,也给学生、家长、教师、社会等带来了影响和危害。不当的内容,可能会对学生的思想观念、价值取向、历史认知等产生误导或者负面影响。
科大讯飞学习机的内容主要来源于人工智能技术的应用,如语音识别、自然语言处理、知识图谱等。这些技术虽然具有强大的功能和潜力,但因把关不严导致内容不当事件的发生,这再次敲响警钟:要务必强化把关意识与责任意识,层层把关,绝不能为错误思想言论提供传播渠道。
近年来,人工智能技术快速发展,为经济社会发展带来新机遇的同时,也产生了传播虚假信息、数据安全、偏见歧视等问题。2023年8月15日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》正式施行,AI监管政策正加速落地。
科大讯飞表示,未来公司将会用更加开放的心态接受社会对公司产品的反馈和监督,不断改进提升完善产品。但此次事件引发了社会对智能教育产品的质疑和担忧,要如何规避智能教育产品在内容生产、内容审核、内容传播等方面存在的问题,坚守内容的红线,是企业应去反思的。

