如何守护网络课堂空间******
光明日报记者 常莹
近几年,网课已成为不可或缺的教学方式,不少学校通过会议软件、直播平台等开展教学活动。而以“网课爆破”为代表的网络暴力也开始入侵在线课堂,不少师生深受其扰。前段时间,河南新郑三中老师网课遭入侵后离世的消息引发广泛关注。这一事件将“网课爆破”一词推向公共视野。
日前,中央网信办印发《关于切实加强网络暴力治理的通知》,提出“建立健全网暴预警预防机制,强化网暴当事人保护,严防网暴信息传播扩散,依法从严处置处罚”,旨在切实加大网暴治理力度,进一步压实网站平台主体责任,健全完善长效工作机制,有效保障广大网民合法权益,维护文明健康的网络环境。
“网课爆破”究竟是什么?为何在网络课堂中出现?我们又该采取什么样的措施制止“网课爆破”,保障网课安全?记者就此展开了采访。
在内蒙古呼和浩特市赛罕区南门外小学,教职工在监控室里查看网课录制情况。新华社发
1.谁在扰乱教学秩序
新郑三中教师遭“网课爆破”的事件,让很多人开始警惕,教师也成了网络暴力的围猎对象。
遭受“网课爆破”的新郑三中老师的亲属介绍,该教师原在新郑三中教授历史课,一段时间以来,她的网课经常遭遇“入侵”和“爆破”。10月28日晚在上网课时,再次有陌生网友闯入网课直播间对其进行辱骂,干扰课件投屏,迫使该老师退出网课。两天后她被发现在家身亡,死亡证明鉴定为猝死。目前,当地公安、教育等部门正在介入处理调查此事。
“网课爆破”是如何实施的?记者调查发现,一场“网课爆破”往往有几位乃至十几位参与者,并非“恶作剧”般简单。
何为“网课爆破”,目前尚未有明晰的定义。根据已发生的案例进行归纳,“网课爆破”是一种恶意入侵网络课堂、扰乱网络课堂秩序的行为。当网课会议号和密码被泄露后,有些人有组织地“入侵”在线课堂,通过强行霸屏、刷屏发送骚扰信息,甚至辱骂师生、播放不雅视频等方式,恶意扰乱教学秩序。这些入侵课堂的人,在社交媒体上被称为“爆破手”。
“爆破手”通过社交媒体,有组织地发起一场场“爆破”,有些“爆破”来自学生本身,也有些来自明码标价的专业组织。有组织的“爆破”由知情人泄露网课时间和房间号码,专门的“组织者”下达“爆破令”后,参与者在固定时间集合“爆破”网课。根据已有报道,无论是内部泄露的学生,还是专门的“爆破手”,“网课爆破”的参与者以青少年学生居多。
《2021年全国未成年人互联网使用情况研究报告》显示,2021年我国未成年网民规模达1.91亿,未成年人互联网普及率达96.8%。未成年网民在网上遭到讽刺或谩骂的比例为16.6%;自己或亲友在网上遭到恶意骚扰的比例为7.0%。
数字时代,人们很难离开互联网,网络技术的不断革新也给了网络暴力发展的空间。复旦大学网络空间国际治理研究基地主任沈逸接受采访时指出:“‘网课爆破’并非普通的网络暴力,而是网络暴力向正常课堂教学活动的渗透,是一种新型网络暴力。目前,‘网课爆破’显示出两大新特点:第一,具备‘干扰性’特征,即试图阻断正常的网络沟通和交流,使授课无法继续进行。第二,具备‘暴力性’特征,即使用攻击性的语言、骚扰性的视频乃至违反公序良俗、带有人身攻击性质的不雅言辞,攻击特定的目标或泛化的非特定目标,以达到扰乱秩序的目的。”
一名上海小学生在家中上网课。新华社发
“网课爆破”这一恶意行为,经过互联网的放大传播,往往成了伤人利器。11月4日,中国政法大学教授罗翔发布视频称:“这种行为真的让人感到非常愤怒,因为同为教育工作者,我时常能够把自己代入进去。我在想,如果我面临类似的情境,会如何作为?”
“与网络暴力普遍表现为朴素正义感不同,‘网课爆破’表现为参与者在扰乱课堂秩序过程中的无理性狂欢,其参与者以青少年学生居多。”中国传媒大学主流融媒体研究中心主任唐远清接受采访时说,“网课爆破”对课堂秩序而言有着不可忽视的破坏性,给学生和老师都带来巨大的伤害。
2.缺乏应急预案与管理办法
互联网已成为当代未成年人重要的学习、社交、娱乐工具。以“网课爆破”为代表的网络暴力行为是如何蔓延和发展起来的?
网络的匿名性是“网课爆破”存在的原因之一。“网络世界天然的治理难点在于,即便是引入了‘白名单’机制的软件,也不可能完全解决实名制问题。而即便解决了实名制问题,顶着‘数字化面罩’与他人交流的体验也完全不同于线下面对面交互的体验,人们在不使用真实身份时更容易肆意释放内心的极端情绪。”沈逸说。
“教师在操作层面的水平不同,对网络熟悉程度也不同,这些都是不可忽略的因素。与此同时,校方和平台方在预案预警方面缺乏相应的响应机制。”唐远清如是说。
沈逸也表示,“教学行为自线下向线上的大规模转移,是在新冠肺炎疫情暴发的大背景下开始的,所以也是在缺少事前准备的前提下展开的,而对网课的管理,没有跟得上网课的发展”。
广西东兴中学的学生在家上网课。新华社发
随着“网课爆破”现象不断浮出水面,其背后的组织化、黑产化的趋势值得警惕。沈逸阐述了自己的担忧:“我们需重视‘网课爆破’发展趋势。一是‘生态化’态势。一些参与的学生理所当然地认为,只要自己不喜欢某一门课,就可以找人进入课堂捣乱,他们并没有意识到做法的不正确性。二是‘组织化’态势。有一些依托社交软件形成的群体或圈层正在承接这些‘爆破’的订单。三是‘流量化’态势的前兆。某种程度上,‘网课爆破’已经具备了‘流量化生存’的前兆。所谓‘流量化生存’,即通过获取流量来提升或真实或虚幻的影响力,为此不惜游走在违反公序良俗或法律法规的边缘。四是网络暴力的参与者能够从对正常社会活动秩序的扰乱、冲击和破坏中获得所谓的成就感、归属感和宣泄负面情绪的快感。”
3.维护网课秩序仍需多方发力
“网络课堂作为学校进行教育教学活动的重要场所,其教学质量必须得到保证。‘网课爆破’的治理,需要多方面的合力:公安机关依法打击破坏网络课堂秩序的违法犯罪行为,依法惩治形成有效震慑;学校要重视对学生的引导和教育,也要加强对老师应对网课突发事件能力的培训;有关部门要通过健全监管监督机制,促进平台履行主体责任。”唐远清说。
目前,多个网络会议平台已有相关应对措施,开展巡查和处理,清理掉了相关违规内容并封禁了部分违规账号,并对“网课爆破”设立相应阻止功能。例如,腾讯会议提供了多种会前、会中、会后的权限设置方式,保障在线课堂安全性,满足课堂、研讨会、答辩等多种场景的教学需求;在钉钉,老师可通过设置‘仅主持人可邀请成员’,限制参会学生把会议号分享给陌生人。目前,记者在一些社交平台上搜索,发现此前以“网课爆破”为关键词活跃的部分社交小组已无搜索结果。
与此同时,校方也行动起来,努力做好预防预警和事后处理工作。部分地区教育部门已关注到“网课爆破”情况频现,并要求学校采取措施加强在线课堂安全,包括实名授权学生进入,要求每个学校设置网络监控员,加强一线教师培训等。课堂之外,也要通过宣传、教育的方式,重点引导学生正确认识网络,养成良好上网习惯,遵守网络规则,规范自己在互联网上的言行。“整体网络环境是其中每一个个体互动建构的结果,每个人都要为自己在网络空间中的言行负责。预防‘网课爆破’不仅需要校方的努力,还需要政府从更宏观的层面提高治理能力、建设治理体系,为校方提供支持。”沈逸说。
宁夏银川市兴庆区第四小学教师通过线上平台为学生上语文课。新华社发
网络空间不是法外之地,维护网络课堂秩序,惩治网课暴力乱象,刻不容缓。罗翔表示,对于扰乱正常的工作秩序、教学秩序,现行法律提供了许多规制之道,无论是教育法、治安管理处罚法,还是刑法,都有相应的惩治措施。尤其是对公然侮辱他人,现行刑法第246条就规定了侮辱罪,以暴力方法或其他手段公然侮辱他人,情节严重的,最高可以判处3年有期徒刑。
近几年,网络安全法、个人信息保护法、电子商务法以及有关司法解释等,都对打击网络水军、治理网络暴力等问题提供了强有力的法律支撑。在今年的网暴专项整治行动当中,重点网站平台累计拦截涉攻击谩骂、造谣诋毁等信息6541万余条,处置违法违规的账号7.8万个。在去年11月份正式实施的《中华人民共和国个人信息保护法》中,明确提到了要加强重要互联网平台的义务,以及强化侵犯个人信息的惩罚机制和力度。
日前,中央网信办印发的《关于切实加强网络暴力治理的通知》指出,网站平台要根据自身特点,建立完善紧急防护功能,提供一键关闭陌生人私信、评论、转发和@消息等设置。用户遭遇网暴风险时,网站平台要及时发送系统信息,提示其启动一键防护,免受网暴信息骚扰侵害。在网站平台评论、私信等位置设置网暴信息快捷投诉举报入口,简化投诉举报程序,网站平台对于明确为网暴信息的应在第一时间予以处置。向用户提供针对网暴信息的一键取证等功能,方便当事人快速收集证据。坚持最有利于未成年人的原则,优先处理涉未成年人网暴举报。
“营造清朗的网络空间,认清‘网课爆破’的本质与危害,保障网络课堂的安宁,筑牢校园网络安全防火墙,离不开多方发力,久久为功。”唐远清说。
《光明日报》( 2022年12月20日 07版)
“特别能聊”的人工智能会聊出些什么?******
聊天机器人ChatGPT优异表现引发市场关注,人工智能生成内容概念走上风口
“特别能聊”的人工智能会聊出些什么?
本报记者 时斓娜
阅读提示
全新人工智能聊天机器人模型ChatGPT不仅能够通过学习人类的语言来进行对话,还能根据聊天的上下文进行互动,让人们更直观地感受到了人工智能的魅力。包括内容生成、搜索引擎增强等在内的领域,将是其潜在的产业化方向。ChatGPT的商业化落地,还需要克服技术和科技伦理等方面的问题。
家里要养一只猫,该如何给猫取名字?怎样写出一个纸牌游戏的代码?在不同语境中,词语“意思”到底有几个意思?这些五花八门、时常令人绞尽脑汁都难以得出答案的问题,在人工智能聊天机器人ChatGPT的面前,不过是瞬间便可迎刃而解的“一碟小菜”。
产品发布短短两个月,ChatGPT的日活量已突破千万,不少人“聊过”之后惊呼“这太像真正的人类了”。其超预期的表现引发越来越多的市场关注,人工智能生成内容(AIGC)概念由此走上风口。
人工智能聊天究竟能聊些啥?ChatGPT所代表的AIGC应用将带来哪些影响和变化?记者对此进行了调查采访。
“真正像人类一样聊天交流”
“我所热爱的是我真实的生活,因为它包含了我所有的经历和感受,是我每一天都在体验和思考的。”这句乍看上去充满了人类体悟和情感的话,实则出自人工智能聊天机器人ChatGPT。
随着ChatGPT大火,不少网友将它与自己的聊天记录分享到社交平台上,ChatGPT时而诙谐有趣,时而又显得思想深邃。除了各种聊天互动外,还有不少网友们将ChatGPT视为一种工具,让其写作文、翻译文章,甚至写代码。迅速的响应能力和较为靠谱的回答让大家直呼其“真正像人类一样聊天交流”“特别能聊”。
中国信息通信研究院联合中国人工智能产业发展联盟对ChatGPT进行的测试显示,ChatGPT在百科检索、数学问答、文学交流、常识问答、知识推理等对话任务上的意图识别率均达到98%左右,在生活闲聊上的意图识别率约为95%,已具备较好的语义理解能力。
实际上,ChatGPT属于生成式人工智能的一个典型应用。人工智能是怎样“进化”得如此智能的?“这是因为ChatGPT建立在大型语言模型上,会通过连接大量的语料库来训练模型。这些语料库包含了真实世界中的对话和各种网络公开信息,使ChatGPT知识丰富,还能根据上下文进行互动。”深度科技研究院院长张孝荣表示。
创新交互为AIGC带来新启发
随着人工智能技术的发展,近年来AIGC类型不断丰富、质量不断提升、技术的工程化水平越来越高,国内外科技公司纷纷发力布局AIGC领域。
以百度文心大模型为例,输入一个题目,它可以瞬间写出上百篇作文;根据一句话或者一段描述文本,可以生成一幅精美的画作;根据一幅图像,可以自动生成高清、流畅的视频。
在百度技术委员会主席吴华看来,ChatGPT在用户界面和交互上是一种比较创新的模式,用户更容易以自然语言的方式进行交互,这会给大家带来革新性的认识,也会给AIGC带来新的启发。
目前,国外一些公司在积极探索并落地ChatGPT的诸多应用场景,通过将ChatGPT整合进搜索引擎等方式提高服务智能化水平。有观点认为,ChatGPT将颠覆搜索行业,在智能客服、游戏、虚拟人等领域也将得到广泛应用。硅谷投资机构红杉预测,未来AIGC有潜力产生数万亿美元的经济价值。
根据中国信息通信研究院发布的《人工智能白皮书(2022年)》,“生成式人工智能”技术将广泛应用于智能写作、代码生成、有声阅读、新闻播报、语音导航、影像修复等领域,听说读写等能力的有机结合成为未来发展趋势。
“人工智能生成在诗歌、作曲、绘画等艺术创作方面大放异彩,在分子结构、软件代码等科研生产领域的应用不断拓展,还帮助降低临床试验的科研成本和缩短研发周期。”云计算与大数据研究所内容科技部副主任石霖表示,当前,人工智能生成内容的辐射范围还在扩大,未来有望重塑各行业领域的研发面貌。
商业化落地需克服技术和伦理问题
尽管各界对AIGC发展前景保持乐观,但从现状来看,ChatGPT等产品想要真正落地,还需要克服技术和科技伦理等方面的问题。
在对ChatGPT进行的种种评测中,ChatGPT会犯一些常识性错误,反映出其在可控性、准确率方面仍存不足。有人形容,ChatGPT像极了一个很能聊但有时候喜欢信口开河的人类朋友。
中国信息通信研究院评测结果同样显示,ChatGPT在非闲聊型对话的任务完成率上表现一般,难以摆脱传统深度学习模型普遍存在的知识整合和逻辑推理的问题。
“ChatGPT虽然能够较好地回答不少问题,但在一些略有深度的、专业性较强的领域,其答案往往‘捉襟见肘’。这说明ChatGPT语料库规模和计算能力的天然不足,也说明了算法依然需要完善。”张孝荣说。
在技术层面以外,人工智能还面临着悬而未决的科技伦理问题。张孝荣表示,ChatGPT在科技伦理方面至少面临三大挑战:“一是版权问题,ChatGPT生成的内容更多来自搬运,容易引发侵权;二是信息安全问题;三是社会缺乏接纳这一新生事物的准备机制,这对监管挑战很大。”
在国内,AIGC产业化路径同样有待探索。石霖介绍说,国内AIGC产业基础薄弱,相关初创公司数量明显少于国外。同时,国内企业目前仍处于打磨产品阶段,还未出现较为好用的内容生成服务。
(文图:赵筱尘 巫邓炎)