作者:王昊昊 来源:中国科学报微信公众号 发布时间:2023/9/5 20:14:10
选择字号:
“AI笔替”入法,管得住学术不端吗?

 

面世不到一年的ChatGPT,引发了大模型时代变革,在掀起又一波人工智能(AI)浪潮的同时,也带来了泄漏隐私、引发“饭碗焦虑”、暗藏侵权风险等一系列问题。
ChatGPT以及百度文心一言、讯飞星火认知大模型等的出现,标志着人工智能进入新发展阶段。但与此同时,《科学》《自然》等期刊纷纷发文,指出人工智能威胁着科学的透明度。多国教育部门也纷纷出台政策,禁止在学校使用ChatGPT。
在我国,学位法草案不久前提请十四届全国人大常委会第五次会议初次审议。草案对学位获得者利用人工智能代写学位论文等行为,明确了相应的法律责任:经学位评定委员会审议决定由学位授予单位撤销学位证书。然而,在实际操作中,利用人工智能代写学位论文这类学术不端行为如何查证?这些学术不端行为和适度运用人工智能的尺度标准又如何界定?

现状:在“混乱”中慌忙应对

ChatGPT已面世大半年,它对学术界和教育界究竟产生了怎样的影响?

今年1月,美国某网站发文称,ChatGPT才出现两个月,就已造成了难以言喻的混乱。《中国科学报》记者梳理发现,学术界和高校更多的是在眼花缭乱的应用场景出现后,才出台政策,仓促“应战”。
在学术界,今年1月,《科学》主编索普以社论形式发文称,ChatGPT已成为一种文化轰动,对科学界和学术界造成严重影响,并表示人们在最近的研究中发现,大量由ChatGPT创建的论文摘要被提交给学术审稿人。
索普说,《科学》正在更新编辑规则,强调不能在作品中使用由ChatGPT(或任何其他人工智能工具)生成的文本、数字、图像或图形。他特别强调,人工智能程序不能成为作者。
包括《自然》《细胞》《柳叶刀》等在内的诸多科学类期刊也都发布了大体一致的规则。
高校受到的影响似乎更大。
今年初,美国斯坦福大学的一项非正式民意调查显示,该校有大量学生已经在期末考试中使用了ChatGPT。同时,《福布斯》发文称,89%的学生承认使用ChatGPT做家庭作业,其中48%的学生承认使用ChatGPT进行家庭测试或测验,53%的学生用它写了一篇论文,22%的学生用它写了一篇论文的大纲。有72%的大学生认为ChatGPT应在他们的大学网络中被禁用。
“在称赞ChatGPT功能强大的背后,人们应看到其给学术界带来的焦虑与恐慌。”中国人民大学首都发展与战略研究院副院长郭英剑表示,美国一些高校已将新技术纳入学术诚信中。华盛顿大学和佛蒙特大学等已经修改了它们的学术诚信策略,将使用ChatGPT等人工智能工具纳入剽窃等学术不端范围。
对此,郭英剑表示,人工智能造成的剽窃行为在当下的学术规则中很难得到证明。这一系列的负面影响开始让人们思考,是否应该在学术界和高校禁用ChatGPT?
担忧:怕学生丧失独立思考能力

“高校或学术界全面禁止人工智能产品是不可能的,也是逆历史潮流的。”长沙理工大学教授刘小春表示,应引导学生正确认识和使用人工智能产品而非禁止。决定能否使用人工智能辅助的关键,应是判断其相关产品是否涉及受教育者创新能力的培养。

湖南大学法学院副院长蒋海松举例说,ChatGPT已成为教育领域的强大工具,并带来颠覆性影响,尤其对他所在的传统法律教育等领域的冲击更大。
ChatGPT的母公司OpenAI表示,GPT-4在律师资格考试(UBE)中可击败90%的考生。在网上输入“ChatGPT会取代哪些岗位”的热门词条中,法律工作者高居榜首。
“即便如此,人为禁止ChatGPT是毫无意义的,也会丧失学术进步的机遇。”蒋海松表示,是否禁用人工智能产品不能一概而论,要积极面对新技术运用带来的机遇与挑战,引导学生正确看待科技,并加大规制力度,将其在教育与学术研究中可能产生的风险尽可能降低。
那么,科研人员和教师使用人工智能产品的过程中有何疑虑?《中国科学报》记者在采访发现,教师的担忧集中在过多使用可能导致学生丧失独立思考能力。
“我对ChatGPT的出现持完全支持态度,平时使用较多,我的不少学生也在用。”郭英剑表示,ChatGPT的功能确实很强大,但他很担心学生经常使用会产生依赖,导致其缺乏思辨性,这对学生的写作能力培养等会很不利。
郭英剑认为,ChatGPT等人工智能产品的出现,就像是算盘时代开始出现了计算器,或者马车时代出现了机动车。这种革命性变化是任何人都阻挡不住的。应允许并支持学生从积极方面使用人工智能产品。
至于学生的态度,北京理工大学宇航学院博士生蒋量受访时表示,科研中,ChatGPT可作为一种工具辅助开展相关工作,但研究生仍应以自身独立思考为主。人工智能可提高学习效率,但不能作为学习主体。“有必要在研究生培养过程中限制ChatGPT的使用。”
“我们会较频繁地用ChatGPT,我发现它更像有点‘小聪明’的学生,产生的信息不一定准确,但在逻辑上可能是对的。”蒋量表示,未来人工智能在搜集信息方面的优势会愈加明显,关键是规范此类工具的使用,使其能更好地帮助人们学习和思考,又不直接替代人学习和思考。
据蒋海松观察,理工科学生对ChatGPT的使用更多,也有学生用它完成部分作业。“关键是在使用过程中坚持自主思考,保持警觉与谨慎、合理合规使用,同时要加强信息素养的培养,接受人工智能相关知识的学习和培训。”
中国人民大学哲学院教授刘永谋表示,目前大语言模型对教育的冲击才刚刚显现,未来会愈演愈烈。就已经暴露的迹象看,生成式人工智能将对就业、教育、信息安全等领域带来极大挑战,这些领域都与教育相关。人工智能新产品对人文社科类学科的教学科研以及文科类就业岗位冲击将会巨大,如以ChatGPT为代表的自然语言处理技术擅长各种文字、翻译、信息汇总和编程等工作。
“未来,学生将生活在人工智能辅助的环境中,因此不该在学校和学术界禁用相关产品,否则培养出来的学生就会落后于社会。”刘永谋表示,对于学生和教师运用人工智能产品帮助其学习和研究,学校和学术界应制定细致的指导意见,对于哪些用法被允许、哪些需要禁止作出详细规定和建议。这些规定和建议要坚持通行的学术道德原则指导,又要考虑不阻碍创新效率的提高。

未来:界定尺度和标准

学位法草案对利用人工智能代写学位论文等行为规定了相应的法律责任。那么。此前用人工智能产品写论文会触犯法律吗?有没有相关法律规定?

对此,蒋海松表示,利用人工智能写学位论文本质上属于学术不端行为。现行法律法规框架下,用ChatGPT等语言大模型写论文的行为同样违法。
他介绍,人工智能作为“笔替”创作的文章可拟制为“他人代写的范畴”,被归类为学术不端的范畴。根据2016年颁布的《高等学校预防与处理学术不端行为办法》规定,相关责任人会受到通报批评、终止或者撤销相关科研项目、撤销学术奖励或者荣誉称号、辞退或解聘等处罚。
此次提请审议的学位法草案明确,已经获得学位者在获得学位过程中存在学位论文或实践成果抄袭、剽窃、伪造、数据造假、人工智能代写等学术不端行为的,经学位评定委员会审议决定,由学位授予单位撤销学位证书。
“需要注意的是,草案打击的是人工智能代写这种学术不端行为,而不是指人工智能的适度运用。但代写和适度运用的尺度及标准如何界定和划分目前仍是难题,要结合答辩教师、学术评定委员会等的判定。”蒋海松表示。
至于学位法草案能否管得住学术不端等行为,刘小春认为,这取决于是否拥有相应的技术能力检测学位论文是否采用了人工智能创作。划清楚“人工智能辅助”和“人工智能主导创作”的界线也十分重要。人类已经进入可以高效率、高质量获取知识的年代,在常规的文献综述、文献检索与分析能力方面,人工智能将超过人类,因此这些环节草案应予以考虑、详细规定。
他进一步建议,在论文写作过程中,非创造与创新类的知识汇总和梳理工作可以允许使用人工智能辅助创作,但必需作明确备注;涉及论文创新思想和核心内容部分的工作,不允许使用人工智能辅助,经技术鉴定一旦认定,应按照学术不端行为处理。
“依照目前国际上的通行做法,以及我对国内高校的观察,要在学位法草案中对人工智能引发的学术不端等做出具有法律意义上的详细规范是很难的。”郭英剑表示,禁止使用人工智能代写学位论文看似是刚性规定,但具体操作中会很难查证,无论是人还是机器代写论文,只要做得隐蔽,都很难被发现。
郭英剑表示,应考虑到很多人工智能产品已真实存在,它们正快速成为人们日常使用的工具。同时,这些产品对写作的重大影响与冲击还刚刚开始,目前国际高等教育界对此基本上都处于束手无策的状态。部分高校的禁令并不能真正达到效果,更多高校除制定简单的宏观规定外,都还处在观望状态。
为此,郭英剑建议,在禁止人工智能代写论文相关立法中,将人工智能与学位论文的关系单列出来作为一项加以规范,以示其重要,让人们充分认识到人工智能对学术的深刻影响;提出一个指导性规范意见,待未来时机成熟可以再做更加详细的修订。
 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
40亿年前生命如何产生?室温水中找答案 国之重器“神农设施”启动建设
另辟蹊径开发“水稻癌症”新型杀菌剂 高稳定太赫兹半导体双光梳研究获新突破
>>更多
 
一周新闻排行
 
编辑部推荐博文