除了“立规矩”,是否有更加“硬核”的治理机制?
今年春季学期开学,各大高校纷纷宣布接入DeepSeek,学生利用AI工具辅助论文写作现象已愈发普遍,但伴随的使用规范和学术诚信问题也随之而来。
从大背景来看,近些年来,学术不端引发的学术界科研诚信危机较为显著。随着AI技术不断发展,因存在大量随机生成内容导致论文撤稿的比重日益增加,在高校学生群体中,直接复制使用AI生成内容等不当使用情况也日益增多。
随着复旦大学首发国内高校“AI禁令”,今年以来,不少高校纷纷推出新的政策为AI“立规矩”,以规范学生使用生成式人工智能的行为。
学术写作中AIGC使用边界应如何界定?除了“立规矩”,是否有更加“硬核”的治理机制?面对AI发展浪潮,高校要如何引导学生合理使用?对此,新京报记者采访了多所高校的教授,探讨这些热点话题。
多所高校发文规范AI使用边界
“我们在申报项目、撰写文章的时候,会先借助AI生成一个框架,再将自己的研究内容填充进去,这样非常便捷。在编写代码时,一些基础运算也会交给AI处理,自己再根据研究进行完善提升。”北京航空航天大学一位从事理工科研究的博士研究生告诉记者,在科研过程中,AI会被当作辅助工具,但是鉴于AI在某些特定领域的水平有限,无法完全让AI替代真人来进行研究和学术写作。
据深圳大学大数据系统计算技术国家工程实验室教授陈杰的观察,目前在高校,相当多的学生会使用人工智能辅助学习生活。“研究生层次的学生能够比较规范地使用这些工具,本科阶段的同学对于人工智能的使用相对不足。”
“随着AI的普及和其功能愈发强大,出现了学生借助AI写作业、甚至写论文的情况,我们学校也在对AI写作进行规范。”中国传媒大学文化产业管理学院法律系主任郑宁说道。
郑宁介绍了利用AI生成论文的弊端。“人工智能生成的文章在表达上是有些套路的,有时候看似观点很全面,但其中不乏逻辑性、准确性、真实性的问题,尤其会出现数据和材料的伪造情况,也需要学生在使用人工智能是要警惕AI可能带来的学术伦理问题。”
“AI写作功能可以做一些辅助性的工作,我们学校规定使用AI在论文中所占的比例,同时学生要注明文章中哪些部分是AI写的,或借助AI写的。”郑宁认为,在人工智能时代背景下,要形成一个新的学术规范,建立AI时代的学术伦理。
高校纷纷开始行动。复旦大学打响“第一枪”,于2024年末正式发布《复旦大学关于在本科毕业论文(设计)中使用AI工具的规定(试行)》,系国内高校首个专门针对AI工具在毕业论文、毕业设计中的规范化管理文件。其中,《规定》明确了“六个禁止”使用AI工具的范围,引发关注。
随后,深圳大学发布的《深圳大学学术道德专门委员会关于进一步规范学术论文发表的指导意见》;中国传媒大学本科生院下发了《关于加强2024年毕业论文(设计)中规范使用人工智能管理的通知》;北京师范大学新闻传播学院联合华东师范大学发布《生成式人工智能(AIGC)学生使用指南》;上海交通大学等高校也纷纷出台相关规范文件,为AI“立规矩”。
学术写作中AIGC的使用边界仍需探讨
对于AI是否可以使用、在哪些方面可以使用,多所高校都作出了严格规定。
复旦大学要求,禁止在研究方案设计、创新性方法设计、算法(模型)框架搭建、毕业论文结构设计、研究选题、研究意义及创新性总结、研究假设提出、数据分析、结果分析与讨论以及结论总结等关键环节使用AI工具。
2月25日,深圳大学最新发布的《深圳大学学术道德专门委员会关于进一步规范学术论文发表的指导意见》中提到,一般不得使用人工智能工具直接生成代表作者观点的论述。
北京邮电大学2024年9月出台的《北京邮电大学2025届本科毕业设计(论文)指导手册》,第八章中明确规定:生成式人工智能技术仅可用于文献调研、数据处理、引文整理等辅助工作,严禁直接应用于开题报告、中期报告和论文撰写。
北京邮电大学教授鄂海红指出,目前通过技术能够识别出一段话中使用AI生成的概率,标注疑似大模型生成的段落,但是否属于学术不端行为则是另一个问题,其中存在的边界问题仍需要探讨。
我国相关主管机构也在推动界定学术伦理边界。2024年9月,中国科学技术信息研究所在科技部科研诚信监督司指导下,出台了《学术出版中的AIGC使用边界指南2.0》(下称《指南》),其中对图表制作和文字撰写进行了边界规范。
例如,在文字撰写方面,《指南》明确,AIGC不应该用来产生研究假设、直接撰写整篇论文文本或解释数据、得出科学结论等;但AIGC可以作为高标准语言检查器,提高稿件可读性和写作质量,以消除研究传播中的语言障碍。
对此,复旦大学则有更严格的要求,禁止直接使用AI工具生成正文文本、致谢或其他组成部分;禁止进行语言润色和翻译。
还有一些高校试图通过划定一定的比例来进行限制。北京师范大学新闻传播学院联合华东师范大学联合发布《生成式人工智能(AIGC)学生使用指南》中明确,学生在使用生成式人工智能完成作业时,需标红相关内容,且直接生成的内容不能超过全文的20%。天津科技大学则要求,论文中智能生成比例不超40%。
对于这一核心问题,陈杰认为,AI工具可以做一些文章论述的润色,在文字通顺程度、减少错别字等方面进行提升。此外,一些实验结果的展示,借助AI的帮助进行表格生成,可以更加直观和高效。
“比如说在进行文献综述时,大模型可以对现有的一些文献内容进行汇总。相较于传统的基于关键词的搜索方法,人工智能会用更具可读性的方式总结数据,但务必注意,通过人工智能生成的内容真假难辨,需要仔细思考前后的逻辑关系。”
“在学术论文中,我们在投稿的时候,但凡用到人工智能去做润色的部分,都会要求主动申报。同时严格禁止使用人工智能去形成观点,这是被列入违反学术诚信的操作。”陈杰强调,“学生要是被发现使用了人工智能来写作,肯定就是判0分或者重做了。”
在图表制作方面,中国科学技术信息研究所出台的《学术出版中的AIGC使用边界指南2.0》明确,作者根据数据特点和作图目的,AIGC可以推荐合适的统计图表类型,直观呈现数据结论;但是通过AIGC增强、模糊、移动、删除或引入图像中的特定特征是不可接受的。而复旦大学明确,禁止生成或改动原始数据、原创性或实验性的结果图片、图像和插图。
此外,不少高校对AI使用要求“留痕”。复旦大学强调,在使用AI工具时,学生必须在本科毕业论文承诺书中明确披露所使用的AI工具名称和版本号、使用时间、具体用途、AI工具生成的内容或提供的建议以及AI工具在论文中的具体使用部分。同时,学生还需保留AI工具处理之前的相关重要材料,以备指导老师或评审专家对使用AI工具的情况进行检查和质询。
再如,中国传媒大学继续教育学院要求学生须明确披露是否使用生成式人工智能,如使用,须描述使用方式、细节,包括模型/软件/工具名称、版本及使用时间。涉及事实和观点引证的辅助生成内容,须明确说明其生成过程,并同时在毕业论文(设计)相应位置具体标注,确保真实准确和尊重他人知识产权。
用技术高效识别AI伪造内容
人工智能大模型的出现也给高校老师提出了很大的挑战。
陈杰提到,目前在阅读学生论文的时候,基本可以判断出哪些论文是使用大模型生成的。“大模型生成的文章在表达上有一些特定的模式。”此外,在做论文查重的时候,传统的做法是通过跟历史的文章片段比较进行查重,近年来增加了AI查重。
“高校在推行相应规范时,还是需要有查重的检测手段和工具,以免增加老师的核实负担。”郑宁认为,在AI时代,高校也同时在推动“人工智能+”的行动,希望所有的专业和课程都能够融合AI,能够让AI辅助教师和学生的学习,而不仅仅让AI替代学生去写论文。
科研诚信问题已经成为当前科技政策部门、出版机构和科研机构共同关注的焦点问题。记者注意到,目前已有技术团队在行动。
北京邮电大学从事多模态大数据处理和理解技术研究的鄂海红教授团队,受科技部等部门委托,“用技术解决技术问题”,高效识别由AI生成或者篡改的实验数据和图片。
新一轮AI技术发展为学术不端检测带来哪些新挑战?鄂海红介绍,一方面,与过去学生在网上“手动”拼凑写论文相比,如今AI生成内容量大幅激增,过去靠专家审稿发现图文表述不一致等问题来识别造假,但在AI技术普及的当下,造假已规模化。
另一方面,传统高校学位论文查重主要聚焦于文本相似度检测,而随着人工智能技术的突破性发展,诸如AI图像生成与编辑等新型学术创作形式逐渐涌现。为应对层出不穷的新学术不端行为,必须提升检测能力,让高校查重维度更全、颗粒度更细,让检测更智能。
在图像学术不端行为自动化检测方面,团队取得了重大进展。鄂海红告诉新京报记者,目前团队研发成果能够判断一篇文章中是否存在同其他已发表论文图像存在重复区域的复用图像,该检测技术能够抵抗各类篡改行为(包括缩放、旋转、翻转、亮度、对比度、颜色操作)的干扰。
“在AI生成图像检测方面,随着技术的进步,人眼越来越难以判别图像的真实与否,学术出版界对图像生成伪造检测技术的需求日益增加。通过相关技术手段,我们能使用主流生成模型,反向还原图像原始噪声并重新生成一张重构图像,输入图像和重构图像的差别叫做重构损失,作为判断图像是否为AI篡改或生成的依据。”她进一步解释,“真实图像的重构损失通常较大,相比生成式伪造图像差别非常显著。”
此外,近年来还出现了以批量生产虚假论文为目的的“论文工厂”,这些论文往往具有高度相似的写作结构以及图文相关性特征,给传统检测方法带来了巨大挑战。鄂海红指出,针对这些复杂场景,团队进一步拓展技术边界,开发了多模态数字指纹和独立检测机制,写作结构的检测准确率超过90%,力求全面覆盖各类学术不端行为。
2023年9月,鄂海红教授团队研发的“万方数据文察多要素综合察验服务”(简称文察)已在万方数据科研诚信服务平台上线,面向全国所有高校、科研院所、医药卫生机构等提供在线大规模自动化论文图像、文本相似性、AIGC生成、参考文献风险等多维度综合检测察验服务。
记者了解到,目前所有高校都会要求学生学位论文,尤其是硕博士论文,在送审前进行查重,但一些专门的学科领域中图片问题频发,以及目前大语言模型工具的泛用,仅检测文本相似性不足以更全面地揭示一篇论文的科研诚信风险问题,需要能检测更多元素的工具来辅助检测工作,很多高校已经开始使用文察。学术出版界的一些学术期刊,在投稿、审稿期间也会委托平台开展察验服务。
“随着大模型的发展,服务需求预计会更大。只要有违法行为,就会有相应制止手段。”鄂海红说道。
开设人工智能通识课,帮助学生正确使用AI
“我们首先要让学生了解,AI工具在论文中应该扮演的角色是什么?论文是创造知识的载体,里面的观点都应该是原创性的内容,这些是不能通过人工智能去创造的。现在的AI工具都是数据驱动,主要是基于已知的知识。”陈杰说道,“但是在撰写论文的过程中合理借助AI一些功能的帮助,能够提高写作效率。”
面对人工智能的浪潮,高校应该如何应对?深圳大学大数据系统计算技术国家工程实验室教授彭小刚认为,人工智能是新的趋势,不可阻挡,各高校应该积极引导。“大学开设人工智能通识课,我觉得是非常有必要的。就像当年开设计算机基础课程一样,人工智能的使用能力未来将会成为标配。”同时,对于人工智能伦理问题的思考也同样重要。“人类不能无脑地任由人工智能来控制你,要知道怎样去用好它。”
彭小刚强调,关于人工智能的课程要分层次,明晰什么是人类应该掌握的,什么是可以用人工智能来替代的。“单纯地禁止用AI,或是什么事都用AI,这两种态度都是不对的。”
记者注意到,从2024年起,全国许多高校陆续开设了人工智能通识课,将人工智能教育纳入通识教育的范畴。2025春季学期开学伊始,深圳大学宣布与腾讯云达成合作,共同推出基于DeepSeek的人工智能通识课程。深大学子本学期即可选课学习。 “我们在人工智能通识课中也专门设置了一个章节介绍生成式人工智能的一些伦理和安全问题,希望可以通过课程规范大家在使用人工智能中的伦理规范。”陈杰说道。
2月24日是彭小刚本学期所负责教授的人工智能通识课第一次开课,教室座无虚席。这门课程一周四节,共计3个学分,本学期开设了4个班级的课程。“反响很热烈,来的同学比预期的多,连续换了两次更大的教室上课,才基本满足学生选课需求。”
彭小刚介绍,深圳大学大数据系统计算技术国家工程实验室从2024年起就开始筹备开设人工智能通识课。而DeepSeek的推出恰好是一个契机。深圳大学的人工智能通识课有三个特点。一是零基础开设,不在课程中出现具体的公式,让文科理科的同学都能够理解。二是立足国际视野,让同学们了解世界各国人工智能的发展进程,鼓励同学们在此基础上做出更加深入的研究。三是与各学科领域融合,通过这门课程知道人工智能不光是计算机学,也与伦理、立法等学科息息相关,激发所有学科的同学一起参与思考人工智能的建设。
除理论课程外,课程十分重视实际操作。课程设置4项实验课题。第一个是教大家如何搜索、如何分析数据。第二个是教大家如何合理地利用AI来帮助同学们完成论文的检索。第三个是让同学们知道怎么样用文字来生成图片和视频。第四个实验是文理分开,理工类学生会进行深度学习的一些应用,文科的学生会深入探讨数据搜集整理综合。学生们会在实验课程中通过实际操作利用人工智能的帮助进行论文检索、图表生成、文章润色等功能。
在鄂海红看来,帮助学生学会在论文写作中正确使用AI大模型,一方面要加强学术诚信教育。作为教育者,应着重培养学生对AI工具的批判性使用能力,明确AI的本质是辅助工具,其文本生成、数据分析等功能不能替代研究者的学术判断与创新思维。因此,学生不仅要掌握AI在提升文献整理、语法修正等方面的技术优势,还要清楚认识到AI的使用边界,警惕其可能引发的学术剽窃、数据失真等风险。
与此同时,鄂海红也强调,面对人工智能技术快速迭代与科研伦理建设并行的新形势,高校应当采取双轨并进的策略,既要系统提升师生AI工具的应用效能,又要明确技术使用边界和学术规范,强化实操教育,解决AI使用中的伦理矛盾,在教学过程中,应特别强调“可为”与“不可为”的界限,通过案例教学来强化学生的伦理意识,帮助学生在技术创新与学术规范之间建立动态平衡,实现负责任的研究创新。
来源:本文内容搜集或转自各大网络平台,并已注明来源、出处,如果转载侵犯您的版权或非授权发布,请联系小编,我们会及时审核处理。
声明:江苏教育黄页对文中观点保持中立,对所包含内容的准确性、可靠性或者完整性不提供任何明示或暗示的保证,不对文章观点负责,仅作分享之用,文章版权及插图属于原作者。
Copyright©2013-2025 JSedu114 All Rights Reserved. 江苏教育信息综合发布查询平台保留所有权利
苏公网安备32010402000125
苏ICP备14051488号-3技术支持:南京博盛蓝睿网络科技有限公司
南京思必达教育科技有限公司版权所有 百度统计