当人工智能开始深度参与文献检索、实验设计、论文撰写乃至同行评议等科研全流程,科研范式、信任基础与治理体系正面临一场深刻变革。未来研究者该如何相信AI?科研机构与政策制定者又将承担怎样的责任?

一份对全球113个国家、3200多名科研人员的调研报告显示,全球已有58%的科研人员在工作中使用AI工具,但仅有22%的受访者认为当前的AI工具值得信赖。同时,仅32%的科研人员认为其所在机构已建立完善的AI治理机制,45%的受访者坦言自身仍缺乏系统的AI技能培训。

近日,爱思唯尔与中国科学学与科技政策研究会在沪举办的一场专家圆桌会议上,多数人认为,两三年内,AI将成为驱动知识发现的重要引擎。中国科学学与科技政策研究会名誉理事长穆荣平表示,AI赋能科研,既要“加油”也要有“刹车”,用好帮手和助理的同时,也要防范相应风险。

打破学科壁垒,也制造新的鸿沟

中国科学院院士、浙江大学教授杨卫认为,AI已不只是一件提升效率的工具,它将重塑科研范式。“过去很多创新发生在学科边界,AI有望拆除这些边界。”在他看来,AI将加速跨学科融合与交叉创新,催生新的知识体系。

然而,一线科研工作者也感受到新的隐忧。东华大学材料科学与工程学院教授朱丽萍说,团队在纤维材料研究过程中开发了垂直领域大模型,但她发现部分学生过度依赖AI辅助,绕过了传统研究中知识积累与独立思辨的训练过程。长此以往,人反而可能沦为AI的重复性劳动工具。

上海人工智能研究院总工程师王资凯表示,AI并未如预期般“拉平”科研门槛,反而可能加剧科研领域的“马太效应”。头部高校凭借算力与数据资源优势,科研产出正进入“规模化量产”阶段,能同时推进多项研究任务,单篇论文的时间投入与成本显著降低。相比之下,资源相对薄弱的机构可能被进一步拉开差距。

有与会专家提到,AI在文献检索与知识获取方面仍存在明显局限。例如,当前部分AI智能体在搜集与处理学术资源时,会受到平台权限、数据接口及人机验证机制等限制,导致部分重要文献无法被有效纳入参考体系。这意味着,一些长期积累形成的高质量学术内容,可能在AI时代被遗漏,进而影响科研结果的完整性与可靠性。

信任危机下,如何重塑评价体系

AI的深度介入,也在动摇科研评价体系的信任基石。深圳理工大学讲席教授赵伟将AI比作一把“双刃剑”,其不仅具有强大的内容生成能力,也拥有伪造能力,对数据真实性与科研可信度带来挑战。从编造实验数据到生成虚假参考文献,有些时候,AI不但没有减轻科研人员的负担,反而增加了额外的核验工作量。他表示,解铃还须系铃人,可尝试利用AI结合区块链技术,全程监测数据采集、存储、分析和表达,避免实验造假。

类似的风险还出现在同行评议这一核心环节。武汉大学信息管理学院教授许洁分享了一个真实案例:团队向某知名期刊投稿后,收到的审稿意见被明确识别为AI生成。这些意见乍看言之成理,却夹杂着预设立场与不实信息,既无法直接采纳,也难以据此优化研究。如果从内容生产到评价审核都由AI主导,人类的原创性思考和真正有价值的成果,如何被看见?

当AI既能写论文,甚至参与论文审核,论文还是不是科研成果的核心载体?与会专家认为,未来的科研评价应更关注研究解决现实问题的能力,而非单纯堆砌论文数量。AI应被用来从海量文本中提炼有效信息与关键洞见,而非生产低质量论文。科研人员的核心价值将更多体现在提出关键问题、设计研究路径、作出价值判断上,这些才是AI难以替代的“人类智能”。

从道德自律走向制度治理

在华东师范大学教授姜雪峰看来,过去三年,AI技术演进速度远超预期,AI参与论文写作、产品开发乃至科研评审,已是大势所驱。专家普遍认为,真正的难题不是要不要使用AI或如何部署AI,而是如何降低AI衍生风险。而单靠科研人员自律或事后追责,并不足以应对现实挑战,亟需建立覆盖全流程、多主体协同参与的科研治理新机制。

清华大学教授、人工智能治理研究中心主任梁正表示,未来的治理不能一刀切,不同学科应有不同的评价与治理逻辑。同时,科研评价也应从传统指标导向,逐步转向对真实创新贡献的衡量。赵伟则提出,应加强科研数据基础设施建设,推动形成统一、可机读的学术数据标准,并探索利用区块链等技术,实现科研数据全流程可追溯。

香港大学首席信息官兼图书馆馆长伍丽娟介绍,香港大学已开始建立AI项目风险登记制度,并推动资源采购与使用标准化,以应对快速变化带来的治理挑战。

多位与会专家呼吁弥合“AI能力鸿沟”,统筹建设共享算力平台,避免科研资源向少数机构集中,并在高校教育中系统嵌入AI素养与应用能力培养。

爱思唯尔大中华区总裁李琳表示,AI带来了前所未有的信息生产能力,也制造了空前的“噪音”。维护“科研之信”的本质,是一场对抗集体认知负荷的长期挑战。科研共同体需持续探索新型同行评议机制,推动跨学科协作与更加开放包容的科研生态建设。