能用ChatGPT写论文吗?

能用ChatGPT写论文吗?

图片来源@视觉中国

文|追问NextQuestion

OpenAI 开发的人工智能(AI)驱动的聊天机器人ChatGPT 迅速引起了所有职业领域的轰动。ChatGPT的名字来源于它基于的生成性预约束转换器(Generative Pre-trAIned Transformer,GPT)语言模型,其最具前沿性的特征是它能够通过深度学习技术对输入的文本做出类似人类的反应,其智能水平远远胜过其他人工智能模型。

ChatGPT囊括1750 亿个参数,这使其成为当今最大且强有力的人工智能处理模型之一,也因其给出的反应更加人性化,因此在越来越多不同职业场景中使用,不难想象在未来它也将会扩展应用到临床和转化医学

ChatGPT 的新兴应用在科学界引发了一场剧变,并引起了围绕使用人工智能撰写科学出版物的伦理问题的辩论,而这些出版物可能会影响医生、研究人员和政策制定者的决策。

ChatGPT :提供的不总是对的

ChatGPT 最显著的缺点是它编译的信息并不总是准确的,这一弊端在学术出版中尤其不利——毕竟,进步取决于分享适当的信息。在科学环境中不正确的数据呈现具有很大的危害性和风险性。

另外,对于一个由知识提升、加强干预和制定循证政策的极具时效性的领域来说,正在不断扩大的信息差是一个不容忽视的障碍。如果学者们利用 ChatGPT 来进行内容创作,可能会包含虚假或过时的论文信息,其将损害作者在同行中的信誉。

ChatGPT :使用的隐藏性

ChatGPT是一把双刃剑的原因还在于:学者几乎无法发现其他专业人士是否使用以及何时使用过它。西北大学(Northwestern University)的研究人员要求 ChatGPT 根据医学期刊上发表的一系列文章撰写 50 篇医学研究摘要,随后要求一组医学研究人员找出这些捏造摘要——阅稿人只能正确识别 68%的 ChatGPT 生成的摘要和86%的真实摘要。这样的结果证实了ChatGPT写出了可信(尽管可能不准确)的科学摘要。

这项研究的结果对那些有意使用 ChatGPT 来推动写作的人来说无疑是个福音,因为由此创作的作品可能并不会被认为是人工智能生成的。

然而,无法识别有效信息的问题也将随之而来。科学家可能会遵循有缺陷的研究路线,从而造成研究经费的浪费和具有误导性的结果;对于政策制定者来说,无法甄别虚假的研究将制定出基于错误信息的决策,从而对社会产生巨大影响。

由于这些影响,学界和科学出版界未来可能很快就会有禁止人工智能生成内容的政策,无论以任何身份使用ChatGPT的人都需要了解这些授权。

第40届国际机器学习会议已经禁止了包括ChatGPT在内的AI工具撰写的论文;Science系列期刊也在更新他们的许可和编辑政策,明确反对ChatGPT制作的文稿。他们在一篇社论中阐明了他们的立场,指出大多数科学不端行为的案例源于人类注意力的不足,允许ChatGPT生成的内容则将显著增加了这种风险。

ChatGPT :科研创新小助手

并非所有与ChatGPT相关的问题都会引起科研领域内的担忧。2023年2月Nature杂志的一篇文章描述了计算生物学家使用ChatGPT来改进已完成的研究论文。在短短五分钟内,生物学家们收到了对他们手稿的审查,这不仅增加了手稿的可读性,还发现了在方程上的错误。在对三个手稿的进行试验的过程中,尽管团队对ChatGPT的使用并不总是一帆风顺,但最终都得到了一篇润色更好的文章。

将ChatGPT用于此目的则避免了科学界对人工智能使用不准确或过时信息的主要担忧,因为根据计算生物学家最初撰写的手稿,信息已经是准确的和最新的。ChatGPT可以帮助提高研究人员的生产力和内容的质量。而如果科学家们能花费更少的时间在文章编辑上,则可以投入更多的时间来推进医学领域的科学研究。

不难看出,ChatGPT 对那些希望验证答案或发现工作中问题的研究人员来说是很有益处的。然而到目前为止,由于ChatGPT还未接受过足够的专业内容训练,因此无法对技术进行事实性查验。

ChatGPT :应用于科研的挑战和机遇

专家预计,集成ChatGPT的技术和项目将成为人工智能系统的先导。与此同时,这样一个聊天机器人可以协助手稿编辑从而在学术和科学出版界中发挥积极作用。即便如此,ChatGPT 的使用者人必须意识到它的局限性。

正如Nature Machine Intelligence 杂志1月份发表的一篇社论所说,目前,我们不能指望ChatGPT提供正确的事实或可靠的参考,接受ChatGPT的局限性并仅将其用于某些任务,允许研究人员将乏味的工作(如手稿编辑)委托给人工智能模型,同时需要避免发布虚假信息等灾难性后果的发生。

随着 ChatGPT 的普及,调整对其能力的预期并接受它不能承担每一份工作将是至关重要的。特别是在学术研究领域,任何需要专业学科知识或创新性思想和观点的任务仍然需要人工智能无法替代的、真正的人情味。

ChatGPT :并不是一个作家

由于ChatGPT在提供可靠信息方面不断发展的局限性和潜力,在对ChatGPT进行迭代时必须十分谨慎:人工智能能代替人工输入吗?在此,H. Holden Thorp教授对于ChatGPT的观点可能更为准确:“ChatGPT很有趣,但不是一个作家”。

科学家可以利用成熟的人工智能工具来提高工作效率等任务的校对和手稿审查。在未来,AI工具的使用可能能够帮助他们在科学研究领域取得更广泛的突破和更高的认可度,但更多需要根据自己的能力来进行人工输入。

对于伦理与道德之间界限的讨论需要进一步推进,在卫生研究中AI的使用也需要进一步探索建立指导方针。所有研究人员和参与者必须了解人工智能的安全和禁止范围是哪些。因此,编辑和编辑委员会成员应继续监管ChatGPT在学术研究中的应用,以起草期刊政策,让撰稿人了解到人工智能的最佳实践方式——毕竟,卓越的研究需要用道德和诚信来衡量。

参考文献:

[1]Agüera y Arcas, B. (2022). Can machines learn how to behave? Medium. https://medium.com/@blaisea/can-machines-learn-how-to-behave-42a02a57fadb.

[2]Churchland, P. S. (2019). Conscience: The origins of moral intuition. Norton.

[3]Rowling, J. K. (1997). Harry Potter and the sorcerer\’s stone, Bloomsbury.

[4]Hofstadter, D. (2022). Artificial neural networks are making strides towards consciousness. Economist (June 9).

[5]Lemoine, B. (2022). Is LaMDA sentient?: An interview. Medium. https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917.

[6]van Dis E, Bollen J, Zuidema W, van Rooij R, Bockting C. Chat-GPT: five priorities for research.Nature. 2023;614(7947):224-226.https://doi.org/10.1038/d41586-023-00288-7.

[7]Stokel-WalkerC,VanNoordenR.WhatChatGPTandgenerativeAI mean for science.Nature. 2023;614(7947):214-216.https://doi.org/10.1038/d41586-023-00340-6.

[8]The AI writing on the wall.Nat Mach.2023;5(1):1.https://doi.org/10.1038/s42256-023-00613-9

[9]Seyhan, A. Lost in translation: the valley of death across pre-clinical and clinical divide – identification of problems andovercoming obstacles.Transl Med Commun. 2019;4.https://doi.org/10.1186/s41231-019-0050-7

[10]Samuel G, Chubb J, Derrick G. Boundaries between researchethics and ethical research use in artificial intelligence healthresearch.JEmpirResHum. 2021;16(3):325-337.https://doi.org/10.1177/15562646211002744How to cite this article:Wen J, Wang W. Thefuture of ChatGPT in academic research andpublishing: A commentary forclinical andtranslational medicine.Clin Transl Med.2023;13:e1207.https://doi.org/10.1002/ctm2.1207

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2024年4月21日 上午9:05
下一篇 2024年4月21日 上午9:17

相关推荐

  • 张家界市基层党建工作优秀实践创新案例:慈利县二坊坪镇“三送三有”加强流动党员教育管理

    编者按:2022年是张家界市委确定的基层党建工作创新年,全市各基层党组织按照创新年活动方案和创新项目评选方案要求,主动思考、探索创新、积极实践,激发了基层党组织的活力,形成了创新争…

    科研百科 2023年1月5日
    203
  • 医院科研项目专员职责

    医院科研项目专员职责 医院科研项目专员是医院科研团队中至关重要的一员,其职责涵盖了科研计划的制定、实验数据的收集和分析、文献的检索和翻译等多个方面。下面,我们将详细介绍医院科研项目…

    科研百科 2025年3月20日
    1
  • 开源物联网平台源代码

    开源物联网平台源代码: 探索物联网的未来 随着物联网技术的不断发展,越来越多的企业和机构开始关注这个领域。开源物联网平台作为物联网技术的重要组成部分,成为了许多人研究的方向。今天,…

    科研百科 2024年10月7日
    16
  • project 时标网络图

    时标网络图是一种用于描述时间序列数据的图表,能够帮助人们更好地理解时间序列数据的变化趋势和规律。近年来,随着深度学习技术的发展,时标网络图被广泛应用于时间序列预测、数据分析等领域。…

    科研百科 2024年11月13日
    4
  • 教育厅内蒙古科研项目

    教育厅内蒙古科研项目 近年来,内蒙古教育一直在快速发展,为了满足人民对更高质量教育的需求,教育厅在科研项目方面不断投入,其中,一项名为“内蒙古地区幼儿教师培训项目”的科研项目备受关…

    科研百科 2025年4月30日
    1
  • 车辆进出管理系统项目

    车辆进出管理系统项目 车辆进出管理系统是一项重要的生活工具,能够帮助人们更好地管理车辆。它可以提高车辆管理的效率,减少交通拥堵,提高交通的安全性。本文将介绍车辆进出管理系统项目,包…

    科研百科 2024年12月24日
    0
  • 案例说明:5个动作,搞定医疗器械质量体系问题!(案例说明-5个动作,搞定医疗器械质量体系问题的原因)

    医疗器械质量管理体系中,纠正预防措施(Corrective and Preventive Actions,简称CAPA)属于关键性过程,其目的在于:识别和纠正问题并采取预防措施,以…

    科研百科 2024年5月12日
    79
  • 咸鱼系统集成项目管理

    咸鱼系统集成项目管理 随着互联网的发展,咸鱼成为了人们生活中不可或缺的一部分。作为咸鱼的官方客户端,咸鱼系统集成了多种功能,如用户管理、订单管理、评论管理等,使得用户可以更加方便地…

    科研百科 2025年6月28日
    0
  • 项目采购管理软件管理系统

    项目采购管理软件管理系统 随着项目的不断开展,项目采购管理已经成为了项目管理中不可或缺的一部分。项目采购管理软件管理系统可以帮助企业更好地管理项目采购流程,提高采购效率,降低采购成…

    科研百科 2025年6月12日
    0
  • java实现银行系统项目管理

    Java实现银行系统项目管理 随着数字化时代的到来,银行系统也在不断地更新和升级,以更好地满足用户的需求。在实现这样的银行系统时,项目管理是至关重要的。本文将介绍Java实现银行系…

    科研百科 2025年6月16日
    0