登陆注册
9779

AI与学术界的较量!学术界有人使用ChatGPT撰写论文

站长网2023-09-11 11:01:201

文章概要:

1. 计算机科学家Guillaume Cabanac发现论文中不慎复制了ChatGPT查询短语,揭露了使用ChatGPT来写作的骗局。

2. 论文作者坦白承认使用聊天机器人起草文章,引发学术界对生成式AI对学术界的担忧。

3. 论文因未声明使用ChatGPT而被撤销,引发关于学术伦理和未来的争论。

上个月,一篇发表在Physica Scripta期刊上的论文因为一位计算机科学家和诚信调查员Guillaume Cabanac的发现而引发了争议。他注意到ChatGPT查询短语“Regenerate Response”不慎被复制到了文章中,看似出于意外。

如今,论文的作者已经坦白承认他们使用聊天机器人来起草文章,成为了生成式AI对学术界的最新示例,引发了学术伦理问题。IOP Publishing的同行评审和研究诚信主管Kim Eggleton表示:“这违反了我们的伦理政策。”

2015年以来,Cabanac一直致力于揭示其他未公开声明用人工智能技术的已发表论文,当时AI技术还只是一种好奇。随着计算机能够生成更加逼真、类似人类的作品,这一斗争变得更加艰巨。但这仅加强了Cabanac的决心,他已经帮助揭示了数百份由AI生成的手稿。

一些小心掩盖痕迹的作者不会留下明显的线索,但幸运的是,像Cabanac这样的侦探仍然可以找到很多迹象。他最近还揭发了另一篇发表在《Resources Policy》期刊上的论文,其中包含了几个明显的痕迹。该期刊表示已经“意识到了这个问题”,并正在调查此事件。

此外,AI模型经常会混淆事实,并且可能太愚蠢,无法准确地复述科学论文中涉及的数学和技术术语,就像《Resources Policy》的研究中包含的毫无意义的方程式一样。

ChatGPT还可能会凭空制造虚假主张,这种现象或许过于宽容地被描述为“幻觉”。一个丹麦教授最近发现,一篇预印论文部分由AI生成,因为它引用了他名下不存在的论文。

考虑到同行评审过程的严格性,AI制作的伪造论文竟然能够过关,这实在令人震惊。

0001
评论列表
共(0)条