Mamba架构遭同行评审质疑,LeCun自曝类似经历
要点:
Mamba架构论文,去年底发布,挑战Transformer,但在ICLR2024同行评审中得到低分,可能被拒收。
LeCun自曝类似经历,指出自己曾有类似经历,即使成就显著的论文也可能被顶会拒收。
审稿人给出低分的理由,主要集中在对Mamba模型设计和实验的质疑,作者进行rebuttal但未得到重视。
近期,Mamba架构论文因在ICLR2024评审中得到低分而引起关注。该架构去年底由CMU和普林斯顿的研究者提出,被认为有颠覆Transformer的潜力。然而,ICLR评审中,有一位审稿人给出3分的低分,引发疑虑。LeCun也跃出来分享自己类似的遭遇,指出即便成就显著的论文也可能被拒收。这一事件引起了学术界的不满和质疑。
论文地址:https://arxiv.org/pdf/2312.00752.pdf
审稿人给出低分的理由主要涉及对Mamba模型设计和实验的质疑。其中,审稿人提到Mamba的设计动机,质疑其在与其他模型的比较中的性能表现。作者在rebuttal中指出,他们的重点是大规模预训练的复杂性,而Mamba在Wikitext-103上的表现明显优于其他模型。审稿人还对Mamba是否具有长度泛化能力提出了质疑。对此,作者回应称他们在长序列方面进行了实验,但这些回应未能得到审稿人的认同。
LeCun回忆了自己的类似经历,表示即便拥有引用超过1880次的论文,也曾被拒收。这凸显了同行评审体系的不确定性和主观性。虽然Mamba架构在学术界产生了深刻影响,但遭遇评审的波折,使得学术界对同行评审的公正性产生质疑。此外,审稿人在rebuttal中提出的问题,虽然作者进行了解答,但最终未能改变审稿人的评分,加剧了学术界对同行评审的不满。
整个过程显示,学术界对于同行评审制度的信任程度在下降。有人认为,Mamba获得3分的低分是业界的笑话。这一事件或许需要学术界进一步探讨和改进同行评审制度,以确保更公正、客观的评价,避免因为主观因素而损害具有潜力的研究。在这个过程中,LeCun的经历成为引发讨论的契机,引导学术界关注同行评审制度的合理性和公正性。
OpenAI、DeepMind 和 Anthropic 等顶级 AI 公司 CEO 签署防范人工智能风险联名信
OpenAI首席执行官SamAltman等顶级人工智能领域的高管于周二加入了专家和教授的行列,提出了「人工智能灭绝风险」的问题,并敦促政策制定者将其与大流行病和核战等风险等同对待。超过350名签署者在非营利组织人工智能安全中心(CAIS)发布的一封信中写道:「减轻人工智能灭绝风险应当与大流行病和核战等其他社会规模的风险一样成为全球优先事项。」站长网2023-05-31 09:50:150000ChatGPT访问量下降 AI聊天机器人网站热度降温
根据网站流量监测服务商SimilarWeb的数据显示,今年以来,ChatGPT的访问量在1月份环比增长了131.6%,但随后逐月下降。到了5月,这个数字已经跌至2.8%,预计6月将出现环比负增长的情况。不仅是ChatGPT,市面上的主流人工智能聊天机器人网站,流量和订阅用户数量也出现了增长停滞甚至下降的趋势。站长网2023-07-03 18:21:290000最高炒到250元一杯!茅台冰淇淋旗舰店已覆盖全国31省区市
快科技5月30日消息,一年前茅台集团联合蒙牛,首次推出了茅台冰淇淋”产品,售价59元起,被网友称之为雪糕刺客”。据贵州茅台消息,5月29日,在茅台冰淇淋上市一周年之际,西宁、拉萨、乌鲁木齐、兰州、银川、海口、呼和浩特等7家茅台冰淇淋旗舰店同步开业。至此,茅台冰淇淋已经完成全国内陆31个省区市共计34家旗舰店布局,全国朋友都能更方便的品尝到。站长网2023-05-30 08:34:510000李想:理想L6明年交付 有信心2024年总销量超过BBA
快科技6月13日消息,我们从理想官方获悉,在刚刚过去的2023年第24周(6.05-6.11),理想汽车的周销量再创新高,达到了0.84万辆,远超其他新势力品牌,超过了榜单中第二、三、四名的销量总和。截至6月11日,理想汽车本月销量已达1.19万辆。站长网2023-06-13 23:54:050000阿里大文娱 CTO郑勇确认妙鸭相机公司将与神力视界合并 为产品优化和用户体验提供更多支持
近日,阿里大文娱旗下科技业务公司神力视界将收购妙鸭相机,并入公司主体。资料显示,阿里大文娱于6月成立了神力视界(深圳)文化科技有限公司,注资1亿元,经营范围包含组织文化艺术交流活动、软件开发、人工智能应用软件开发;文艺创作;广播电视节目制作经营等,由阿里巴巴文化娱乐有限公司全资控股,法定代表人为阿里大文娱集团CTO郑勇。站长网2023-08-17 11:46:270000