Blog-2022 Novelty in Science

博客地址:Novelty in Science

论文的新意度

作者 Michael J. Black 是德国马普所所长之一。

  1. 理论研究者对于一个文章的判断往往在于:① 深刻,文章是否解释了深层次/本质的东西;② 优美,定理和证明是不是有美感。作者建议把“新意度”这个说法换成“优美度”,因为解释什么算有新意很困难,所以作者就说明什么算是新意度的误区。
  2. “美”常见的误区
    1. 简单或许不等于没有新意。比如就是改了一个损失函数,前面工作和前人一致,如果前人没有想到,且这种工作确实有效的话,那就应该是有新意的文章。否则的话投稿人就会想怎么把方法做得更加复杂,这样才会显得工作的价值更高一些。实际上将一个神经网络拿来改了一项达到很好效果,远胜于换成一个全新的,但更复杂的网络。
    2. 困难或许不等于有新意。一个简单/显然的想法如果比sota还要好,那就说明这就不简单/显然了。
    3. 惊讶或许不等于有新意。a+b的工作听上去确实很显然,但或许只是开了上帝视角的后知后觉。
    4. 技术或许不能衡量新意。数据集能提供别的数据集没有的东西这也算有新意,比如 ImageNet,这个数据集特点就是大,能提供别的数据集提供不了的数据量支撑神经网络等,间接性带动了 CV 领域。一个老方法用在别的地方也算新,或者一个复杂的算法换成一个简单算法,并提供一些 insight 也是有效的(用简单模型替代复杂模型来获得可解释性)。
    5. 没有实用性或许不能衡量新意。
  3. 总结作者认为:新意度 != 复杂度、困难度、惊讶度、技术新意、有效性。更多是文章是否优美。