# 我的科研杂谈

• 2025-02-09 ：如何做出有价值的工作？我的第一篇工作是失败的，毫无创新可言，实验效果也很差，但是为我积累了丰富的科研经验。在放弃第一篇工作后，第二篇工作仅在 2 周的时间内就实现了 idea 的确定，仅在 2 个月内就进入了论文初稿的撰写，实验结果还是可以说得过去。我并没有取低光照图像增强领域的 SOTA 作为 baseline ，而是阅读了其他领域的方法，将其他领域的思想和方法结合，然后应用到低光领域。这种做法需要较为熟练的代码能力，而且较难做出高的实验分数，可能需要不断地更换其他领域的思想和方法。这种做法并不基于本领域的现有 SOTA 方法，能够避开与现有 SOTA 方法的比较。如果你的思想方法是本领域没有出现的（需要彻查），那么作为开创工作大胆发 paper 即可。如果有若干个相关工作，可以与他们进行对比，超越即可。这可以大大降低了实验分数的压力。但是如果想要追求与更高的分数如 SOTA 的对比，就不太容易，因为这一方面需要优秀的科研直觉、强大代码能力、不错的运气。如果运气好，你结合了其他领域的思想方法正好极其 SOTA ，那么完全可以投高水平期刊和会议，甚至顶会顶刊。所以也有另一种方法，就是以本领域的 SOTA 工作的方法为 baseline ，结合其他领域的思想和方法。这种方式的实验分数普遍偏高，但是会经常见到自己的实验效果反而比 SOTA 低的现象，因此主要和所参考的本领域 SOTA 对比，超越之较难。虽然说超越较难，但是一旦超越了，高的实验分数确实可以作为一个不错的亮点。然而，如果以本领域的 SOTA 方法为 baseline （也就是已经以该 SOTA 方法的代码为模板），最终的模型结构会与该 SOTA 方法较为相似，内行人一看就知道来源于哪篇工作，因此即使有较高的实验分数，想要发高水平期刊和会议还是因为创新点较为雷同而被拒。两种方式各有特点，他们难点不同，前者难在结合其他领域的思想，后者难在超越本领域 SOTA 。他们发 paper 的标志不同，前者只要超过相关工作即可，后者需要超过 SOTA 。他们的 baseline 不同，前者的 baseline 是其他领域的思想方法在本领域的效果（一般较低），后者的 baseline 是本领域的 SOTA （一般较高）。他们证明自己有效的方式是一致的，都需要超越 baseline ，才能证明自己的工作有效。
• 2025-02-13 ：其实可以为读过的每一篇论文用自己的理解提炼出关键思想，甚至可以用英文写，这样也有助于语感的保持。或者把自己对这篇论文的主要思考用英文记录。
• 2025-03-06 ：最近做 MAI2025 实验不顺，于是逛知乎刷到一个贴子。贴主说，既然是从 baseline 上进行实现自己的 idea 、优化改进，那么不一定要直接把 idea 的一整个 backbone 的代码都搭建好，可以考虑往 baseline 的 backbone 上需要实现 idea 的地方施加一些与自己 idea 相关的扰动。这些扰动添加进去后，本质上是往自己的 idea 上靠拢的一小步。如果这些小扰动可以让模型的性能发生较显著的提升，那么说明这种改进是很有效果的，那么就可以进一步扩大同种类型的这种改进。如果连这些小扰动、小修改都无法让模型的性能发生显著的提升，甚至是下降，说明这个小改进并不 work ，甚至是整个 idea 并不 work ，那就没必要扩展到一整个 backbone 。在我看来，这种小扰动、小修改本质上是 idea 的小验证，这种小验证也可以算是一种小的消融实验，小的探索，这对于节省不必要的科研时间浪费是相当有借鉴意义的。
• 2025-03-13 ：从探索的实验中寻找问题是相当重要的事情。