30岁的最后几天,来到广州参加 IJCAI。见了很多年轻的面孔,听了一些讲得稀烂的报告,也有质量挺高的 tutorial。
听 tutorial 的时候,我在思考一个问题:如何在基于 LLM 构建的应用系统中做出理论性贡献?在大模型时代,单纯做应用和写技术报告可能没什么区别(当然,很多技术报告的影响力比普通论文要高得多)。
这个问题一直困扰着我。传统机器学习时代,理论与实践的边界相对清晰:我们可以通过建模和数学推导设计新算法,然后在标准数据集上验证效果。但在 LLM 时代,游戏规则彻底改变了。大部分“创新”是在已有大模型基础上做微调、提示工程,或者设计新的应用场景。这些工作虽然实用,但很难说有什么深刻的理论洞察。
向讲 tutorial 的一位教授提出这个问题,他没有给出很好的答案,但他的描述很好地概括了我的想法:你是想做一些出圈的工作。
LLM 相关的科研工作大部分是经验性贡献,试错至关重要,需要大量资源支撑。这也是普通高校或资源匮乏的研究组在大模型时代全面掉队的原因。认识到这一点,我选择了去公司。
三十岁,博士,打工人,已婚——我处在一个微妙的人生节点。我给自己的生日寄语:
多想多做,人生不给自己设限,继续尝试破圈。
我希望在接下来的岁月里能够:
- 保持好奇心:对新技术、新想法始终保持开放态度,不被既有成功经验束缚
- 跨界学习:主动接触其他领域思想,寻找交叉点和新的研究方向
- 勇于试错:在有资源支持的条件下,大胆尝试看似不可能的想法
- 深度思考:在快节奏时代里,刻意为深度思考留出时间和空间
- 分享知识:将思考和发现分享给更多人,促进整个社区进步
借用阿里的话:唯一不变的是变化。在这个充满变化和可能性的时代,最重要的不是预测未来,而是为未来做好准备。
初心不负。
年轻时可以尝试破圈,到了中年,人就换不动了,使用自己的积累也不错
我才30,不服老哈哈哈哈。破圈也不意味着大开大合,重新开始。
不破不立