别做草包族
Paul Graham的《How to do great work》是我近两年觉得对我帮助最大的文章,这篇文章也是创业圈子里大家广泛流传的文章。但是我感觉他对于日常的工作/职业选择也是非常有帮助。
从这篇文章之后,也读了若干篇和“如何做出杰出的工作”相关的文章,也在这里做总结和整理。
第一篇就是理查德费曼的知名演讲里的内容"Cargo Science"(翻译为草包族科学)。
他在演讲中提到了这么一种人:
在第二次世界大战期间,在南太平洋有一些土著,看到飞机降落在地面,卸下来一包包的好东西,其中一些是送给他们的。往后他们仍然希望能发生同样的事,于是他们在同样的地点铺飞机跑道,两旁还点上了火,盖了间小茅屋,派人坐在那里,头上绑了两块木头(假装是耳机)、插了根竹子(假装是天线),以为这就等于控制塔里的领航员了——然后他们等待、等待飞机降落。他们被称为草包族,他们每件事都做对了、一切都十分神似,看来跟战时没什么两样;但这行不通:飞机始终没有降落下来。这是为什么我叫这类东西为“草包族科学”,因为它们完全学足了科学研究的外表,一切都十分神似,但是事实上它们缺乏了最重要的部分——因为飞机始终没有降落下来。
这种说法也是指代那些没有经受过科学训练,只会做一些貌似科学的事情,但是忽略了科学的本质。
受过高等教育的我们,似乎不太会是“草包族”。但是,在日常的工作中,在模型训练过程中,我们也发现了很多的人,视模型为黑盒,视训练为炼丹,也容易成为LLM时代的“草包族”。
当我们阅读一篇paper,尝试验证其中方法时,我们很容易得到一个结论:这个方法是不work的。原因是,我们看似模仿了每一个步骤,但是却忽略了实验过程中的本质Insight。像是在“刻舟求剑”。
与此同时,我们也常常忽略科学评估的重要性,在评估模型的过程中,我们会挑选对我们有利的指标。我们自我欺骗,营造虚假的繁荣,看起来欣欣向荣。实际上,我们的模型没有得到任何提升,我们也没有走到正确的路上。飞机不会降落下来,我们的模型还是原地踏步。
这里引用费曼的原话:
这就是“科学的品德”了,这是进行科学思考时必须遵守的诚实原则——有点尽力而为的意思在内。举个例子,如果你在做一个实验,你应该把一切可能推翻这个实验的东西纳入报告之中,而不是单把你认为对的部分提出来;你应该把其他同样可以解释你的数据的理论,某些你想到、但已透过其他实验将之剔除掉的事物等,全部包括在报告中,以使其他人明白,这些可能性都已经排除。 你必须交代清楚任何你知道、可能会使人怀疑的细微未节。如果你知道哪里出了问题,或可能会出问题,你必须要尽力解释清楚。比方说,你想到了一个理论,提出来的时候,便一定要同时把对这理论不利的事实也写下来。这里还牵涉到一个更高层次的问题。当你把许多想法放在一起构成一个大理论,提出它与什么数据相符合时,首先你应该确定,它能说明的不单单是让你想出这套理论的数据,而是除此以外,还能够说明其他的实验数据。 总而言之,重点在于提供所有信息,让其他人得以裁定你究竟作出了多少贡献;而不是单单提出会引导大家偏向某种看法的资料。根据过往的经验,真相最后还是会有水落石出的一天。其他同行会重复你的实验,找出你究竟是对还是错;大自然会同意或者不同意你的理论。而虽然你也许会得到短暂的名声及兴奋,但如果你不肯小心地从事这些工作,最后你肯定不会被尊为优秀科学家的。这种品德,这种不欺骗自己的刻苦用心,就是大部分草包族科学所缺乏的配料了。
这段话也常看常新,写此文以共勉!
参考文档
[1]. 费曼演讲原文