我父亲最近去世了，他的年龄是我的两倍。我现在大约和他在我出生时的年龄相同，而我现在成为了“老一代” - 在我上方的世代中再没有人了。同时，我最近加入了一家偏年轻化的公司。当我在2011年加入谷歌时，我刚满30岁，正处于2011年谷歌的主流人群中。有很多高级员工，其中非常高级的成员都在50岁左右，并且有过在贝尔实验室工作的经历。我敬佩很多这样的“老前辈”（尽管这是一个性别歧视的词 - 合适的女性相应词是什么？我希望包括一些非常资深的女性工程师）。也许很自然，我开始反思“自我二十多岁以来的重要领悟，如何深刻影响了我看待世界的方式”？在某种意义上：我有什么见解使我变得“更成熟”，为“成熟”的某个积极定义？这篇帖子试图列出它们。1. 理解自己的激励结构的重要性，并不相信自己所想的一切。我最近在推特上写了一条关于这个主题的长串。奥本海默对核弹的制造感到非常内疚，而冯·诺依曼在某个时刻打趣说“有些人宣称内疚是为了为罪行索取功劳”。在我年轻的时候，尤其是在我拥有别人没有的0day漏洞时，我对拥有0day漏洞所带来的责任感到痛苦。我应该修复它们吗？我应该把它们用于好事吗？这样做会对世界造成伤害吗？或那样？最后，事实证明 - 虽然个体很重要 - 许多想法都有“成熟的时间”，一个人的行为在那个时刻所起的作用远远小于他们所想。几乎没有办法预测你所做的事情将如何影响更广泛的世界。如果你被问到：“如果这个0day被用来抓住恐怖分子，这会好不好？”你可能会说“这很好”。如果你被问到“如果这个0day被用来逮捕某人，然后折磨和水刑他183次，这会好不好？”你可能会说“这不好”。所以如果你的0day被用来抓捕KSM，这可能是好事？还是坏事？事情很快变得非常复杂。关闭0day对社会来说是好事，因为这使一切都更安全？还是因为buggy系统更容易被绕过而助长压迫？没有好的答案，你自己的激励结构将极大影响你选择的信仰。最后，人们想成为自己故事中的英雄，同时也有对认可、物质财富等基本需求的渴望 - 因此他们会尝试构建一个叙事，使他们能够满足基本需求，同时仍然是他们传奇故事的英雄。对自己工作的影响感到焦虑是一种自我满足，你必须认识到这一点，并加以控制 - 这对你的自我是一种糖分，但历史在很大程度上将绕过你，因为虽然个体决策在特定情况下很重要，但历史的整体流动对个体的敏感度远低于个体所想。不过，更广泛的教训是：不要相信你所想的一切。仔细审查自己的激励结构。问问自己：你的行为和信念的替代叙事会是什么，特别是当它们与正在为自己构建的英雄传奇的叙事相矛盾时。仔细权衡“我如何可能是在这个故事中的恶棍？”这个问题是一个重要且有价值的技能。同样，元认知 - 以超然的方式观察自己的思想，然后能够根据自己的激励结构解释、分析和上下文化它们，是一个很好的技能。2. 单因果决定论是一种幻觉，且在计算机调试以外几乎不存在。年轻计算机爱好者习惯的单因果决定论是一种幻觉，几代电气和过程工程师花了他们的生命来完善和维护。正是因为这些工程师，计算机科学家才能在过去的大多数情况下逃避概率或任何经验基础。有一种说法认为，你有这么多自然科学家跨过到人工智能领域，因为计算机科学的教育长期以来过于专注于在决定论的单因果幻觉内进行推理。现实是：计算机作为物理设备，包括磨损、物品之间的质量差异和“概率性确定行为”，例如，如果没有过多震动，它通常表现得像是确定的。如果稍微施加一些压力 - 无论是温度、电压、电磁场，还是甚至对相邻DRAM行的快速内存访问 - 决定性往往会消失，幻觉崩溃，我们所面对的是一种非常不同的兽类。顺便说一句 - 这也让我对模型对齐产生疑问，因为即使是完美的，但...