我在 Recurse Center 的经历
我在 Recurse Center 度过了一个夏天,这是一个位于布鲁克林的编程静修所,是在我的朋友 Cory 的推荐下去的。以下是我在那里做的一些事情。参与学习小组 RC 有定期的学习小组,任何人都可以组织和安排。例如,人们每周五聚在一起,共同解决以前的 Advent of Code 挑战。我参加了 Agentic Adventures、Practical Deep Learning、Math Monday,以及一个调查开源桌面游戏 AI 的短系列。Agentic Adventures Agentic Adventures 是一个讨论现代 LLM 和代理的兴趣小组;我们每周进行不同的活动。一些亮点:Amanda 和我为一个 vibecoding 代理构建了一个远程沙箱,我们可以以危险的跳过权限的方式运行它。同样,Michelle 教我们如何使用 ollama 和 docker 设置本地代理的沙箱环境。这是我们构建“Just One”游戏的基础,以探讨代理如何合作。我们一起玩 minGPT,构建了一个基于《罗密欧与朱丽叶》的小文本预测模型,以莎士比亚的风格进行对话。我们进行了基本的 LoRA,以训练一个小模型,使其更具对话性。Practical Deep Learning 这是一个学习小组,通过 Jeremy Howard 和 Sylvain Gugger 的书《实用深度学习》的前半部分;我们逐步学习经典机器学习方法,使用或改编预构建的模型,然后学习如何建立实际的神经网络模型。这本书提供了高水平的从业者入门,这对建立直觉和理解其工作原理,以及可以用它们构建什么非常有帮助。由于我本人对研究不感兴趣,这正是我想要的理解水平。Math Monday 在一次咖啡聊天中,Sophia 和我发现我们都对数学充满热情,决定成立一个讨论数学主题的小组。这是为了作为一种有趣的消遣和学习探索的机会,我们会在每次会议的前半部分学习,然后分成小组基于所学内容进行构建。我们一起完成的一些有趣的项目包括:一起解决 project euler 的问题。思考 Peter Winkler 的《数学谜题》中的一些问题。绘制分形和其他生成艺术。构建使用 Voronoi 图的程序,例如这个游戏。Ben 给我们介绍了 Rocq 证明助手,我们一起研究了一些布尔恒等式。我们编写了一个程序来生成用于绘制的 Hilbert 曲线。Kenji 和我在 Desmos 中构建了一些有趣的混沌游戏扩展:反向工程一个桌面游戏 AI Tony 开始探索 Keldon AI 的代码,以玩桌面游戏《银河竞速》。我们在第一次会话中只是学习规则并玩 AI,然后深入到代码中——一个旧式的两层神经网络,带有精心挑选的特征。Claude 大约可以很好地解释神经网络的权重以及它对什么有反应;我们花了一些时间试图理解 Keldon AI 对策略的理解。收获之一是经济策略在基础游戏中比军事策略要强得多(与玩家的情感一致)。在我看来突出的一点是,许多最强烈加权节点与特定卡片的存在相关。完成 dodo 我完成了我作为申请 RC 的一部分制作的迷你语言 dodo。这包括了可能是最有趣的部分,编写复杂的递归代码以实现匹配语句。这与 LLMs 的平衡很有趣——我并没有让它们为我编写任何代码,但有人为我编写了良好的规范以及测试用例和示例程序,这真的很好。LLMs 还使我更容易分享我的工作——可以在这里的 vibe 编码在线 REPL 中试用!实现 DEFLATE RC 主办了很多人讨论其项目的演讲。我早期参加的一个讲座是 Josh 关于 ZIP 文件格式的讨论以及他对实现之间不一致性的调查。它深入探讨了我从未考虑过的细节。例如,如果您的病毒扫描程序使用的解压程序对边缘案例的处理方式与您使用的解压程序略有不同,它可能会将一个包含恶意软件的文件视为无害,因为它没有解压病毒。这是一个安全漏洞!讲座中引起我注意的一部分是关于 zip 使用的压缩算法 DEFLATE 的旁述。Kevan 和我认为重新实现它听起来像个有趣的练习,因此我们在接下来的几周的几次会话中配对进行。DEFLATE 基本上是 LZ77(广义长度编码) + 哈夫曼编码。它以两种方式压缩文本(或实际上是任何字节序列,但在这里我们将其视为文本):(1)通过替换重复的序列和引用,例如“生存还是毁灭”可能变为“生存还是毁灭(13,5)”
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡