马尔可夫链的熵
克劳修斯(1865)¹ 定义了一个称为熵的量。通过将物理过程分解为一系列引擎,他表明在不可逆过程中熵总是增加。对于诸如卡诺理想引擎等可逆过程,熵的变化为零。但是当发生不可逆过程时,除非对系统施加能量,否则熵永远不会减少。这被称为热力学第二定律。尽管熵本身不能用温度计或尺子来测量,但它仍然是一个有用的概念,因为我们可以从中计算出可直接测量的导出量。我之前曾模糊地谈到过 '生命就是熵' 的想法。这是一个受到薛定谔(1944)² 启发的概念,通过否熵的概念。通过否熵,生命似乎通过吸收周围的能量来维持秩序,并降低其局部混乱。但是到目前为止,我对这在细节上实际意味着什么感到困惑。因此,我尝试通过模型来理解这一点。一种方法可能是制作玩具模型,然后找出一种在这些系统中定义熵的数学一致的方法。然后,你可以模拟该模型,更好地了解熵是如何演变的。一个有助于获得直觉的玩具模型是戴森的细胞玩具模型。戴森的细胞玩具模型是一个马尔可夫链,最终稳定在三种平衡状态之一,其中两种是 '生命' 和 '死亡' 状态。但如果我们关心 '生命就是熵' 这一模糊概念,那么我们应该能够为马尔可夫链制定熵的定义。但是克劳修斯最初定义的熵是一个与功和温度的函数 \\( ext{d}S = rac{ ext{d}Q_{ ext{rev}}}{T} \\) ,因此不清楚如何将这两个概念联系在一起。在马尔可夫链的上下文中是否有另一种方法定义熵,以便得到相同的结果,并与物理思想一致?一种方法是通过考察玻尔兹曼的工作,他量化了熵与系统中可能状态数之间的关系。假设你取一个系统,然后用各种仪器观察系统的状态变量,比如温度、压力和体积。显然,存在许多与该状态兼容的物理系统的不同配置。如果熵与秩序和无序的概念相关,那么如果可能状态更多,则熵也会更高。这里是一个模糊的例子。如果你有一个绝对零度的完美气体分子,固定在位置上,每个分子的速度为零,你就有更少的可能性使该系统处于该状态。而如果我们有一个热气体在高温下,那么由于状态的结果,可以有许多配置。温度更高,熵也更高。可能状态数量增加是否只是巧合?事实证明,有一种方法可以使这些想法严谨起来。玻尔兹曼表明,熵可以写成在固定宏观状态变量的情况下,一个系统可以处于多少状态的函数。这意味着如果我们能计算出在固定温度、压力和体积下,系统中所有可能的状态数量,那么我们就可以计算熵。这在下面的传奇方程中写出,也出乎意料的简单——一个系统的熵是状态数的对数,乘以一个称为玻尔兹曼常数的固定常数。\\( S = k_B ext{ln} W, \\ W = ext{与宏观状态一致的微观状态的数量}\\) 尽管结果简单,但却完全不是显而易见的。玻尔兹曼创建了一个气体模型,其中每个粒子只能处于有限速度和位置的集合中,然后尝试进行极限处理。证明并不简单,数学家们仍在试图正确地严格化玻尔兹曼的工作。无论如何!为了使这个例子更加具体,假设我们计算一个基本系统的熵,前提是我们知道能量(宏观状态)是什么。考虑居里的磁铁模型。在这个模型中,我们的物理空间由有限数量的电子组成,电子可以是向上自旋或向下自旋。在磁铁模型中,当自旋与放置金属的磁场方向不对齐时,就会产生能量(或功)。因此,这表明如果我们有一组原子,能量与有多少原子处于向上自旋和向下自旋有关。\\( E = n_ ightarrow - n_ ightarrow \\) 好吧,假设我们有一个非常非常小的5个原子的系统。假设我们测量的能量为E = 1。首先,我们需要弄清楚有多少个原子需要向上自旋和向下自旋才能实现这种配置。显而易见的答案是三个向上自旋和两个向下自旋,因为\\( E = 3 - 2 = 1 \\) 我们还可以通过使用约束简单地解决这个问题
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡