HydroGym流体动力学强化学习平台
主要的流体流动控制在多个万亿美金的行业中代表了一个关键挑战,包括运输(例如,航空航天、汽车、航运)、能源生产(风电场、燃气涡轮、管道)、制造(喷涂工艺、增材制造、薄膜和涂层)和医学(血流动力学、呼吸和淋巴系统)。先进的控制系统可以显著提高全球的能源效率,例如通过主动减少阻力在航空业中将燃油消耗减少多达15% ,或者通过协调控制将风电场的输出提高4–5% 。尽管在传统控制方法上经历了数十年的进展,但湍流的非线性、多尺度特性导致控制问题的高维性、非凸性和使用常规方法计算上不可处理。最近在强化学习(RL)方面的突破展示了其在日益复杂的科学应用中的变革能力,例如AlphaFold革命性地改变了蛋白质结构预测,而DeepMind实现了对聚变反应堆等离子体的实时控制。这些成功共享一个共同的推动力:基准环境,使研究获取民主化并加速算法创新。然而,由于基础计算和可访问性障碍以及缺乏系统性算法比较和可重复研究的综合基准平台,流体动力学在很大程度上仍然抵制类似的突破。有效的RL代理训练通常需要与环境进行数千或数百万次交互,而在流体环境中的每次评估都需要昂贵的计算流体动力学(CFD)模拟。这个瓶颈因无模型RL的内在样本低效性而加剧,为大规模流动控制问题创造了严重的计算限制。此外,流动控制研究目前正陷入特异性陷阱,即在特定流动条件下训练的控制器可能无法推广到不同的状态。在今天的大多数文献中,每个控制器都经过仔细调整,仅适用于单一几何、特定的操作点和独特的数值设置。在这些条件下,算法进步和严格比较几乎是不可能的,而控制策略在物理状态间的推广仍然是一个重大挑战。我们在HydroGym中解决了这些基本挑战——一个用于流动控制研究的强化学习平台。HydroGym为共同环境、接口和算法评估建立了急需的社区基础设施,允许竞争方法公平测试并扩展到日益困难的状态。我们的求解器独立架构提供了六十一种经过验证的流动控制环境,涵盖了从典型层流到先进的三维湍流场景和跨流动状态的雷诺数推进。该平台的求解器多样性帮助弥合流体研究的不同尺度:集成了成熟的基于Python的有限元选项以便于原型设计;高度并行的GPU加速的格子玻尔兹曼和有限体积求解器用于大规模流动;以及全可微分求解器以促进基于梯度的学习。图1显示了HydroGym的进展,从典型的低到中等复杂度的环境,到具有复杂三维几何和在高雷诺数和马赫数下完全湍流物理的高度挑战性环境。HydroGym平台具有几个重要的流动类别,包括不可压缩和可压缩的高雷诺数壁面湍流和机翼环境用于现实部署研究;隔离对流延迟和非局部耦合物理的冲击交互状态;强耦合可压缩流的发散喷嘴配置;以及用于高维驱动的多代理设置(请参见扩展数据图1以获取所有环境的可视化,扩展数据表1和表2以获取环境细节,包括雷诺数、自由度、控制目标等)。HydroGym共同建立了一个社区基础设施,以学习可转移的物理控制原则,这些原则在几何和流动状态间普遍适用,针对日益相关的现实世界系统。图1:HydroGym框架和环境路线图。a,应用于主动流动控制的RL范式,将流体求解器框架化为一个与RL控制器交换状态和动作的环境。b,HydroGym丰富的流动环境的视觉路线图,展示了框架提供的日益增长的物理和计算复杂性。该套件涵盖了计算上不昂贵的、用于快速原型设计的二维典型问题(左侧)到需要大量计算能力的复杂问题。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡