in

维纳过程

关键要点:

  • 维纳过程是任何实值、连续时间的随机过程,它本身也是连续变化的。它以诺伯特·维纳的名字命名。
  • 维纳过程用于表示白噪声高斯过程的积分,对于电子工程中的噪声模型非常有用。
  • 维纳过程在从电子工程到衍生品交易的各个领域中都有应用。一些金融模型直接假设市场价格变动服从布朗运动,因此维纳过程是研究和制定交易策略的自然手段。

什么是维纳过程?

对于大多数人来说,研究随机性似乎是个矛盾的说法。毕竟,随机性是混乱的,与法则般的行为完全相反,为了使某物易于解释,它必须具有法则般的行为特征。在探索随机性的过程中,人们应该从何处开始呢?

然而,世界似乎充斥着需要解释的随机性,不仅是我们出现之前就存在的自然世界,还有我们人类用自己的双手建造的技术世界。观察花粉颗粒在静水中的运动,或者尘埃颗粒在房间的空气中浮动。水是平静的。没有我们能够察觉到的力推动花粉四处运动,但它却在运动。更不用说它的运动方式如何以及为什么以其不安定和蹒跚醉酒般的步态,在无政府状态下却又令人着迷。

尽管计算机被认为是冷静且沉着的理性模型,但同样混乱的无法无天也渗透到计算机的大脑——半导体中。半导体是电子电路,因此在使用时电子会不断地流过它。随着使用强度的逐渐增加,它的晶体会发热,导致电子从低能量的价带跳到高能量的导带。当半导体中的电子离开某个位置并移动到另一个位置时,它们离开的位置被称为空穴。

诺伯特·维纳坐在他的办公室里。词语“控制论”首次由诺伯特·维纳使用,用于描述他所称的“无论是在机器还是动物中的控制和通信理论领域。”

©konrad jacobs,cc by-sa 2.0 de,通过wikimedia commons – 许可证

不可思议的是,半导体中空穴的运动和分布随时间的变化——正是电子本身运动的反向——与花粉在水中的运动模式相同。它们看起来都像是一团混乱的杂乱无章——然而,我们有责任去理解它。鉴于计算机在我们的世界中的核心地位,如果我们不理解它,那么我们的奇妙技术文明也将告别。

这种貌似混乱且狂暴的行为有一个名字。它被称为布朗运动,并且当观察到时,它似乎就像是坐在混乱边缘的刀刃上,既不是严谨有序的,也不是完全超出理解范围的狂野。很长一段时间,这种现象是一个谜。然而,逐渐地,人们开始理解它——而且,这听起来可能有些矛盾——以一种极其精确的方式理解。

一个伟大的数学工具使我们能够理解并描述和分析布朗运动及其各种表现形式。这个工具是由美国数学家、哲学家和控制论创始人诺伯特·维纳提供的,它被自然地称为维纳过程。因此,我们将尽力以最清晰的方式解释这个与随机性之谜息息相关的关键部分是如何被解开的。

然而,在我们开始之前,向所有读者特别说明:由于维纳过程是一个密集而技术性的课题,任何试图认真解释它们是什么、它们如何工作以及为什么了解它们有用的尝试,将不可避免地包含一些精确的形式陈述,这些陈述以数学符号的形式书写。为了使不熟悉纯数学的人受益,我们将尽力解释数学符号的每一部分,并定义每一个技术术语,只使用必要的数学符号来传达有意义的理解。对于那些希望查看这里提到的定理和其他陈述的正式证明的人,他们将有链接可以跟踪以满足他们的好奇心。

我们鼓励那些对数学符号感到害怕的读者坚持下去,因为维纳过程对于理解量子物理学、宇宙学、金融和电子工程等领域的重要主题非常重要。了解维纳过程也将为在这些其他领域的理解打开许多大门。

布朗运动也被称为混沌运动。

维纳过程:一个精确定义

维纳过程是任何实值、连续时间的随机过程,其本身连续变化。为了给出其精确定义,所有维纳过程wt具有以下特性:

  • w0 = 0
  • 对于所有t > 0,所有未来增量wt+Δt – wt,其中Δ > 0,都与过去的ws值(其中s ≤ t)无关
  • wt+Δt – wt ~ n(0, v)
  • wt在t上是连续的

也就是说,所有维纳过程的初始值为0;这些过程的过去值不会影响其价值的任何未来变化(这就是使这些过程具有随机性的原因);所有过程的增量都是高斯分布的,即它们遵循正态分布,具有均值为0和方差为v;并且该过程在连续时间内发生。

维纳过程如何工作?

概念讨论

为了清楚地解释什么是维纳过程,首先需要回到基础并解释一些更简单的概念以及它们在数学上的运用。首先,一个过程是从某个时间0开始到某个时间t结束的一系列事件,它从某个初始值开始并以某个最终值结束。时间可以是离散的 – 也就是说,它可以从t1跳跃到t2之间没有任何中间值 – 或者可以是连续的 – 也就是说,沿着一个完全平滑的梯度移动。在连续过程中,符号Δ用于表示时间或过程值的任意小变化。因此,例如,符号t+Δt表示时间连续地从t点向前移动。过程中的先前事件可能会影响未来事件的结果。

理解随机过程的下一个重要概念是随机过程。简而言之,随机过程是任何后续状态不受其过去状态影响的过程。任何给定未来状态发生的概率不会随过程的过去状态而变化。未来状态只是它们自己,应该与过去状态隔离开来处理。

因此,例如,从罐子中取出不同颜色的弹珠,放在罐子外面,然后再次选择不是随机过程,因为每当您取出某种颜色的弹珠时,您会稍微降低下一次取出相同颜色的弹珠的概率,并稍微增加取出不同颜色的弹珠的概率。然而,如果在每次随后的选择之前将您选择的每个弹珠放回罐子中,结果是随机过程。

在口语中,随机过程只是一个随机过程。这个概念在不同应用领域有广泛的应用,涉及到从细菌种群增长的研究到电流流动分析的一切。

在理解维纳过程的路径上吸收的下一个重要概念是高斯过程。为了理解应用数学中的高斯过程,首先需要解释一些次要概念。其中最重要的是正态分布。正态分布是概率论中一个广泛而复杂的主题,对科学和技术的许多领域都有无数的应用,我们不需要在这里详细讨论它。对于我们的目的来说,只需注意到,如果绘制连续变量x的值的概率分布形成一个钟形曲线形状,则称其为正态分布。正态分布的公式为:

f(x) = (1/σ√2π)e-1/2[(x-μ)/σ]2

e和π代表它们在纯数学中通常代表的两个数字,σ是分布的标准差,μ是分布的平均期望值。为了使事情尽可能直观,可以将标准差视为变量离平均值的离散程度的度量。方差这个术语也是指标准差的平方。

因此,在本文中,当我们提到正态分布时,我们将使用符号n(μ, v),其中μ是均值,v是方差。因此,gt ~ n(μ, v)表示某个变量gt服从均值为μ,方差为v的正态分布。

接下来,我们必须解释线性组合是什么。假设你有一些值集合(g1, g2,… gn)。假设你还有一些常量集合,可以是实数或复数(a1, a2,… an)。因此,(g1, g2,… gn)和(a1, a2,… an)的线性组合是(a1g1+a2g2+…angn)。你还可以将这两个集合的任意子集合并为更小的线性组合。

将所有内容综合起来,我们可以将高斯过程定义为(g1, g2,… gn)中的任何随机过程,其中(g1, g2,… gn)的有限、实值线性组合的值本身服从正态分布。应用数学中的高斯过程的概念不仅用于一维过程,还可以扩展到任意维度。

我们必须定义的最后一个重要概念是李维过程。李维过程以法国数学家paul lévy命名,具有以下附加属性:

  • l0 = 0
  • 对于所有的时间0≤t1<t2<…tn<∞,过程lt2-lt1,lt3-lt2,…ltn-ltn-1的所有增量彼此独立
  • 对于任意的s<t,lt-ls和lt-s有相同的概率分布
  • 对于任意的ε>0和任意的t≥0,当h趋近于0时,概率(|lt+h-lt|>ε)的极限是0

第一个属性意味着所有的李维过程都从0开始。第二个属性意味着李维过程在任何给定时间点的每个增量的值不会影响任何其他时间点的增量的值。

第三个属性通常被描述为李维过程具有平稳增量,大致意味着它们的值的变化仅取决于每个观测所占据的时间段,而不取决于开始观测的时间。第四个条件的基本思想是,每当索引时间的集合收敛到某个值时,该过程的概率分布也会收敛到该值——也就是说,随着时间越来越接近过程中的平滑梯度移动,过程的概率分布也越来越接近在平滑梯度中变化。

要理解布朗运动背后的物理直觉,请观看此视频。

我们刚刚进行的对数学思想的相当彻底的探究虽然需要读者的注意力,但有两个重要的优点。首先,它应该已经完全揭示了在上述对wiener过程的定义中给出的数学公式和符号的神秘性。前面的讨论应该使您对wiener过程有一个相对准确的理解。当我们将注意力转向其实际应用时,这将使我们能够更深入地认识和欣赏该概念的实际效用。

其次,现在我们已经定义了所有上述概念,我们可以从一个不太明显的角度看待wiener过程,如果只是仔细研究其正式定义,这一点是不明显的。一旦认识到这一点,这个新角度就会传达出更深刻的洞察力。而这个新角度是:wiener过程可以被看作是既是高斯过程又是levy过程的任何东西。它是一种具有这两种属性的特殊类型的连续时间随机过程。

原始定义中的第二点暗示了wiener过程也是一个levy过程;而定义的第三部分最好地揭示了它的高斯特性。

wiener过程概念的起源

然而,尽管对wiener过程的一些纯数学基础进行了仔细解释,但整个问题似乎仍然显得相当干燥和抽象。好奇的读者可能想知道wiener过程在实际运作时是什么样子。然而,要解释这一点,我们必须回到过去,讲述布朗运动的发现的故事,以及如何最终解决了它带来的问题。这样做将揭示出是什么激发了norbert wiener提出wiener过程概念以及他是如何做到的。

人们对布朗运动的认识已有数千年的历史,早在它被称为布朗运动之前。事实上,罗马诗人卢克莱修斯在他的《论自然之事》中的一段特别生动的描写中,描述了尘埃颗粒在空气中的运动方式,对现代人来说,这听起来非常准确。由于卢克莱修斯也相信原子的存在(对他来说,原子是物质的基本不可分割的粒子,不是我们今天所知道的原子),他利用他对布朗运动的观察来论证它们的存在-这是对阿尔伯特·爱因斯坦在之后的研究中将它用于精确用途的非凡预示。

我们故事的下一个重要章节发生在1827年,当时苏格兰植物学家罗伯特·布朗在研究美丽克拉克(clarkia pulchella)的花粉时,取了一些花粉并将其放入水中,以便能够更好地在显微镜下观察。令布朗感到恼火的是,花粉一旦悬浮在水中就无法保持静止。通过用一些无机物微小颗粒重复实验,布朗成功推翻了导致这些颗粒抖动行为的假设与生命本身有关的观点。然而,没有人知道是什么导致了这种行为,所有人都对如何对其进行建模一筹莫展。

尽管如此,罗伯特·布朗已经引起了科学界对这个奇特小异常的关注,并以他的名字命名它-布朗运动。

几十年后,阿尔伯特·爱因斯坦(albert einstein)登上舞台并首次真正尝试解开这个谜团。爱因斯坦在他1905年的三篇开划时代的论文中,其中一篇专门研究了布朗运动。在这篇论文中,他的核心洞察力来自统计力学这一学科。

在经典力学中,最常与艾萨克·牛顿(isaac newton)及其工作相关联,物体及其物理动力学是单独描述的。质量、电荷、力、动量等属性是单独赋予物体的,并且具有特定的值。然后,借助经典力学的方程和公式,只要我们知道物体相关属性的初始值,就可以绘制出每个物体的精确物理行为。

这听起来都很好,但是当它必须处理包含大量或者甚至不那么大的物体时,这种方法会遇到无法克服的问题。简言之,方程的复杂性会迅速增长到难以理解的水平。事实上,正如三体问题所示,即使是使用牛顿的运动和引力定律描述三个天体的运动,只要给定一些初始条件,也超出了经典力学的范畴。如果不能精确描述三体的运动,那么使用它来绘制亿万亿个气体粒子的行为又是多么不切实际的任务啊?

因此,当统计力学的奠基人们将注意力转向解释气体粒子的行为时,他们意识到经典力学的方法是徒劳的。因此,他们决定重新定位问题。他们决定不再解释每个气体粒子的行为 – 这是一项难以想象的任务 – 而是决定使用统计学来描述这些粒子的集体、群体级别的特性。

布朗运动可以用一个简单的python脚本来模拟,如上所示。

因此,爱因斯坦意识到准确数学描述布朗运动的关键在于统计学和概率论。他推测罗伯特·布朗的花粉之所以以奇特的方式行为,是因为移动的花粉粒子不断与移动的水分子发生碰撞。这些碰撞产生了观察到的运动。爱因斯坦关于这个问题的理论的复杂性 – 这个理论在1908年得到了实验证实 – 在这里不必使我们担心。需要理解的主要是这是一个统计理论。

诺伯特·维纳开始进一步完善和形式化布朗运动理论背后的数学。由于花粉在水中的行为是随机的,维纳理解到无论布朗运动是什么样的过程,它必须是一种随机过程。他进一步认识到这种随机性意味着过去任何给定时间水中的花粉粒子的分布对于预测它们未来的位置没有帮助 – 这导致他利用了里维过程的数学。最后,他认识到由于布朗运动是一种自然发生的过程,高斯正态分布的数学可以在理解它方面提供很大帮助。考虑到正态分布几乎出现在自然界的任何地方 – 从各种动物的寿命到人类的身高、智商、记忆力和阅读能力的分布 – 如果正态分布也隐藏在布朗运动的背后,那就不应该感到惊讶。

这样,维纳过程概念的所有基本构建块都就位了。维纳只是将它们全部整合在一起。但是,他试图精确解释一个晦涩的自然奇观的努力,结果对超越了一些水和一些花粉的事物产生了令人惊讶的实际影响。

维纳过程概念的应用和应用

维纳过程在从电子工程到衍生品交易的各个领域中都有应用。一些金融模型直接假设市场价格波动是布朗运动,因此使用维纳过程来研究它们并制定交易策略是很自然的。市场的随机漫步模型也隐含地依赖于维纳过程,因为可以将随机漫步近似为维纳过程。

查看此 python 脚本的代码还显示,寻求为任何目的模拟布朗运动的计算机必须依靠随机漫步来实现。这是因为计算机逻辑是离散的,因此只能近似维纳过程的真实连续性。

由于电子在半导体中按照维纳过程移动,没有它们将无法构建高效 – 甚至无法正常工作 – 的半导体。

维纳过程的真实世界例子

由于维纳过程只是与布朗运动表现相同的任何行为,因此在出现布朗运动的任何地方都会发生维纳过程的真实世界例子。这些包括:

  • 罗伯特·布朗观察花粉时观察到的原始布朗运动
  • 水分子本身的运动
  • 尘埃或污染物在空气中的扩散
  • 电子(或空穴)在半导体的价带和导带之间的移动
  • 股票、债券、外汇、商品或其他金融市场的行为 – 至少根据某些模型
  • 钙在骨骼中的扩散
  • 细胞中等离子体的运动

Written by