卷積應該是一個(gè)很容易理解的概念。如果從純粹數學(xué)上講,可能不容易,但把物理聯(lián)系起來(lái),就容易了。
在振動(dòng)學(xué)中有一個(gè)著(zhù)名的杜哈美積分 (Duhamel"s Integral),講的是對于受迫振動(dòng),我們可以將強迫力時(shí)程分解為一系列的脈沖的疊加,如果已知系統在單個(gè)脈沖下的響應,并注意到 s 時(shí)刻的脈沖只對時(shí)間 t >s 的響應有影響,那么整個(gè)系統在 t 時(shí)刻的響應就等于所有 t 時(shí)刻以前的脈沖各自單獨作用下的疊加。因為采用了疊加原理,系統必須是線(xiàn)性的。
用 h(u) 表示系統在單位脈沖作用下 u 時(shí)刻的響應。那么 s 時(shí)刻的脈沖在系統 t (t >s) 時(shí)刻產(chǎn)生的影響就等于 h(t-s),將所有s(=0~t) 加起來(lái),就得到整個(gè)系統在 t 時(shí)刻的響應。對于離散時(shí)間,就是相加;對于連續時(shí)間,變成積分。
這是一個(gè)工科學(xué)生對卷積的簡(jiǎn)單理解。
卷積應用于很多學(xué)科,下面簡(jiǎn)單講兩個(gè)在概率論中的應用:。
一個(gè)是隨機變量的和,另一個(gè)是更新過(guò)程中的更新定理。
1 隨機變量的和
兩個(gè)隨機變量的和的概率分布,可以表達成一個(gè)卷積積分。n 個(gè)隨機變量的和的概率分布,就是 n 重卷積。
2 更新過(guò)程中的更新定理
更新過(guò)程中一個(gè)比較棘手卻非常重要的量,是在給定時(shí)間內事件發(fā)生數的平均值 E[N(t )],它也可以表示成它自身與更新間隔時(shí)間的概率密度函數的卷積,推導方法和前面強迫振動(dòng)是一樣的。不過(guò),這個(gè)時(shí)候人們通常叫它 II 型 Volterra 積分方程。為什么要用一個(gè)新名詞呢?如果借用前面振動(dòng)學(xué)的概念,是因為這個(gè)時(shí)候脈沖響應函數和響應函數是同一個(gè)函數。
前面幾位大俠似乎沒(méi)有講到一個(gè)問(wèn)題,即如何處理卷積。實(shí)際上,我們很少直接求解卷積。很多時(shí)候,我們發(fā)現,用 Fourier 或 Laplace 變換是一個(gè)更為簡(jiǎn)單的辦法。這主要是因為,采用變換后,卷積變成了代數乘積。在振動(dòng)學(xué)中,脈沖響應函數的變換改稱(chēng)為頻響函數,而在概率論中,概率密度函數的 Fourier 變換稱(chēng)為特征函數,Laplace 變換稱(chēng)為矩生成函數。對于離散時(shí)間(時(shí)間 序 列 )
或 離 散 隨 機 變 量 , 我 們 多 采 用 它 們 的 生 成 函 數 (generating function),在信號處理中,又叫 z 變換。
正是因為采用了 Fourier 變換,中心極限定理的證明成為一件不是那么難的事情。
嚴格數學(xué)的解釋?zhuān)ù嬖谛裕?,請讀曹大俠之大話(huà)卷積。
積 大話(huà)卷積
關(guān)于卷積的背景問(wèn)題其實(shí)并不那么簡(jiǎn)單,有人覺(jué)得卷積與傅里葉分析密切相關(guān),可你是否知道他們之間到底是什么關(guān)系?卷
積的本質(zhì)到底是什么?在這里從數學(xué)的角度展示卷積的強大威力。
要了解卷積的本質(zhì),首先要清楚傅里葉分析到底在說(shuō)什么?它的核心問(wèn)題是什么?傅里葉級數大家耳熟能詳,不需要我啰嗦了,然而你對傅里葉級數了解到何種程度?如果你僅僅局限于微積分里那點(diǎn)可憐的概念,恐怕你連傅里葉級數的毛也沒(méi)摸著(zhù),你只是知道了傅里葉級數的簡(jiǎn)單定義而已。
要想真正了解傅里葉級數,就必須熟悉實(shí)變函數,因為在傅里葉分析中,一個(gè)最基本也是最重要的問(wèn)題是:
傅里葉級數是否? 收斂?按什么方式收斂?
這個(gè)問(wèn)題在微積分里是無(wú)法搞清楚的,事實(shí)上,即使是一個(gè)連續函數,其傅里葉級數也可能在某些點(diǎn)發(fā)散,我們甚至可以構造出 Riemann 可積函數,其傅里葉級數是處處發(fā)散的。如果你辛辛苦苦把一個(gè)函數展開(kāi)成傅里葉級數,卻發(fā)現它并不收斂,其內心是一種什么感受?大概如同從沒(méi)有電梯的二十層樓上屁顛屁顛地跑下來(lái)卻發(fā)現沒(méi)帶汽車(chē)鑰匙。眾所周知,Riemann 可積函數是一種性質(zhì)比較好的函數(相對于積分區間幾乎處處連續,啥叫幾乎處處?微積分是不能告訴你的,想知道嗎?老老實(shí)實(shí)跟我學(xué)實(shí)變函數),即使是這樣的函數都不能保證傅里葉級數的收斂性,可見(jiàn)問(wèn)題有多么嚴重。傅里葉分析是門(mén)比較古老的學(xué)問(wèn),但其中存在的許多問(wèn)題直到上個(gè)世紀中葉依然是大家關(guān)注的話(huà)題,也正
是傅里葉分析中存在的諸多問(wèn)題懸而未決,促使人們尋求新的方法,這正是泛函分析的萌芽之一。
賣(mài)了半天的關(guān)子,到底想說(shuō)啥?稍安勿躁,一點(diǎn)耐心都沒(méi)有我還怎么講?我們就從收斂性問(wèn)題說(shuō)起,假設 f 是以 2π 為周期的可積函數(以什么為周期不是最重要的),其傅里葉展開(kāi)為:
也可以寫(xiě)成指數形式:
其中,
俺無(wú)法寫(xiě)出積分上下限,反正你們都知道是個(gè)長(cháng)度為 2π 的積分區間,現在的問(wèn)題是如何判斷右端的級數是收斂的。
知道這叫什么吧?它稱(chēng)為級數的部分和,我們的目標是把這個(gè)部分和表示出來(lái),以便于判斷該部分和是否收斂。試圖把這個(gè)
級數的和求出來(lái)是徒勞的,你能做到的話(huà),天下就是你的了,不過(guò),我們可以把系數的積分式帶進(jìn)級數,將得到:
還記得三角公式吧?知道方括號里的和怎么求嗎?如果不會(huì ),你還有機會(huì ),用指數形式的級數再試一次:
最后,這個(gè)和式會(huì )算嗎?如果還不會(huì ),你就剩下一個(gè)機會(huì )了,用你那聰明的腦袋對著(zhù)南墻狠狠撞他十二下,就能喚起你中學(xué)時(shí)代的美好記憶了。
則
明白為什么要定義卷積了嗎?
現在的問(wèn)題就變成了判斷上述積分是否收斂到 f(x ),事情似乎變得簡(jiǎn)單了,令人無(wú)奈的是,上述積分未必收斂到 f(x )!那么,什么樣的函數具有收斂的傅里葉級數呢?按何種方式收斂?這個(gè)問(wèn)題暫且放在一邊,我們知道很多情況下不收斂就夠了,因為要說(shuō)清楚這個(gè)問(wèn)題的話(huà),需要超出經(jīng)典微積分的范疇。如此說(shuō)來(lái),對于傅里葉級數不收斂的函數豈非無(wú)能為力?人類(lèi)就是偉大,有的是辦法,S_k(x )不收斂,可以考慮部分和的平均,結果令人喜出望外,部分和的算術(shù)平均居然幾乎處處收斂!這個(gè)算術(shù)平均是什么呢?再來(lái)算一次。
將 D_k(x ) 帶入可以算出
于是
我們再次得到了一種卷積,Fejer 定理告訴我們,上述積分幾乎處處收斂到 f(x )。
人們將 D_k 稱(chēng)為 Dirichlet 核,將 F_m 稱(chēng)為 Fejer 核,上述卷積又稱(chēng)為帶核的積分。事情到此結束了?非也,這才僅僅是開(kāi)始,一門(mén)影響深遠的理論—積分算子理論從此拉開(kāi)了帷幕。