WordPress方糖無錫網(wǎng)站建設優(yōu)化公司
天馬行空的理解與思考方式：分數(shù)階傅里葉變換與信息熵怎么用于信號處理？
ChiX-Y
快速學習，快速嘗試，快速失敗
已關注
35 人贊同了該文章
這篇文章希望能寫的有趣，同時有質量，學習就是要多維度多角度！
信息熵怎么用于各類信號處理？（信號特征提取？信號識別與分類？）
一.什么是信息熵？
熱力學中的熱熵是表示分子狀態(tài)混亂程度的物理量，而信息熵的概念是用來描述信源的不確定度的；信息論之父香農(nóng)曾在論文中提出“任何信息都存在冗余，冗余大小與信息中每個符號（數(shù)字、字母或單詞）的出現(xiàn)概率或者說不確定性有關?！毕戕r(nóng)借助熱力學概念，把信息中排除了冗余后的平均信息量稱為“信息熵”。
通常，一個信源發(fā)送出什么符號是不確定的，衡量它可以根據(jù)其出現(xiàn)的概率來度量。出現(xiàn)的概率大，則不確定性小，所提供的信息量就少；反之不確定性就大。
根據(jù)以上定義和描述，可以得到不確定性函數(shù)應具有的兩個條件：
①不確定性函數(shù)?f?是概率?p?的減函數(shù)；②兩個獨立符號所產(chǎn)生的不確定性應等于各自不確定性之和，即?f(p1,p2)=f(p1)+f(p2)?,這是不確定性函數(shù)的可加性。
同時滿足以上兩個條件的函數(shù)?f?是對數(shù)函數(shù)，即?f(p)=log1p=?log(p)
在信源中，考慮的不是某一單個符號發(fā)生的不確定性，而是要考慮這個信源所有可能發(fā)生情況的平均不確定性。若某個信源可以出現(xiàn)n種符號來傳遞信息：?U1...Ui...Un?，對應的概率為：?p1...pi...pn?，且各種符號的出現(xiàn)彼此獨立。這時，信源的平均不確定性應當為單個符號不確定性??log(pi)?的統(tǒng)計平均值（E），稱為信息熵，即?H(U)=E[?log(pi)]=?∑i=1npilog(pi)
上式中的對數(shù)一般取2為底，單位為比特。
離散的信源信息熵具有：①非負性 ②對稱性 ③確定性 ④極值性
二.分數(shù)階傅里葉變換
為了能讓信息熵更好的在信號處理中派上用場，需要先學習一種更高級的信號處理數(shù)學工具
分數(shù)階傅里葉變換
這里真的很想吐槽一下，網(wǎng)上關于分數(shù)階傅里葉變換的學習資料真的是蠻少的，很多“大佬”對于這個數(shù)學方法的描述就是列出來一大堆復雜而又難懂的數(shù)學公式，看懂了數(shù)學公式，理清了推導過程也只是“知其然，而不知其所以然”，所以承擔著掉幾根頭發(fā)的代價...我想到了一種以圖像來理解分數(shù)階傅里葉變換本質思想的方法，這將有助于后續(xù)的信號處理應用。當然，如果有數(shù)學系大佬指出其中理解不妥的地方，那真的非常感激！
我們不著急從這個復雜的數(shù)學方法入手，作為一個基本的工科生，我們一定是學過傅里葉變換的，如果你在平日的學習中習慣于思考，那么你一定會記得傅里葉變換就是在“幫助我們換個角度看世界”。
“世界變化無常，可換個角度，或許只是已經(jīng)寫好的樂章?！?/strong>
傅爺爺告訴我們，任何周期函數(shù)（非周期函數(shù)需要無數(shù)個），都可以由許多不同振幅，不同相位的正弦波疊加而來。我們看一下下面這一張來自維基百科的圖。
最前面那條黑色的函數(shù)曲線（矩形波），可以由后面多條正弦曲線疊加而成，這些依不同顏色排列而成的正弦曲線就是組合成為矩形波的各個頻率分量。細心的你可能發(fā)現(xiàn)中間有一些直線，這些直線是振幅為0的正弦曲線，這就說明為了組成不同的曲線，有些頻率成分是不需要的！
OK，既然我們已經(jīng)回憶了一般的傅里葉變換做了什么事情，那我們接下來就可以想一下，一條時間維度上的信號曲線到底換了怎么樣的角度而到了我們想要頻域空間呢？？必須要天馬行空的想想，這對于幫助我們理解分數(shù)階傅里葉變換有著至關重要的作用！
我們看下面這張圖：
一開始，我（ChiX-Y）站在垂直時間軸而平行于頻率軸的方向，這個時候我看到的就是那一條紅色的曲線（它由后面許多不同頻率成分的正弦波疊加而成），從這個角度看到的紅色曲線其實就是時間域上的信號曲線了，ok，那么我要換什么角度才能夠看到頻域世界里這條曲線的模樣呢？我想你們一定已經(jīng)想到了，對，就是逆時針旋轉90°以后，從側面方向來看這一天紅色曲線！！！（如下圖）
我走到上圖中的這個角度以后，我看到各個頻率成分的正弦曲線就是一條條平行于Z軸的豎線，而此時的橫軸是頻率軸，怎么樣？熟悉嗎？這不就是我們一直以來求的頻譜嗎！！！
所以我們完全可以這么去解釋傅里葉變換：信號的Fourier變換可以看成將其在時間軸上逆時針旋轉 π/2到頻率軸上的！換句好理解的話來講，信號的Fourier變換就是從時間軸角度轉了90°到頻率軸上來看到的新世界！
OK，既然我想到了以這么一種立體而又形象的角度去看待傅里葉變換，那么接下來的分數(shù)階傅里葉變換就容易解釋了！
所謂的分數(shù)階傅里葉變換就是換更多的角度去看待問題，怎么解釋？
就是我在從初始位置走向90°方位的時候，并不是一次性的就走過去了，而是每走一定的角度就停下來看一看我們在當前角度下能夠看到紅色信號曲線的什么特征與特性，并記錄每個角度下“頻率域”的頻譜，這么做是因為大部分的信號都是非平穩(wěn)信號，僅僅用傅里葉變換不足以分析其顯著的特征，運用分數(shù)階傅里葉變換主要是能選取信息最集中的角度去分析。
大家想想，分析問題的角度越多，是不是解決問題的方法就越完善呢？
到這里我希望大家是能夠理解了我分析這個數(shù)學方法的角度，也希望各位能夠從復雜的數(shù)學公式中跳脫出來，真正理解了分數(shù)階傅里葉變換到底做了什么事情，做到了這一點，讓我想到了利用信息熵來做信號處理的一種思路！
三.信息熵+分數(shù)階傅里葉變換->信號處理
如果理解了前文我所寫的全部內容，那么接下來這個信號處理的思路就真的很簡單了，算是自己的一些想法吧，我拿心電信號來舉例子：
（1）采集一段心電信號并做預處理，獲得信號d
（2）對信號d進行n個階次（n個角度，大家懂的！）的分數(shù)階傅里葉變換，從而進一步得到每一個階次變換的幅度譜?Fi
（3）對幅度譜?Fi歸一化后，計算每一個幅度譜的信息熵，n個階次對應n個信息熵，從而得到一個n點長的向量[E1,...,Ei,...,En]，這個向量就可以作為心電信號所提取的特征，然后進一步用于算法的學習與信號分類。
這樣的思路我認為有兩個優(yōu)勢：第一是從更多的角度去提取信號的特征，使得信號特征更為豐富與全面，能夠提升對信號分類與識別準確率；第二是利用信息熵有效緩解了角度過而導致的特征過于復雜的問題，因為一個角度的信息熵只有一個值哦！
四.有趣的感悟
我們眼中的世界就像是一條條時域中的曲線，變換多端，毫無規(guī)律，難以預測......但或許真的存在一種角度，能夠看到其實我們的世界真的沒有那么復雜，它只是一場已經(jīng)安排好的音樂會，每一個音符都已經(jīng)注定會出現(xiàn)，就像是頻譜中一條條平行于Z軸的直線，簡單清晰。
編輯于 2021-08-13 12:25