第4章 隱秘

  隱地，一個充滿危險的地方，一個老人站立其中，卻絲毫不害怕，吩咐著身邊一位少年，將幾個藍色晶體擺在地上。

  晶體之間憑藉著一股奇妙力量相互聯繫，慢慢亮了起來，卻泛著墨綠的色澤，緊接著藍色晶體碎裂，墨綠光芒四射，從中出現了一個少年。

  少年名叫方閒，一副十五六歲的模樣，似乎剛剛甦醒的樣子，揉了揉眼睛，看著這陌生的地方，有點茫然。

  方閒看向老人，還未開口說話，一聲咆哮從不遠處傳來，巨大的身軀逐漸出現，

  信息是通過一個「門」結構來進行添加和刪除的，這個「門」結構被訓練用於學習保存或忘記什麼信息，在LSTM中這個結構極其重要。LSTM 有三種類型的門結構：遺忘門、輸入門和輸出門，三種門都有權重向量和偏置項，並設置了sigmoid函數，隨後三種門將結合它們處理信息數據，通過計算向量得到新向量數據信息，以此保證LSTM對信息的更新、傳遞與分析。

  門結構中包含著sigmoid激活函數。Sigmoid激活函數被用於調節流經網絡的值，作用類似於tanh函數，只是sigmoid函數將數值調節到0和1的範圍內，而不是將其壓縮成-1和1之間的值。

  對現存的氣溫預測模型進行分析後，將以LSTM算法為基礎，針對氣溫數據非平穩性這一點問題，採用EMD方法進行處理，消除時間序列數據上非平穩性的影響，對LSTM算法進行改進，建立EMD-LSTM模型預測，對模型預測效果進行分析評價。

  設置sigmoid函數對於數據信息的處理很有幫助，它有助於更新或忘記信息，因為在數學上，0乘以任何數得到的結果都是0，這樣處理後該信息將被刪除，同樣地，任何數乘上1得到的都是其本身，這個信息就會被完美地保存下來。所以，通過sigmoid函數網絡就知道該忘記哪些數據，該保存哪些數據。

  為了進行預測，取定時間尺度範圍，以2011-2019年為範圍，選取9年內3248個數值按照時間順序排成數據序列，為之後的EMD分解和LSTM預測做好基礎。

  遺忘門的功能是對信息進行棄或留的判斷。當信息在網絡中流通時，LETM依靠遺忘門中一系列的內部運算操作，對數據信息有選擇能力，可以選擇哪些信息應該被保留。遺忘門首先要調整內部狀態，然後通過自循環連接將其作為輸入數據添加到細胞中，從而自適應地遺忘或重置細胞的記憶。

  遞歸神經網絡（RNN）是一種可用於預測時間序列的神經網絡，RNN的內部狀態可以展示動態時序行為，依靠其強大的計算能力可以處理大量數據，應用於對大量氣溫數據的處理時，RNN由於數據序列過長，會忘記在較長序列中看到的信息內容，會導致網絡具有短時記憶，而短時記憶存在的問題在研究氣溫預測上並非最好的選擇，而且憑藉內部的記憶，對任意時序的輸入序列可以遍歷所有序列並進行分析，處理後保存狀態在網絡中傳遞。