商品量化專題報告：如何利用Transformer~based模型對價格進行“天氣預報”.pdf

商品量化專題報告：如何利用Transformer~based模型對價格進行“天氣預報”。在上一篇報告中，介紹了如何利用 RNN 系列算法對價格進行單元單步預測，本文圍繞 多元長序列預測展開，嘗試實現類似于天氣預報的預測效果。RNN 系列算法具有較強長期 依賴性不適用于長序列預測，因此本文選擇具有超強信息提取能力的 Transformer 模型為 落腳點展開討論。然而由于 Transformer 模型存在過高計算復雜度這一瓶頸，因此本文從 近兩年頂會論文中挑選出三個基于 Transformer 的改良模型(Informer、Autoformer 和 FEDformer)分別進行了介紹和測試對比。

為測試模型的有效性和泛化能力，本文在 CU、IF 和 T 三個期貨品種的主力合約上進 行了測試。在測試中分別利用過去 20/40/60 個交易日的交易數據(開盤價、最低價、最高 價、成交量和收盤價)對三個合約接下來 5/10/20/40/60 個交易日的收盤價進行預測。經 預測發現，FEDformer 模型的預測結果幾乎在所有情況中都是最優的，MSE 和 MAE 最低達 到 0.028 和 0.129，價格時序信噪比較低，利用傅里葉變換將價格從時域轉換到頻域進行 預測不僅能更好地捕捉全局信息，還能過濾掉信號中的噪音。同時，使用小波增強模塊能 捕捉到頻率出現的時間信息，再次加強 FEDformer 模型對短序列的預測能力。

此外，我們還發現在輸入信息和輸出信息較短的情況下，過高計算復雜度對 Transformer 模型的負面影響并不大，在很多測試中，Transformer 的預測精度甚至高于 Autoformer 和 Informer 模型，但在穩定性和普適性上還是遜于 FEDformer 模型。