12.4. Mạng nơ-ron chuỗi thời gian
1. Bản chất học thuật và cấu trúc toán học
Trong phạm vi của chương Hệ phương trình đồng thời, hệ cầu, kinh tế lượng Bayes và học máy, nhóm phương pháp Mạng nơ-ron chuỗi thời gian giải quyết các bài toán thực nghiệm đòi hỏi đặc tả chính xác quá trình sinh dữ liệu và kiểm soát chặt chẽ cấu trúc sai số (Greene (2019); Wooldridge (2010); Cameron & Trivedi (2022); Hansen (2022)). Các mô hình trong nhóm 12.4 cùng dựa trên hệ thức cấu trúc nền tảng tại phương trình (1) (Coulombe, Leroux, Stevanovic & Surprenant (2022); Diebold & Mariano (1995)):
$$f_t = \sigma(W_f X_t + U_f h_{t-1} + b_f), \quad c_t = f_t \odot c_{t-1} + i_t \odot \tanh(W_c X_t + U_c h_{t-1} + b_c), \quad h_t = o_t \odot \tanh(c_t) \tag{1}$$
Phương trình điều kiện ước lượng và tối ưu hóa của nhóm phương pháp này được xác định tại công thức (2):
$$\hat{\theta}_{\text{SYS}} = \arg\min_{\theta \in \Theta} g_N(\theta)^\top \left(\hat{\Sigma}^{-1} \otimes P_Z\right) g_N(\theta), \quad p(\theta \mid Y, X) \propto L(Y \mid X, \theta)\,\pi(\theta) \tag{2}$$
Sự khác biệt giữa 1 mô hình từ 12.4.1. Mạng bộ nhớ dài–ngắn hạn dự báo chuỗi thời gian (LSTM) đến 12.4.1. Mạng bộ nhớ dài–ngắn hạn dự báo chuỗi thời gian (LSTM) nằm ở giả định về phân phối của thành phần nhiễu, cơ chế nội sinh và ma trận trọng số ước lượng (Coulombe, Leroux, Stevanovic & Surprenant (2022); Diebold & Mariano (1995); Greene (2019); Wooldridge (2010); Cameron & Trivedi (2022); Hansen (2022)).
2. Bảng đối chiếu các mô hình trong nhóm
Bảng dưới đây so sánh trực tiếp bản chất kinh tế lượng, câu lệnh thực thi trên ba phần mềm và kiểm định chẩn đoán của từng bài học trong nhóm 12.4:
| Mã mục | Tên mô hình | Bản chất kinh tế lượng | Cú pháp ước lượng chuẩn (Stata 18 · R 4.x · Python 3.11+) | Kiểm định chẩn đoán bắt buộc |
|---|---|---|---|---|
| 12.4.1 | Mạng bộ nhớ dài–ngắn hạn dự báo chuỗi thời gian (LSTM) | Mạng hồi quy có cổng nhớ dài–ngắn hạn (LSTM) huấn luyện theo cửa sổ trượt thời gian nghiêm ngặt (walk-forward chronological split, không rò rỉ tương lai) trên runtime torch CPU sẵn có của EcoData để dự báo chuỗi thời gian phi tuyến có phụ thuộc trễ dài. | Stata: PyTorch bridge / nonlinear AR benchmarkR: forecast (forecast::nnetar sequence benchmark / R torch bridge)Python: torch (torch==2.13.0+cpu nn.LSTM deterministic seed, chronological validation split + gradient-based feature attribution) |
Out-of-sample Walk-Forward RMSE, MAE, MAPE, thống kê kiểm định **Diebold–Mariano** (Harvey–Leybourne–Newbold small-sample adjustment) so với benchmark AR, Ljung–Box forecast error. |
3. Quy tắc lựa chọn mô hình phù hợp
Nhà nghiên cứu có thể áp dụng quy tắc phân nhánh dưới đây để chọn đúng mô hình trong nhóm 12.4 cho dữ liệu thực tế (Greene (2019); Wooldridge (2010); Cameron & Trivedi (2022); Hansen (2022)):
- Chọn 12.4.1. Mạng bộ nhớ dài–ngắn hạn dự báo chuỗi thời gian (LSTM) khi: Dự báo lạm phát, sản lượng công nghiệp, nhu cầu điện, tỷ giá, thanh khoản thị trường ($T \ge 60$) và so sánh độ chính xác dự báo ngoài mẫu với ARIMA / VAR / MIDAS. (Kiểm định bắt buộc: Out-of-sample Walk-Forward RMSE, MAE, MAPE, thống kê kiểm định **Diebold–Mariano** (Harvey–Leybourne–Newbold small-sample adjustment) so với benchmark AR, Ljung–Box forecast error.).
4. Tài liệu tham khảo
- Coulombe, Leroux, Stevanovic, & Surprenant (2022). How is Machine Learning Useful for Macroeconomic Forecasting?. Journal of Applied Econometrics.
- Diebold, F. X., & Mariano, R. S. (1995). Comparing predictive accuracy. Journal of Business & Economic Statistics, 13(3), 253–263.
- Greene, W. H. (2019). Econometric Analysis (8th ed., Chương 10 & 16: Systems of Regression Equations, SUR, 3SLS & Bayesian Econometrics). Pearson.
- Wooldridge, J. M. (2010). Econometric Analysis of Cross Section and Panel Data (2nd ed., Chương 7–9: Estimating Systems of Equations by OLS, GLS and GMM). MIT Press.
- Cameron, A. C., & Trivedi, P. K. (2022). Microeconometrics Using Stata (2nd ed., Vol. 2, Chương 28 & 30: Machine Learning and Bayesian Methods). Stata Press.
- Hansen, B. E. (2022). Econometrics (Chương 11, 13 & 29: Multivariate Regression, GMM and Machine Learning). Princeton University Press.
↑ Tài liệu gốc: KINH TẾ LƯỢNG ỨNG DỤNG TOÀN DIỆN TỪ A – Z
↑ Chương chủ quản: 12. Hệ phương trình đồng thời, hệ cầu, kinh tế lượng Bayes và học máy
→ Bài học đầu tiên trong nhóm: 12.4.1. Mạng bộ nhớ dài–ngắn hạn dự báo chuỗi thời gian (LSTM)