2. Mô hình chính quy hóa, suy luận chiều cao và giảm chiều
TÓM TẮT CHƯƠNG 2:
- Quy mô chương: Chương 2. Mô hình chính quy hóa, suy luận chiều cao và giảm chiều bao gồm 4 nhóm phương pháp và 12 bài giảng chuyên sâu.
- Bài toán nhận dạng cốt lõi: “Khi số lượng biến giải thích rất lớn hoặc đa cộng tuyến cực đại, làm sao để chọn biến chính xác, trích xuất nhân tố ẩn và suy luận nhân quả không chệch?”
- Hệ thống kiểm định bắt buộc: 10-Fold Cross-Validation MSE, Sparsity Ratio, KMO & Bartlett Test, Bai–Ng ICp2, Silhouette Score.
- Nguồn tham chiếu học thuật: Tổng hợp từ các công trình gốc của Tibshirani (1996); Zou (2006); Belloni, Chernozhukov & Hansen (2014); Stock & Watson (2002); Bonhomme & Manresa (2015) và hệ thống giáo trình chuẩn quốc tế của Hansen (2022); Cameron & Trivedi (2022); Mehmetoglu & Jakobs (2022); Stock & Watson (2020).
1. Đặt vấn đề và bối cảnh nghiên cứu
Trong nghiên cứu thực nghiệm kinh tế, tài chính và chính sách công, việc lựa chọn đúng cấu trúc mô hình thuộc chương Mô hình chính quy hóa, suy luận chiều cao và giảm chiều quyết định trực tiếp tính không chệch, tính nhất quán và hiệu lực suy luận thống kê của các ước lượng theo Hansen (2022); Cameron & Trivedi (2022); Mehmetoglu & Jakobs (2022); Stock & Watson (2020). Khi cấu trúc dữ liệu thực tế vi phạm các giả định cổ điển, nhà nghiên cứu cần áp dụng chính xác các phương pháp chuyên biệt được trình bày trong chương này theo Tibshirani (1996); Zou (2006); Belloni, Chernozhukov & Hansen (2014); Stock & Watson (2002); Bonhomme & Manresa (2015).
Khung biểu diễn toán học tổng quát cho các mô hình thuộc chương 2 được xác lập tại phương trình 1:
$$\hat{\beta} = \arg\min_{\beta} \frac{1}{2N}\|Y – X\beta\|_2^2 + \lambda \left(\alpha \|\beta\|_1 + \frac{1-\alpha}{2}\|\beta\|_2^2\right) \tag*{[1]}$$
Từ phương trình 1, mỗi nhóm phương pháp con trong chương sẽ cụ thể hóa điều kiện nhận dạng, cấu trúc ma trận hiệp phương sai của sai số và thuật toán tối ưu hóa phù hợp với từng thiết kế dữ liệu tại Việt Nam theo Tibshirani (1996); Zou (2006); Belloni, Chernozhukov & Hansen (2014); Stock & Watson (2002); Bonhomme & Manresa (2015); Hansen (2022); Cameron & Trivedi (2022); Mehmetoglu & Jakobs (2022); Stock & Watson (2020).
2. Cấu trúc các nhóm phương pháp trong chương
Chương 2 được tổ chức thành 4 nhóm bài giảng theo thứ tự từ nền tảng đến nâng cao:
Bảng 2.1Cấu trúc các nhóm phương pháp trực thuộc chương 2
3. Danh mục các mô hình kinh tế lượng
Bảng dưới đây đối chiếu toàn bộ 12 bài giảng thuộc chương 2 cùng bộ thư viện thực thi trên Stata 18, R 4.x, Python 3.11+ và các kiểm định chẩn đoán bắt buộc:
Bảng 2.2Danh mục các mô hình kinh tế lượng và thư viện thực thi thuộc chương 2
| Mã mục | Tên bài giảng | Thư viện thực thi Stata · R · Python | Kiểm định chẩn đoán bắt buộc | Dữ liệu thực nghiệm Việt Nam |
|---|---|---|---|---|
| 2.1.1 | Hồi quy chính quy hóa bậc hai Ridge | Stata 18 lasso · glmnet · scikit-learn |
Đường cong kiểm định chéo K-Fold (MSE) theo tham số phạt $\lambda$, quỹ đạo nghiệm Ridge trace và bậc tự do hiệu dụng $\text{df}(\lambda) = \text{tr}[X(X^\top X + \lambda I)^{-1}X^\top]$ | Dự báo lạm phát từ rổ chỉ báo tiền tệ đa cộng tuyến |
| 2.1.2 | Hồi quy co ngót và chọn biến tự động Lasso | Stata 18 lasso · glmnet · scikit-learn |
Kiểm định chéo 10-Fold chọn $\lambda_{\min}$ và $\lambda_{\text{1se}}$, tỷ lệ độ thưa, tiêu chuẩn (BIC) / EBIC và độ ổn định tập biến được chọn | Lựa chọn yếu tố quyết định FDI cấp tỉnh |
| 2.1.3 | Hồi quy kết hợp phạt bậc nhất và bậc hai Elastic Net | Stata 18 lasso · glmnet · scikit-learn |
Kiểm định lưới hai chiều $\lambda, \alpha$ bằng Cross-Validation (MSE), tỷ lệ biến khác $0$ và đối chiếu sai số dự báo ngoài mẫu (RMSE) | Dự báo lợi suất cổ phiếu ngành ngân hàng |
| 2.2.1 | Hồi quy góc nhỏ nhất (LARS) | Stata 18 lasso · glmnet / lars · scikit-learn |
Tiêu chuẩn thông tin Mallows $C_p$ dọc theo đường dẫn (LARS), K-Fold Cross-Validation (MSE) và đồ thị tiến hóa hệ số chuẩn hóa | Đường dẫn chọn biến vĩ mô Việt Nam |
| 2.2.2 | Hồi quy Elastic Net tối ưu hóa kiểm định chéo | Stata 18 lasso · glmnet · scikit-learn |
So sánh hiệu năng giữa quy tắc $\lambda_{\min}$ và quy tắc tiết kiệm 1 sai số chuẩn $\lambda_{\text{1se}}$, hệ số $R^2$ ngoài mẫu và kiểm định ổn định hệ số qua các Folds | Dự báo tăng trưởng xuất khẩu Hải quan |
| 2.2.3 | Hồi quy Lasso thích nghi có trọng số | Stata 18 lasso · glmnet · scikit-learn |
Đường chuẩn hóa CV MSE — $\lambda_{\min}, \lambda_{1\text{se}}$ , tỷ lệ độ thưa, out-of-sample $R^2$ & RMSE. | Chọn biến quyết định nợ xấu ngân hàng |
| 2.2.4 | Suy luận nhân quả chọn biến đôi (PDS-Lasso) | Stata 18 dsregress · hdm · doubleml |
Số biến kiểm soát được giữ lại ở bước $Y$ và bước $D$, kiểm định ổn định hệ số xử lý trước/sau double-selection, HC3 Wald CI. | Đánh giá tác động đầu tư hạ tầng với 80 biến kiểm soát |
| 2.3.1 | Hồi quy thành phần chính (PCR) | base Stata · stats / pls · scikit-learn |
Tỷ lệ phương sai giải thích tích lũy đạt từ $80\%$ trở lên, biểu đồ Scree plot trị riêng và K-Fold (CV) (MSE) để chọn số thành phần $M$ | Dự báo GDP quý từ chỉ báo GSO |
| 2.3.2 | Hồi quy bình phương tối thiểu riêng phần (PLSR) | plssem · pls · scikit-learn |
Tỷ lệ phương sai giải thích của $X$ và $Y$ theo từng nhân tố, PRESS / $Q^2$ cross-validation, chỉ số VIP. | Dự báo thanh khoản thị trường từ chỉ số tài chính |
| 2.3.3 | Phân tích thành phần chính và chỉ số tổng hợp (PCA) | base Stata pca · stats + psych · scikit-learn |
Kiểm định cầu Bartlett — $\chi^2$ , hệ số thích hợp mẫu Kaiser–Meyer–Olkin, tiêu chuẩn trị riêng Kaiser — $\lambda \gt 1$ — & Bai–Ng $IC_{p2}$. | Xây dựng Chỉ số Tài chính Toàn diện / Chuyển đổi số tỉnh |
| 2.3.4 | Phân tích nhân tố khám phá và phép xoay trực giao (EFA) | base Stata factor · psych / stats · scikit-learn |
Kiểm định KMO, Bartlett sphericity, độ quần tụ — communalities $h_j^2$ , phương sai đặc thù — uniqueness $\psi_j$ , kiểm định LR số nhân tố. | Đo lường cấu trúc năng lực cạnh tranh cấp tỉnh PCI |
| 2.4.1 | Phân cụm chế độ kinh tế K-Means++ | base Stata cluster · stats + cluster · scikit-learn |
Hệ số Silhouette trung bình, chỉ số Calinski–Harabasz — pseudo-$F$ , chỉ số Davies–Bouldin, kiểm định ANOVA/$F$ phân biệt tâm cụm. | Phân nhóm mô hình tăng trưởng 63 tỉnh thành |
4. Quy tắc chọn mô hình và kiểm định
Trước khi công bố kết quả ước lượng thuộc chương 2, nhà nghiên cứu cần thực hiện đầy đủ danh mục kiểm tra học thuật sau theo Hansen (2022); Cameron & Trivedi (2022); Mehmetoglu & Jakobs (2022); Stock & Watson (2020):
- Câu hỏi nhận dạng trung tâm: Khi số lượng biến giải thích rất lớn hoặc đa cộng tuyến cực đại, làm sao để chọn biến chính xác, trích xuất nhân tố ẩn và suy luận nhân quả không chệch?
- Hệ thống kiểm định chẩn đoán bắt buộc: 10-Fold Cross-Validation MSE, Sparsity Ratio, KMO & Bartlett Test, Bai–Ng ICp2, Silhouette Score.
- Suy luận thống kê vững: Luôn kiểm tra cấu trúc phương sai thay đổi, tự tương quan hoặc phụ thuộc cụm để lựa chọn ma trận hiệp phương sai sai số chuẩn phù hợp trên Stata 18, R 4.x và Python 3.11+ theo Tibshirani (1996); Zou (2006); Belloni, Chernozhukov & Hansen (2014); Stock & Watson (2002); Bonhomme & Manresa (2015).
LƯU Ý HỌC THUẬT: Khi trình bày bảng kết quả ước lượng thuộc chương 2 trong khóa luận, luận văn, luận án hoặc bài báo khoa học, cần báo cáo đầy đủ giá trị thống kê và $p$-value của bộ kiểm định gồm 10-Fold Cross-Validation MSE, Sparsity Ratio, KMO & Bartlett Test, Bai–Ng ICp2, Silhouette Score ngay dưới chân bảng để minh chứng mô hình thỏa mãn điều kiện nhận dạng theo Hansen (2022); Cameron & Trivedi (2022); Mehmetoglu & Jakobs (2022); Stock & Watson (2020).
5. Tài liệu tham khảo
- Tibshirani, R.(1996). Regression shrinkage and selection via the lasso. Journal of the Royal Statistical Society: Series B, 58, số 1, 267–288.
- Zou(2006). Econometric specification, identification, and asymptotic inference.
- Belloni, A, Chernozhukov, V, & Hansen, C.(2014). Inference on treatment effects after selection among high-dimensional controls. The Review of Economic Studies, 81, số 2, 608–650.
- Stock, J. H, & Watson, M. W.(2002). Forecasting using principal components from a large number of predictors. Journal of the American Statistical Association, 97, số 460, 1167–1179.
- Bonhomme, & Manresa(2015). Econometric specification, identification, and asymptotic inference.
- Hansen, B. E.(2022). Econometrics, Chương 28–29: Model Selection, Ridge, Lasso & Machine Learning. Princeton University Press.
- Cameron, A. C, & Trivedi, P. K.(2022). Microeconometrics Using Stata, 2nd ed, Vol. 2, Chương 28–29: Lasso for Prediction and Causal Inference. Stata Press.
- Mehmetoglu, M, & Jakobsen, T. G.(2022). Applied Statistics Using Stata: A Guide for the Social Sciences, 2nd ed, Chương 12: Factor Analysis & PCA. SAGE Publications.
- Stock, J. H, & Watson, M. W.(2020). Introduction to Econometrics, 4th ed, Chương 14: Big Data and Machine Learning. Pearson.
ĐIỀU HƯỚNG HỌC TẬP:
↑ Tài liệu gốc: KINH TẾ LƯỢNG ỨNG DỤNG TOÀN DIỆN TỪ A – Z
← Chương trước: 1. Hồi quy tuyến tính cổ điển và biến công cụ
→ Nhóm đầu tiên trong chương: 2.1. Hồi quy chính quy hóa
→ Bài học đầu tiên trong chương: 2.1.1. Hồi quy chính quy hóa bậc hai Ridge
→ Chương tiếp theo: 3. Mô hình lựa chọn rời rạc và cầu cấu trúc
↑ Tài liệu gốc: KINH TẾ LƯỢNG ỨNG DỤNG TOÀN DIỆN TỪ A – Z
← Chương trước: 1. Hồi quy tuyến tính cổ điển và biến công cụ
→ Nhóm đầu tiên trong chương: 2.1. Hồi quy chính quy hóa
→ Bài học đầu tiên trong chương: 2.1.1. Hồi quy chính quy hóa bậc hai Ridge
→ Chương tiếp theo: 3. Mô hình lựa chọn rời rạc và cầu cấu trúc