2.3. Giảm chiều và nhân tố ẩn
1. Bản chất học thuật và cấu trúc toán học
Trong phạm vi của chương Mô hình chính quy hóa, suy luận chiều cao và giảm chiều, nhóm phương pháp Giảm chiều và nhân tố ẩn giải quyết các bài toán thực nghiệm đòi hỏi đặc tả chính xác quá trình sinh dữ liệu và kiểm soát chặt chẽ cấu trúc sai số (Hansen (2022); Cameron & Trivedi (2022); Stock & Watson (2020)). Các mô hình trong nhóm 2.3 cùng dựa trên hệ thức cấu trúc nền tảng tại phương trình (1) (Jolliffe (2002); Stock & Watson (2002); Greene (2019); Mehmetoglu & Jakobs (2022)):
$$Z_m = X V_m, \quad \hat{\beta}_{\text{PCR}} = V_m (Z_m^\top Z_m)^{-1} Z_m^\top Y \tag{1}$$
Phương trình điều kiện ước lượng và tối ưu hóa của nhóm phương pháp này được xác định tại công thức (2):
$$\hat{\beta}(\lambda, \alpha) = \arg\min_{\beta \in \mathbb{R}^p} \left\{\frac{1}{2N}\sum_{i=1}^N \left(Y_i – X_i^\top \beta\right)^2 + \lambda\left(\alpha \|\beta\|_1 + \frac{1-\alpha}{2}\|\beta\|_2^2\right)\right\} \tag{2}$$
Sự khác biệt giữa 4 mô hình từ 2.3.1. Hồi quy thành phần chính (PCR) đến 2.3.4. Phân tích nhân tố khám phá và phép xoay trực giao (EFA) nằm ở giả định về phân phối của thành phần nhiễu, cơ chế nội sinh và ma trận trọng số ước lượng (Jolliffe (2002); Stock & Watson (2002); Greene (2019); Mehmetoglu & Jakobs (2022); Hansen (2022); Cameron & Trivedi (2022); Stock & Watson (2020)).
2. Bảng đối chiếu các mô hình trong nhóm
Bảng dưới đây so sánh trực tiếp bản chất kinh tế lượng, câu lệnh thực thi trên ba phần mềm và kiểm định chẩn đoán của từng bài học trong nhóm 2.3:
| Mã mục | Tên mô hình | Bản chất kinh tế lượng | Cú pháp ước lượng chuẩn (Stata 18 · R 4.x · Python 3.11+) | Kiểm định chẩn đoán bắt buộc |
|---|---|---|---|---|
| 2.3.1 | Hồi quy thành phần chính (PCR) | Trích xuất các thành phần chính trực giao giữ lại phần lớn phương sai của ma trận X rồi hồi quy Y lên M thành phần chính đầu tiên để triệt tiêu hoàn toàn đa cộng tuyến. | Stata: pca x1 x2 x3 -> predict pc1 pc2, score -> regress y pc1 pc2R: pls::pcr(y ~ x1 + x2, validation = 'CV', data = df)Python: Pipeline([('scaler', StandardScaler()), ('pca', PCA(n_components=2)), ('ols', LinearRegression())]).fit(X, y) |
Tỷ lệ phương sai giải thích tích lũy (Cumulative Explained Variance ≥ 80%), biểu đồ Scree plot trị riêng và K-Fold CV MSE để chọn số thành phần M |
| 2.3.2 | Hồi quy bình phương tối thiểu riêng phần (PLSR) | Trích xuất các nhân tố ẩn tối đa hóa hiệp phương sai giữa ma trận dự báo $X$ và kết quả $Y$, hiệu quả cao trong dự báo vĩ mô đa cộng tuyến cực mạnh. | Stata: plssem / Mata SVD-NIPALS (ssc install plssem)R: pls (pls::plsr(y ~ ., ncomp = k, validation = "CV", data = df))Python: scikit-learn (sklearn.cross_decomposition.PLSRegression + $K$-fold CV component selection) |
Tỷ lệ phương sai giải thích của $X$ và $Y$ theo từng nhân tố, PRESS / $Q^2$ cross-validation, chỉ số VIP (Variable Importance in Projection). |
| 2.3.3 | Phân tích thành phần chính và chỉ số tổng hợp (PCA) | Trích xuất thành phần chính trực giao xây dựng chỉ số tổng hợp (chỉ số thể chế, tài chính toàn diện, điều kiện tài chính FCI) và kiểm định số nhân tố tối ưu. | Stata: pca (pca x1-xk, components(m) + estat kmo + rotate)R: stats + psych (stats::prcomp(X, scale. = TRUE) + psych::KMO)Python: scikit-learn (sklearn.decomposition.PCA trên ma trận chuẩn hóa + Bartlett/KMO diagnostics) |
Kiểm định cầu Bartlett ($\chi^2$), hệ số thích hợp mẫu Kaiser–Meyer–Olkin (KMO), tiêu chuẩn trị riêng Kaiser ($\lambda > 1$) & Bai–Ng $IC_{p2}$. |
| 2.3.4 | Phân tích nhân tố khám phá và phép xoay trực giao (EFA) | Tách phương sai chung của các chỉ báo quan sát được thành nhân tố cấu trúc tiềm ẩn và nhiễu đặc thù ($\Sigma = \Lambda\Lambda’ + \Psi$) kèm phép xoay Varimax/Promax. | Stata: factor (factor x1-xk, ml factors(m) + rotate, varimax + estat smc)R: psych / stats (stats::factanal(X, factors = m, rotation = "varimax"))Python: scikit-learn (sklearn.decomposition.FactorAnalysis(rotation="varimax") + likelihood-ratio test) |
Kiểm định KMO, Bartlett sphericity, độ quần tụ (communalities $h_j^2$), phương sai đặc thù (uniqueness $\psi_j$), kiểm định LR số nhân tố. |
3. Quy tắc lựa chọn mô hình phù hợp
Nhà nghiên cứu có thể áp dụng quy tắc phân nhánh dưới đây để chọn đúng mô hình trong nhóm 2.3 cho dữ liệu thực tế (Hansen (2022); Cameron & Trivedi (2022); Stock & Watson (2020)):
- Chọn 2.3.1. Hồi quy thành phần chính (PCR) khi: Khi ma trận biến giải thích X có số chiều lớn và đa cộng tuyến gần như hoàn hảo giữa các chỉ tiêu kinh tế – tài chính. (Kiểm định bắt buộc: Tỷ lệ phương sai giải thích tích lũy (Cumulative Explained Variance ≥ 80%), biểu đồ Scree plot trị riêng và K-Fold CV MSE để chọn số thành phần M).
- Chọn 2.3.2. Hồi quy bình phương tối thiểu riêng phần (PLSR) khi: Ma trận chỉ số vĩ mô/tài chính có đa cộng tuyến gần hoàn hảo hoặc $k \ge N$ nơi OLS suy biến và PCR bỏ sót chiều có tương quan với $Y$. (Kiểm định bắt buộc: Tỷ lệ phương sai giải thích của $X$ và $Y$ theo từng nhân tố, PRESS / $Q^2$ cross-validation, chỉ số VIP (Variable Importance in Projection).).
- Chọn 2.3.3. Phân tích thành phần chính và chỉ số tổng hợp (PCA) khi: Tập biến định lượng liên tục có tương quan nội tại đủ lớn ($\text{KMO} \ge 0.6$); dùng để gom nhóm chỉ số trước hồi quy hoặc xây dựng chỉ số tổng hợp trọng số nội sinh. (Kiểm định bắt buộc: Kiểm định cầu Bartlett ($\chi^2$), hệ số thích hợp mẫu Kaiser–Meyer–Olkin (KMO), tiêu chuẩn trị riêng Kaiser ($\lambda > 1$) & Bai–Ng $IC_{p2}$.).
- Chọn 2.3.4. Phân tích nhân tố khám phá và phép xoay trực giao (EFA) khi: Đo lường khái niệm kinh tế – quản trị đa chỉ báo (năng lực quản trị tỉnh PCI, chất lượng dịch vụ công, niềm tin tiêu dùng) có sai số đo lường riêng. (Kiểm định bắt buộc: Kiểm định KMO, Bartlett sphericity, độ quần tụ (communalities $h_j^2$), phương sai đặc thù (uniqueness $\psi_j$), kiểm định LR số nhân tố.).
4. Tài liệu tham khảo
- Jolliffe, I. T. (2002). Principal Component Analysis (2nd ed.). Springer.
- Stock, J. H., & Watson, M. W. (2002). Forecasting using principal components from a large number of predictors. Journal of the American Statistical Association, 97(460), 1167–1179.
- Greene, W. H. (2019). Econometric Analysis (8th ed.). Pearson.
- Mehmetoglu, M., & Jakobsen, T. G. (2022). Applied Statistics Using Stata: A Guide for the Social Sciences (2nd ed.). SAGE Publications.
- Hansen, B. E. (2022). Econometrics (Chương 28–29: Model Selection, Ridge, Lasso & Machine Learning). Princeton University Press.
- Cameron, A. C., & Trivedi, P. K. (2022). Microeconometrics Using Stata (2nd ed., Vol. 2, Chương 28–29: Lasso for Prediction and Causal Inference). Stata Press.
- Stock, J. H., & Watson, M. W. (2020). Introduction to Econometrics (4th ed., Chương 14: Big Data and Machine Learning). Pearson.
↑ Tài liệu gốc: KINH TẾ LƯỢNG ỨNG DỤNG TOÀN DIỆN TỪ A – Z
↑ Chương chủ quản: 2. Mô hình chính quy hóa, suy luận chiều cao và giảm chiều
→ Bài học đầu tiên trong nhóm: 2.3.1. Hồi quy thành phần chính (PCR)