1.1. Bình phương nhỏ nhất
1. Bản chất học thuật và cấu trúc toán học
Trong phạm vi của chương Hồi quy tuyến tính cổ điển và biến công cụ, nhóm phương pháp Bình phương nhỏ nhất giải quyết các bài toán thực nghiệm đòi hỏi đặc tả chính xác quá trình sinh dữ liệu và kiểm soát chặt chẽ cấu trúc sai số (Greene (2019); Cameron & Trivedi (2022)). Các mô hình trong nhóm 1.1 cùng dựa trên hệ thức cấu trúc nền tảng tại phương trình (1) (Wooldridge (2019); Hansen (2022); White (1980); Breusch & Pagan (1979); Ramsey (1969)):
$$Y_i = \beta_0 + \sum_{k=1}^K \beta_k X_{ik} + \varepsilon_i, \quad \text{E}[\varepsilon_i \mid X_i] = 0 \tag{1}$$
Phương trình điều kiện ước lượng và tối ưu hóa của nhóm phương pháp này được xác định tại công thức (2):
$$\hat{\beta}_N = \arg\min_{\beta \in \mathbb{R}^K} \sum_{i=1}^N w_i \left(Y_i – X_i^\top \beta\right)^2, \quad \text{E}\left[X_i \varepsilon_i\right] = 0 \tag{2}$$
Sự khác biệt giữa 4 mô hình từ 1.1.1. Hồi quy bình phương nhỏ nhất thông thường (OLS) đến 1.1.4. Hồi quy bình phương nhỏ nhất tổng quát khả thi (FGLS) nằm ở giả định về phân phối của thành phần nhiễu, cơ chế nội sinh và ma trận trọng số ước lượng (Wooldridge (2019); Hansen (2022); White (1980); Breusch & Pagan (1979); Ramsey (1969); Greene (2019); Cameron & Trivedi (2022)).
2. Bảng đối chiếu các mô hình trong nhóm
Bảng dưới đây so sánh trực tiếp bản chất kinh tế lượng, câu lệnh thực thi trên ba phần mềm và kiểm định chẩn đoán của từng bài học trong nhóm 1.1:
| Mã mục | Tên mô hình | Bản chất kinh tế lượng | Cú pháp ước lượng chuẩn (Stata 18 · R 4.x · Python 3.11+) | Kiểm định chẩn đoán bắt buộc |
|---|---|---|---|---|
| 1.1.1 | Hồi quy bình phương nhỏ nhất thông thường (OLS) | Ước lượng hàm kỳ vọng có điều kiện tuyến tính bằng cách cực tiểu hóa tổng bình phương phần dư; đạt tính chất không chệch tuyến tính tốt nhất (BLUE) theo định lý Gauss–Markov khi sai số thuần nhất và không tự tương quan. | Stata: regress y x1 x2, vce(robust)R: lm(y ~ x1 + x2, data = df)Python: smf.ols('y ~ x1 + x2', data=df).fit(cov_type='HC1') |
Kiểm định phương sai thay đổi Breusch–Pagan và White, hệ số phóng đại phương sai đa cộng tuyến (VIF), kiểm định dạng hàm Ramsey RESET, kiểm định phân phối chuẩn phần dư Jarque–Bera |
| 1.1.2 | Hồi quy bình phương nhỏ nhất có trọng số (WLS) | Khôi phục hiệu quả tiệm cận và tính chất BLUE khi phương sai của sai số tỷ lệ thuận với một biến quy mô đã biết σ_i^2 = σ^2 / w_i bằng cách nhân trọng số nghịch đảo phương sai vào hàm mục tiêu bình phương tối thiểu. | Stata: regress y x1 x2 [aweight = w], vce(robust)R: lm(y ~ x1 + x2, data = df, weights = w)Python: smf.wls('y ~ x1 + x2', data=df, weights=df['w']).fit() |
Kiểm định phương sai thay đổi trên phần dư chuẩn hóa có trọng số Breusch–Pagan, hệ số VIF có trọng số, kiểm định dạng hàm RESET và so sánh hiệu quả SE giữa OLS và WLS |
| 1.1.3 | Hồi quy bình phương nhỏ nhất tổng quát (GLS) | Biến đổi tuyến tính hệ phương trình bằng ma trận căn bậc hai nghịch đảo hiệp phương sai Ω^(-1/2) đã biết nhằm triệt tiêu hoàn toàn cấu trúc phương sai thay đổi và tương quan chéo/chuỗi của nhiễu. | Stata: gls / vwls y x1 x2, sd(sigma_i)R: nlme::gls(y ~ x1 + x2, data = df)Python: sm.GLS(y, X, sigma=Omega).fit() |
Kiểm định tính cầu (sphericity) của phần dư sau biến đổi GLS, kiểm định Ljung–Box/Breusch–Pagan trên phần dư chuẩn hóa và kiểm định Wald tổng thể |
| 1.1.4 | Hồi quy bình phương nhỏ nhất tổng quát khả thi (FGLS) | Ước lượng hai bước khả thi: bước 1 ước lượng hàm phương sai sai số ln(e_i^2) hoặc hệ số tự tương quan ρ từ phần dư OLS, bước 2 thực hiện GLS với ma trận hiệp phương sai ước lượng Ω_hat để đạt hiệu quả tiệm cận cao hơn OLS. | Stata: regress y x1 x2 -> gen ln_e2 = ln(e^2) -> regress y x1 x2 [aw=1/exp(xb)]R: nlme::gls(y ~ x1 + x2, weights = varExp(), data = df)Python: smf.glsar('y ~ x1 + x2', data=df, rho=1).iterative_fit() |
Kiểm định Breusch–Pagan / Harvey–Godfrey cho phương trình phương sai bước 1, kiểm định phần dư chuẩn hóa FGLS và đối chiếu sai số chuẩn vững HC1 |
3. Quy tắc lựa chọn mô hình phù hợp
Nhà nghiên cứu có thể áp dụng quy tắc phân nhánh dưới đây để chọn đúng mô hình trong nhóm 1.1 cho dữ liệu thực tế (Greene (2019); Cameron & Trivedi (2022)):
- Chọn 1.1.1. Hồi quy bình phương nhỏ nhất thông thường (OLS) khi: Dữ liệu chéo hoặc dữ liệu gộp khi các biến giải thích ngoại sinh nghiêm ngặt E[ε_i | X_i] = 0; dùng sai số chuẩn vững Huber–White (HC1/HC3) khi có phương sai thay đổi. (Kiểm định bắt buộc: Kiểm định phương sai thay đổi Breusch–Pagan và White, hệ số phóng đại phương sai đa cộng tuyến (VIF), kiểm định dạng hàm Ramsey RESET, kiểm định phân phối chuẩn phần dư Jarque–Bera).
- Chọn 1.1.2. Hồi quy bình phương nhỏ nhất có trọng số (WLS) khi: Dữ liệu điều tra hộ gia đình VHLSS có trọng số chọn mẫu hoặc dữ liệu trung bình cấp tỉnh/ngành có phương sai sai số tỷ lệ nghịch với quy mô dân số hay số lượng doanh nghiệp. (Kiểm định bắt buộc: Kiểm định phương sai thay đổi trên phần dư chuẩn hóa có trọng số Breusch–Pagan, hệ số VIF có trọng số, kiểm định dạng hàm RESET và so sánh hiệu quả SE giữa OLS và WLS).
- Chọn 1.1.3. Hồi quy bình phương nhỏ nhất tổng quát (GLS) khi: Mô hình tuyến tính khi cấu trúc ma trận hiệp phương sai sai số Ω đã được xác định từ lý thuyết lấy mẫu phân tầng hoặc cấu trúc tương quan đã biết. (Kiểm định bắt buộc: Kiểm định tính cầu (sphericity) của phần dư sau biến đổi GLS, kiểm định Ljung–Box/Breusch–Pagan trên phần dư chuẩn hóa và kiểm định Wald tổng thể).
- Chọn 1.1.4. Hồi quy bình phương nhỏ nhất tổng quát khả thi (FGLS) khi: Dữ liệu chéo hoặc chuỗi thời gian có phương sai thay đổi mạnh theo hàm mũ của biến giải thích hoặc tự tương quan AR(1) trong sai số. (Kiểm định bắt buộc: Kiểm định Breusch–Pagan / Harvey–Godfrey cho phương trình phương sai bước 1, kiểm định phần dư chuẩn hóa FGLS và đối chiếu sai số chuẩn vững HC1).
4. Tài liệu tham khảo
- Wooldridge, J. M. (2019). Introductory Econometrics: A Modern Approach (7th ed.). Cengage Learning.
- Hansen, B. E. (2022). Econometrics. Princeton University Press.
- White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator and a direct test for heteroskedasticity. Econometrica, 48(4), 817–838.
- Breusch, T. S., & Pagan, A. R. (1979). A simple test for heteroscedasticity and random coefficient variation. Econometrica, 47(5), 1287–1294.
- Ramsey, J. B. (1969). Tests for specification errors in classical linear least-squares regression analysis. Journal of the Royal Statistical Society: Series B, 31(2), 350–371.
- Greene, W. H. (2019). Econometric Analysis (8th ed., Chương 2–5 & 8). Pearson.
- Cameron, A. C., & Trivedi, P. K. (2022). Microeconometrics Using Stata (2nd ed., Vol. 1, Chương 3 & 6–7). Stata Press.
↑ Tài liệu gốc: KINH TẾ LƯỢNG ỨNG DỤNG TOÀN DIỆN TỪ A – Z
↑ Chương chủ quản: 1. Hồi quy tuyến tính cổ điển và biến công cụ
→ Bài học đầu tiên trong nhóm: 1.1.1. Hồi quy bình phương nhỏ nhất thông thường (OLS)