HỒI QUY BỘI

1. Mô hình hồi quy bội tổng quát

Năng suất của một doanh nghiệp có mối liên hệ với nhiều yếu tố như: Trình độ quản lý, công nghệ, vốn, lao động, môi trường, chính sách vĩ mô… chứ không liên hệ với đơn giản chỉ một trong số các yếu tố vừa liệt kê. Để mô hình hóa dữ liệu thực tế như vừa nêu, cần mô hình có nhiều hơn một biến độc lập X, được gọi là hồi quy bội. Từ hồi quy đơn, thêm vào các biến độc lập (giải thích) khác để hoàn thiện mô hình. Ngoài ra, biến mùa vụ, biến định tính cũng được đưa vào mô hình hồi quy bội thông qua biến giả. Mô hình hồi quy bội cho tổng thể được viết như sau:

Y = b₀ + b₁X₁ + b₂X₂ + b₃X₃ + … + b_kX_k

Trong đó,

b₀: Tung độ gốc;

b_i: Hệ số góc tương ứng với các biến giải thích X_i.

Mô hình hồi quy mẫu:

Y = b₀ + b₁X₁ + b₂X₂ + b₃X₃ + … + b_kX_k  

Trong đó,

b₀: Tung độ gốc;

b₁, …, b_k: Hệ số góc mẫu.

Sử dụng phương pháp sai lệch bình phương cực tiểu OLS (Ordinary Least Squares), tìm được công thức tính giá trị các hệ số hồi quy cho mô hình 2 biến độc lập.

Trong đó,

2. Đánh giá mô hình

Đại lượng thống kê dùng để đánh giá mô hình hồi quy bội cũng giống với hồi quy đơn đã được trình bày ở bài viết HỒI QUY ĐƠN. Đại lượng đầu tiên cần quan tâm là hệ số xác định R². Hệ số xác định R² thể hiện mức độ giải thích dữ liệu của mô hình hồi quy nên giá trị càng lớn càng tốt. Công thức tính R² như sau:

Tăng số lượng biến độc lập X đến một mức nào đó, giá trị của hệ số xác định R² sẽ tiến tới 1 (hay 100%). Mô hình trong trường hợp này không tốt vì có nhiều biến độc lập không chỉ giải thích được cho biến phụ thuộc và tất nhiên kết quả này không đáng tin cậy. Hệ số xác định R² điều chỉnh khắc phục hiện tượng này vì nó chỉ thể hiện phần giải thích của các biến độc lập (Hanke và Wichern, 2005).

Hệ số xác định R² có xét đến bậc tự do của SSE và SST (hay R² điều chỉnh) được tính như sau:

Trong đó,

R² điều chỉnh: Hệ số xác định hiệu chỉnh, giá trị R² điều chỉnh luôn nhỏ hơn R²;

SSE: Sai số ước lượng;

SST: Sai số tổng;

n: Kích thước mẫu;

k: Số lượng biến độc lập.

Lưu ý: - Hệ số xác định R2 chỉ đúng cho mô hình hồi quy mẫu nên không thể đánh giá một mô hình chỉ dựa trên chỉ số này. - Sử dụng hệ số xác định R2 điều chỉnh để đánh giá chất lượng mô hình hồi quy bội.

Phương sai ước lượng:

Trong đó,

e_i: Phần dư của mô hình hồi quy;

n: Kích thước mẫu;

k: Số lượng biến độc lập.

Phương sai của các hệ số hồi quy b₁, b₂:

Vai trò của độ lệch chuẩn ước lượng S_e giống với R², tức là có thể dựa trên giá trị của S_e để đánh giá chất lượng của mô hình hồi quy. Tuy nhiên, do giá trị của S_e là tuyệt đối nên sẽ khó để đánh giá nếu không biết điểm tham chiếu. Ngoài ra, người ta còn tính toán giá trị S_e, S_b1, S_b2 để chuẩn bị dữ liệu đầu vào cho việc kiểm định mô hình sẽ được giới thiệu ở phần tiếp theo.

3. Kiểm định mô hình

(1) Kiểm định Student (t)

Cần kiểm định ý nghĩa thống kê của từng hệ số hồi quy. Kiểm định bằng cách so sánh trị thống kê của từng hệ số với trị tới hạn tra ở bảng Student (hoặc bảng phân phối Chuẩn nếu kích thước mẫu n > 30) theo quy trình được trình bày ở bài viết HỒI QUY ĐƠN.

(2) Kiểm định Fisher (F)

Sử dụng kiểm định F để đánh giá mức độ phù hợp của mô hình hồi quy, thực hiện kiểm định theo quy trình đã được trình bày ở bài viết HỒI QUY ĐƠN.

(3) Ước lượng hệ số hồi quy b_j

Công thức tính khoảng tin cậy cho hệ số hồi quy b_j trong hồi quy bội.

Trong đó,

t_df.;a/2: Trị thống kê của hệ số hồi quy b_j;

df. = (n – k – 1): Bậc tự do;

S_bj: Độ lệch chuẩn của hệ số hồi quy b_j.

(4) Tự tương quan và phương sai thay đổi

Quy trình kiểm định tự tương quan cho hồi quy bội tương tự hồi quy đơn như đã được trình bày ở bài viết HỒI QUY ĐƠN.

(5) Đa cộng tuyến

Hiện tượng tương quan giữa các biến độc lập trong mô hình hồi quy bội được gọi là đa cộng tuyến. Độ chính xác khi tính trị phụ thuộc của mô hình sẽ giảm khi xảy ra đa cộng tuyến.

Xảy ra đa cộng tuyến thường làm tăng độ lệch chuẩn ước lượng S_e. Tuy nhiên, người ta thường ít dùng S_e mà sử dụng hệ số xác định R² để đánh giá chất lượng mô hình. Và đa cộng tuyến cũng làm tăng giá trị hệ số xác định R².

Ngoài ra, đa cộng tuyến làm cho các biến độc lập có xu hướng không có ý nghĩa thống kê hoặc vừa đủ thỏa yêu cầu (trị thống kê t nhỏ). Tuy nhiên, nó làm cho trị thống kê F có giá trị lớn nên không thể bác bỏ mô hình. Như vậy theo quy trình đánh giá, kiểm định đã nêu, không thể bác bỏ mô hình có xảy ra đa cộng tuyến do giá trị của các hệ số xác định R² và trị thống kê F đều tốt. Tuy nhiên, nhà nghiên cứu có thể dựa vào những dấu hiệu dưới đây để phát hiện đa cộng tuyến nhằm đảm bảo độ chính xác của mô hình hồi quy.

Phát hiện đa cộng tuyến

Quy trình 3 bước để phát hiện đa cộng tuyến.

(Bước 1) Dựa vào giá trị của các hệ số R², t, và F. Khi:

- Giá trị hệ số xác định R² lớn;

- Trị thống kê t khi kiểm định riêng lẻ các hệ số hồi quy nhỏ hoặc vừa đủ;

- Trị thống kê F khi kiểm định toàn bộ mô hình có giá trị rất lớn.

Mô hình hồi quy bị cho là có dấu hiệu đa cộng tuyến khi tồn tại những chỉ dấu vừa nêu. Để khẳng định có đa cộng tuyến cần xét thêm:

- Giá trị hệ số tương quan giữa cặp biến độc lập;

- Mô hình hồi quy phụ giữa các biến độc lập;

- Hệ số phóng đại phương sai VIF.

(Bước 2) Kiểm tra hệ số tương quan giữa các cặp biến độc lập theo công thức:

Trong đó: X_i, Z là 2 biến độc lập của mô hình.

Nếu hệ số tương quan của một cặp biến độc lập lớn thì tiến hành Bước 3. Ngược lại, dừng quy trình phát hiện đa cộng tuyến.

(Bước 3) Sử dụng mô hình hồi quy phụ giữa một biến độc lập với một hoặc nhiều biến độc lập còn lại.

X₁ = b₀ + b₁X₂ + … + b_k-1X_k-1

Tính hệ số phóng đại phương sai VIF:

Trong đó,

R_j²: Hệ số xác định của mô hình hồi quy phụ giữa biến giải thích thứ j với (k - 1) biến độc lập còn lại;

k: Số lượng biến độc lập của mô hình.

Nếu có tương quan ở biến độc lập X_j với các biến độc lập còn lại thì R_j² sẽ gần bằng 1 và như vậy VIF_j sẽ lớn. Thông thường khi VIF_j > 10 (R_j² > 0.90) thì mức độ đa cộng tuyến của mô hình được xem là cao.

Nếu hệ số phóng đại phương sai VIF_j > 10 và mô hình hồi quy phụ có ý nghĩa thống kê, thì kết luận có đa cộng tuyến.

4. Tài liệu tham khảo

1. Hanke, J. E., & Wichern, D. W. (2015). Business Forecasting, 9^th Edition, Pearson Education.

 

Kết thúc.

---

Để có thể thấy rõ cách sử dụng mô hình hồi quy bội cùng với những đánh giá liên quan, Chương 6 của cuốn sách NGHIÊN CỨU KHOA HỌC TRONG KINH TẾ - XÃ HỘI & Hướng dẫn viết luận văn/luận án 2023 sẽ cung cấp cho bạn những ví dụ, dữ liệu, hình ảnh thực tế. Tham khảo để thấy cách bạn sẽ được sở hữu một sản phẩm chất lượng thuộc Top 100 sản phẩm Phân tích kinh tế bán chạy của tháng tại Fahasa.com.

MUA SÁCH TẠI ĐÂY