Chương 4: Mô hình hồi qui đa biến

Hệ số hồi qui cũng được ước lượng thông qua sử dụng phương pháp bình phương bé nhất như trong phân tích hồi qui đơn. Giá trị ước lượng phù hợp của Y trong quan sát thứ i phụ thuộc vào giá trị ước lượng b1, b2, và b3.Sai số ei trong quan sát thứ i là sự khác biệt giữa giá trị thực tế và giá trị ước lượng phù hợp của Y.
Nội dung trích xuất từ tài liệu:
Chương 4: Mô hình hồi qui đa biến Chương 4Mô hình hồi qui đa biến Mô hình hồi qui đa với 2 biến giải thích Yi = β 1 + β 2 X 2 i + β 3 X 3 i + ui ˆ Yi = b1 + b2 X 2 i + b3 X 3 iHệ số hồi qui cũng được ước lượng thông qua sử dụng phương pháp bình phương bé nhấtnhư trong phân tích hồi qui đơn. Giá trị ước lượng phù hợp của Y trong quan sát thứ i phụthuộc vào giá trị ước lượng b1, b2, và b3. 11 Mô hình hồi qui đa với 2 biến giải thích Yi = β 1 + β 2 X 2 i + β 3 X 3 i + ui ˆ Yi = b1 + b2 X 2 i + b3 X 3 i ˆ ei = Yi − Yi = Yi − b1 − b2 X 2 i − b3 X 3 iSai số ei trong quan sát thứ i là sự khác biệt giữa giá trị thực tế và giá trị ước lượng phùhợp của Y. 12 Mô hình hồi qui đa với 2 biến giải thích RSS = ∑ ei2 = ∑ (Yi − b1 − b2 X 2 i − b3 X 3 i ) 2Chúng ta cũng xác định tổng bình phương của các sai số RSS và lựa chọn b1, b2, và b3 làmsao để tối thiểu hóa giá trị này. 13 Mô hình hồi qui đa với 2 biến giải thích RSS = ∑ ei2 = ∑ (Yi − b1 − b2 X 2 i − b3 X 3 i ) 2 = ∑ (Yi 2 + b12 + b2 X 2 i + b3 X 3 i − 2b1Yi − 2b2 X 2 iYi 2 2 2 2 − 2b3 X 3 iYi + 2b1b2 X 2 i + 2b1b3 X 3 i + 2b2 b3 X 2 i X 3 i ) = ∑ Yi 2 + nb12 + b2 ∑ X 2 i + b3 ∑ X 3 i − 2b1 ∑ Yi 2 2 2 2 − 2b2 ∑ X 2 iYi − 2b3 ∑ X 3 iYi + 2b1b2 ∑ X 2 i + 2b1b3 ∑ X 3 i + 2b2 b3 ∑ X 2 i X 3 i ∂RSS ∂RSS ∂RSS =0 =0 =0 ∂b1 ∂b2 ∂b3Đầu tiên, chúng ta triển khai biểu thức RSS và sau đó chung ta sử dụng điều kiện đạo hàmhay vi phân bậc một của biểu thức để tìm cực tiểu. 14 Mô hình hồi qui đa với 2 biến giải thích b1 = Y − b2 X 2 − b3 X 3 ∑( X − X 2 )( Yi − Y ) ∑ ( X 3 i − X 3 ) 2 2i − ∑( X 3i − X 3 )( Yi − Y ) ∑ ( X 2 i − X 2 )( X 3 i − X 3 ) b2 = ∑ ( X 2 i − X 2 ) 2 ∑ ( X 3 i − X 3 ) 2 − ( ∑ ( X 2 i − X 2 )( X 3 i − X 3 ) ) 2Chúng ta có 3 phương trình cho 3 tham số chưa biết. Giải phương trình để tìm b1, b2, và b3,Chúng ta có thể có các giá trị của các tham số được tìm như trên. Giá trị của b3 giống vớigiá trị của b2, với các giá trị của chỉ số 2 và 3 được thay thế lẫn nhau.) 15 Mô hình hồi qui đa với 2 biến giải thích b1 = Y − b2 X 2 − b3 X 3 ∑( X − X 2 )( Yi − Y ) ∑ ( X 3 i − X 3 ) 2 2i − ∑( X 3i − X 3 )( Yi − Y ) ∑ ( X 2 i − X 2 )( X 3 i − X 3 ) b2 = ∑ ( X 2 i − X 2 ) 2 ∑ ( X 3 i − X 3 ) 2 − ( ∑ ( X 2 i − X 2 )( X 3 i − X 3 ) ) 2Biểu thức của b1 được mở rộng một cách trực tiếp từ mô hình hồi qui đơn. 16 Mô hình hồi qui đa với 2 biến giải thích b1 = Y − b2 X 2 − b3 X 3 ∑( X − X 2 )( Yi − Y ) ∑ ( X 3 i − X 3 ) 2 2i − ∑( X 3i − X 3 )( Yi − Y ) ∑ ( X 2 i − X 2 )( X 3 i − X 3 ) b2 = ∑ ( X 2 i − X 2 ) 2 ∑ ( X 3 i − X 3 ) 2 − ( ∑ ( X 2 i − X 2 )( X 3 i − X 3 ) ) 2Tuy nhiên, biểu thức cho các hệ số hồi qui tương đối phức tạp hơn so với hệ số hồi quitrong mô hình hồi qui đơn. 17 Mô hình hồi qui đa với 2 biến giải thích b1 = Y − b2 X 2 − b3 X 3 ∑( X − X 2 )( Yi − Y ) ∑ ( X 3 i − X 3 ) 2 2i − ...