Bài giảng Thống kê và phân tích dữ liệu: Hồi qui tuyến tính đa biến

Bài giảng Thống kê và phân tích dữ liệu: Hồi qui tuyến tính đa biến, được biên soạn gồm các nội dung chính sau: Mô hồi qui tuyến tính đa biến; Phương pháp bình phương tối thiểu; Hệ số xác định của hồi qui đa biến; Các giả định của mô hình; Kiểm định mức ý nghĩa; Sử dụng mô hình hồi qui ước lượng để ước lượng và dự đoán. Mời các bạn cùng tham khảo!
Nội dung trích xuất từ tài liệu:
Bài giảng Thống kê và phân tích dữ liệu: Hồi qui tuyến tính đa biến HỒI QUITUYẾN TÍNH ĐA BIẾNHỒI QUI TUYẾN TÍNH ĐƠN• Mô hồi qui tuyến tính đa biến• Phương pháp bình phương tối thiểu• Hệ số xác định của hồi qui đa biến• Các giả định của mô hình• Kiểm định mức ý nghĩa• Sử dụng mô hình hồi qui ước lượng để ước lượng và dự đoán• Biến độc lập định tính 2MÔ HÌNHHỒI QUI TUYẾN TÍNH ĐA BIẾN • Mô hình hồi qui tuyến tính đa biến là phương trình mô tả mối quan hệ giữa biến phụ thuộc y với các biến độc lập x1, x2, . . . xp và số hạng sai số e y = b0 + b1x1 + b2x2 + . . . + bpxp + e Với: b0, b1, b2, . . . , bp là các tham số, và e là biến ngẫu nhiên gọi là số hạng sai sốPHƯƠNG TRÌNHHỒI QUI TUYẾN TÍNH ĐA BIẾN• Phương trình hồi qui tuyến tính đa biến là phương trình mô tả mối quan hệ giữa biến phụ thuộc y với các biến độc lập x1, x2, . . . xp y = b0 + b1x1 + b2x2 + . . . + bpxp + e Với: b0, b1, b2, . . . , bp là các tham số, và e là biến ngẫu nhiên gọi là số hạng sai sốQUI TRÌNH ƯỚC LƯỢNG Mô hình hồi quy đa biến Dữ liệu của mẫuy = b0 + b1x1 + b2x2 +. . .+ bpxp + e x1 x2 . . . xp y Phương trình hồi qui đa biến . . . .E(y) = b0 + b1x1 + b2x2 +. . .+ bpxp . . . . Các tham số chưa biết là b0 , b1 , b2 , . . . , bp PT hồi quy đa biến ước lượng b0, b1, b2, . . . , bp yˆ = b 0 + b 1 x 1 + b 2 x 2 + ... + b p x p là ước lượng của Trị thống kê của mẫu b0 , b1 , b2 , . . . , bp b0, b1, b2, . . . , b pPHƯƠNG PHÁPBÌNH PHƯƠNG TỐI THIỂU▪ Tiêu chí bình phương tối thiểu min  (y i − y i ) 2▪ Tính toán các giá trị của hệ số hồi qui Các công thức tính toán các hệ số hồi qui b0, b1, b2, … bp liên quan đến việc sử dụng đại số tuyến tính. Các phần mềm thống kê sẽ thực hiện việc tính toán này. MÔ HÌNH HỒI QUI TUYẾN TÍNH ĐA BIẾN▪ Ví dụ: Khảo sát lương lập trình viên Một Cty phần mềm thu thập dữ liệu của một mẫu gồm 20 lập trình viên. Người ta đề nghị sử dụng phân tích hồi qui Để xác định xem lương có mối liên hệ với số năm kinh nghiệm và điểm thi năng khiếu về lập trình do cty tổ chức hay không? Số năm kinh nghiệm, điểm thi năng khiếu Và mức lương hàng năm ($1000s) của 20 lập trình viên được trình bày ở bảng sau:MÔ HÌNHHỒI QUI TUYẾN TÍNH ĐA BIẾN Exper. Score Salary Exper. Score Salary 4 78 24.0 9 88 38.0 7 100 43.0 2 73 26.6 1 86 23.7 10 75 36.2 5 82 34.3 5 81 31.6 8 86 35.8 6 74 29.0 10 84 38.0 8 87 34.0 0 75 22.2 4 79 30.1 1 80 23.1 6 94 33.9 6 83 30.0 3 70 28.2 6 91 33.0 3 89 30.0MÔ HÌNHHỒI QUI TUYẾN TÍNH ĐA BIẾNGiả sử chúng ta tin rằng lương hàng năm (y) có mốiliên hệ với số năm kinh nghiệm (x1) và điểm thi năngkhiếu (x2) theo mô hình hồi qui sau: y = b0 + b1x1 + b2x2 + e Với y = Lương hàng năm($1000) x1 = Số năm kinh nghiệm x2 = Điểm thi năng khiếuMÔ HÌNHHỒI QUI TUYẾN TÍNH ĐA BIẾN Dữ liệu Kết quả x1 x2 y Sử dụng b0 = Phần mềm 4 78 24 b1 = Để giải 7 100 43 b2 = Hồi qui . . . R2 = . . . Tuyến tính 3 89 30 Đa biếnƯỚC LƯỢNG b0, b1, b2Bảng số liệu trên Excel A B C D 1 Programmer Experience (yrs) Test Score Salary ($K) 2 1 4 78 24.0 3 2 7 100 43.0 4 3 1 86 23.7 5 4 5 82 34.3 6 5 8 86 35.8 7 6 10 84 38.0 8 7 0 75 22.2 9 8 1 80 23.1ƯỚC LƯỢNG b0, b1, b2Hộp thoại hồi qui trên ExcelƯỚC LƯỢNG b0, b1, b2Kết quả hồi qui trên Excel A B C D E 38 39 Coeffic. Std. Err. t Stat P-value 40 Intercept 3.17394 6.15607 0.5156 0.61279 41 Experience 1.4039 0.19857 7.0702 1.9E-06 42 Test Score 0.25089 0.07735 3.2433 0.00478 43PHƯƠNG TRÌNH HỒI QUIƯỚC LƯỢNG SALARY = 3.174 + 1.404(EXPER) + 0.251(SCORE)GIẢI THÍCHCÁC HỆ SỐ HỒI QUITrong ohân tích hồi qui đa biến, Mỗi hệ số hồi qui ...