Luận văn Thạc sĩ Khoa học: Một số tiêu chuẩn lựa chọn mô hình

Một số Tiêu Chuẩn Lựa Chọn Mô Hình

Tác giả: PHẠM THỊ HOA

Lĩnh vực: ĐẠI HỌC KHOA HỌC TỰ NHIÊN, ĐẠI HỌC QUỐC GIA HÀ NỘI

Nội dung tài liệu:
Luận văn này trình bày các tiêu chuẩn thông tin quan trọng để lựa chọn mô hình phù hợp, cụ thể là tiêu chuẩn thông tin Akaike (AIC) và tiêu chuẩn thông tin Bayesian (BIC). Bài toán lựa chọn mô hình là một bài toán cơ bản trong thống kê, học máy, kinh tế lượng, nhằm xác định mô hình tốt nhất từ một tập hợp các mô hình ứng cử viên dựa trên bộ dữ liệu cho trước. Luận văn tập trung vào việc giới thiệu các kiến thức nền tảng, bao gồm lượng thông tin Fisher, ước lượng hợp lý cực đại, các dạng phân tích hồi quy (tuyến tính, Poisson, logistic), mối liên hệ giữa ước lượng hợp lý cực đại và khoảng cách Kullback-Leibler, cũng như định nghĩa và nguồn gốc của AIC và BIC. Cuối cùng, luận văn đề cập đến việc áp dụng các tiêu chuẩn này thông qua phần mềm R với một bộ dữ liệu cụ thể.

Mục lục chi tiết:

• Lời cảm ơn
• Chương 1: Kiến thức chuẩn bị
  • 1.1 Lượng thông tin Fisher
  • 1.2 Ước lượng hợp lý cực đại
  • 1.3 Hồi quy tuyến tính
    • 1.3.1 Giới thiệu mô hình hồi quy tuyến tính cổ điển
    • 1.3.2 Phương pháp ước lượng bình phương cực tiểu
    • 1.3.3 Tính chất ước lượng bằng phương pháp bình phương cực tiểu
  • 1.4 Hồi quy Poisson
  • 1.5 Hồi quy logistic
• Chương 2: Một số tiêu chuẩn lựa chọn mô hình
  • 2.1 Tiêu chuẩn thông tin Akaike
    • 2.1.1 Khoảng cách Kullback-Leibler
    • 2.1.2 Ước lượng hợp lý cực đại và khoảng cách Kullback-Leibler
    • 2.1.3 Định nghĩa AIC
    • 2.1.4 AIC và khoảng cách Kullback-Leibler
    • 2.1.5 Tiêu chuẩn Takeuchi
    • 2.1.6 AIC hiệu chỉnh cho hồi quy tuyến tính
  • 2.2 Tiêu chuẩn thông tin Bayesian (BIC)
    • 2.2.1 Nguồn gốc của BIC
    • 2.2.2 Định nghĩa BIC
    • 2.2.3 Ai là người viết ‘The Quiet Don’?
• Chương 3: Áp dụng
  • 3.1 Giới thiệu về phần mềm R
  • 3.2 Áp dụng với bộ số liệu
• Kết luận
• Phụ lục
• Tài liệu tham khảo