MỤC LỤC

LỜI CAM ĐOAN …………………………………………………………………………………………. i
LỜI CẢM ƠN …………………………………………………………………………………………….. ii
DANH MỤC BẢNG BIỂU …………………………………………………………………………… v
DANH MỤC HÌNH VẼ ………………………………………………………………………………. vi
DANH MỤC CÁC THUẬT NGỮ ……………………………………………………………….. vii
CHỮ VIẾT TẮT ……………………………………………………………………………………….. vii
MỞ ĐẦU ………………………………………………………………………………………………….viii
CHƯƠNG 1: PHƯƠNG PHÁP PHÂN LỚP DỮ LIỆU …………………………………….. 1
1.1. KHÁI QUÁT VỀ PHÂN LỚP DỮ LIỆU ……………………………………………… 1
1.1.1. Phân lớp dự báo dữ liệu …………………………………………………………………. 1
1.1.2. Các vấn đề liên quan đến phân lớp dữ liệu ……………………………………….. 5
1.1.3. Một số phƣơng pháp đánh giá độ chính xác mô hình phân lớp …………….. 7
1.2. CÂY QUYẾT ĐỊNH ỨNG DỤNG TRONG PHÂN LỚP DỮ LIỆU ………… 8
1.2.1. Mô hình cây quyết định …………………………………………………………………. 8
1.2.2. Xây dựng cây quyết định ……………………………………………………………….. 9
1.2.3. Các đặc trƣng trong phân lớp dữ liệu sử dụng cây quyết định ……………. 10
1.3. ĐÁNH GIÁ CÂY DỮ LIỆU TRONG PHÂN LỚP DỮ LIỆU ……………….. 12
1.3.1. Ƣu điểm của cây quyết định …………………………………………………………. 12
1.3.2. Điểm yếu của cây quyết định ………………………………………………………… 13
1.4. MỘT SỐ GIẢI THUẬT PHỔ BIẾN TRONG MÔ HÌNH PHÂN LỚP HIỆN
NAY …………………………………………………………………………………………………….. 14
1.5. MỘT SỐ CÔNG CỤ SỬ DỤNG TRONG KHAI PHÁ DỮ LIỆU ………….. 14
1.5.1. Giới thiệu chung …………………………………………………………………………. 14
1.5.2. Phần mềm Weka …………………………………………………………………………. 16
1.6. ĐÁNH GIÁ ĐỘ ĐO HIỆU QUẢ CỦA MA TRẬN CONFUSION …………. 17
1.7. KẾT LUẬN CHƯƠNG 1 ………………………………………………………………….. 20
CHƯƠNG 2: THUẬT TOÁN BAYES VÀ THUẬT TOÁN C 4.5 ……………………. 21
2.1. THUẬT TOÁN BAYES ĐƠN GIẢN …………………………………………………. 21
2.1.1. Giới thiệu thuật toán Bayes …………………………………………………………… 21
2.1.2. Các bƣớc thực hiện giải thuật ……………………………………………………….. 21
2.1.3. Ví dụ minh họa thuật toán Bayes …………………………………………………… 22
2.2. GIẢI THUẬT HỌC CÂY QUYẾT ĐỊNH C4.5 …………………………………… 24
2.2.1. Giới thiệu thuận toán C4.5 ……………………………………………………………. 24
2.2.2. Trình bày thuật toán …………………………………………………………………….. 25
2.2.3. C4.5 chọn thuộc tính phân loại tốt nhất ………………………………………….. 25
2.2.4. Xử lý những giá trị thiếu trong C4.5 ………………………………………………. 27
2.2.4. Ví dụ minh họa giải thuật C4.5 ……………………………………………………… 27
2.3. KẾT LUẬN CHƯƠNG 2 ………………………………………………………………….. 35
CHƯƠNG 3: PHÂN LỚP DỮ LIỆU HỌC SINH TRƯỜNG SỬ DỤNG THUẬT
TOÁN BAYES VÀ THUẬT TOÁN C 4.5 ……………………………………………………. 37
3.1. THU THẬP VÀ TIỀN XỬ LÝ DỮ LIỆU …………………………………………… 37
3.1.1. Thu thập dữ liệu ………………………………………………………………………….. 37
3.1.2. Tiền xử lý dữ liệu và phân tích, chọn các đặc trƣng cơ bản cho dự đoán
học sinh nhập học. ……………………………………………………………………………….. 39
3.2. DỰ ĐOÁN HỌC SINH DỰ THI VÀO TRƢỜNG THPT NGUYỄN BỈNH
KHIÊM SỬ DỤNG THUẬT TOÁN BAYES VÀ C4.5. ……………………………… 40
3.2.1. Dự đoán học sinh nhập Trường sử dụng thuật toán Bayes. ………………… 40
3.2.2. Dự đoán học sinh nhập Trường sử dụng thuật toán C 4.5. …………………. 42
3.3. KẾT QUẢ THỰC NGHIỆM_CÀI ĐẶT VÀ CHẠY WEKA …………………. 52
3.4. KẾT LUẬN CHƯƠNG 3 ………………………………………………………………….. 59
KẾT LUẬN ……………………………………………………………………………………………… 60
TÀI LIỆU THAM KHẢO …………………………………………………………………………… 61
PHỤ LỤC 1
PHỤ LỤC 2