TAILIEUCHUNG - Bài giảng Cây quyết định (ID3) và học quy nạp (ILA) - Tô Hoài Việt

Bài giảng Cây quyết định (ID3) và học quy nạp (ILA) - Tô Hoài Việt giới thiệu đến bạn đọc những nội dung về: Cây quyết định Học cây quyết định–thuật toán ID3, biểu diễn tri thức bằng luật, rút luật từ cây quyết định, thuật toán học quy nạp. | Cây quyết định (ID3) và Học Quy nạp (ILA) Tô Hoài Việt Khoa Công nghệ Thông tin Đại học Khoa học Tự nhiên TPHCM thviet@ Trang Nội dung Cây quyết định Học cây quyết định – Thuật toán ID3 Biểu diễn tri thức bằng luật Rút luật từ cây quyết định Thuật toán học quy nạp Trang Cây quyết định Cây quyết định biểu diễn: Mỗi nút trong kiểm tra một thuộc tính Mỗi nhánh tương ứng với giá trị thuộc tính Mỗi nút lá được gán một phân lớp Định luật Occam: những cây đơn giản là những cây quyết định tốt hơn Trang Thuật toán học ID3 Được phát triển đồng thời bởi Quinlan trong AI và Breiman, Friedman, Olsen và Stone trong thống kê Lặp: 1. Chọn A thuộc tính quyết định “tốt nhất” cho nút kế tiếp 2. Gán A là thuộc tính quyết định cho nút 3. Với mỗi giá trị của A, tạo nhánh con mới của nút 4. Phân loại các mẫu huấn luyện cho các nút lá 5. Nếu các mẫu huấn luyện được phân loại hoàn toàn thì NGƯNG, Ngược lại, lặp với các nút lá mới. Thuộc tính tốt nhất là gì? Trang Entropy S là tập các mẫu huấn luyện p là tỷ lệ các mẫu dương trong S H – – (1 – p).log2(1 – p) Trang Thuật toán học ID3 Được phát triển đồng thời bởi Quinlan trong AI và Breiman, Friedman, Olsen và Stone trong thống kê Lặp: 1. Chọn A thuộc tính quyết định “tốt nhất” cho nút kế tiếp 2. Gán A là thuộc tính quyết định cho nút 3. Với mỗi giá trị của A, tạo nhánh con mới của nút 4. Phân loại các mẫu huấn luyện cho các nút lá 5. Nếu các mẫu huấn luyện được phân loại hoàn toàn thì NGƯNG, Ngược lại, lặp với các nút lá mới. Thuộc tính tốt nhất sẽ làm tối thiểu hoá entropy trung bình của dữ liệu trong các nút con Trang Ví dụ Huấn luyện Trang Ví dụ (tt) Outlook 3+,2- 4+,0- 2+,3- Rain Overcast Sunny Hrain = – 3/ – 2/ = + = H = 0 H = H = Hovercast = – 4/ – 0/ = 0 + 0 = 0 Hsunny = – 2/ – 3/ = + = Trang Ví dụ (tt) Outlook 3+,2- 4+,0- 2+,3- Rain Overcast Sunny Temparature 2+,2- 4+,2-

TỪ KHÓA LIÊN QUAN
TÀI LIỆU MỚI ĐĂNG
8    164    3    24-12-2024
TAILIEUCHUNG - Chia sẻ tài liệu không giới hạn
Địa chỉ : 444 Hoang Hoa Tham, Hanoi, Viet Nam
Website : tailieuchung.com
Email : tailieuchung20@gmail.com
Tailieuchung.com là thư viện tài liệu trực tuyến, nơi chia sẽ trao đổi hàng triệu tài liệu như luận văn đồ án, sách, giáo trình, đề thi.
Chúng tôi không chịu trách nhiệm liên quan đến các vấn đề bản quyền nội dung tài liệu được thành viên tự nguyện đăng tải lên, nếu phát hiện thấy tài liệu xấu hoặc tài liệu có bản quyền xin hãy email cho chúng tôi.
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.