TAILIEUCHUNG - Bài giảng Học máy (IT 4862): Chương 4.5 - Nguyễn Nhật Quang

Chương 4 - Các phương pháp học có giám sát (Máy vectơ hỗ trợ - Support vector machine). Chương này trình bày những nội dung chính sau: Giới thiệu về máy vectơ hỗ trợ, mặt siêu phẳng phân tách, mặt siêu phẳng có lề cực đại, dữ liệu phân tách được tuyền tính, tính toán mức lề, cực đại hóa mức lề, bài toán tối ưu,. nội dung chi tiết. | Học Máy (IT 4862) Nguyễn ễ Nhật hậ Quang quangnn-fit@ Trường Đại học Bách Khoa Hà Nội Viện Công nghệ thông tin và truyền thông Năm học 2011-2012 Nội dung d môn ô học: h Giới thiệu chung g Đánh giá hiệu năng hệ thống học máy Các phương pháp học dựa trên xác suất Các phương pháp học có giám sát Máy vectơ hỗ trợ (Support vector machine) Các phương pháp học không giám sát L cộng Lọc ộ tác tá Học tăng cường Học Máy – IT 4862 2 Máy vectơ hỗ trợ - Giới thiệu (1) Máy vectơ hỗ trợ (Support vector machine - SVM) được đề cử bởi V V. Vapnik và các đồng nghiệp của ông vào những năm 1970s ở Nga, và sau đó đã trở nên nổi tiếng và phổ biến vào những năm 1990s SVM là một phương pháp phân lớp tuyến tính (linear classifier), với mục đích xác định một siêu phẳng (hyperplane) để phân tách hai lớp của dữ liệu – ví dụ: lớp các ví dụ có nhãn dương (positive) và lớp các ví dụ có nhãn âm (negative) Các hàm nhân (kernel functions), cũng được gọi là các hàm biến đổi (transformation functions), được dùng cho các trường hợp phân lớp phi tuyến Học Máy – IT 4862 3 Máy vectơ hỗ trợ - Giới thiệu (2) SVM có một nền tảng lý thuyết chặt chẽ – dựa trên nhiều định lý toán học SVM là một phương pháp tốt (phù hợp) đối với những bài toán phân lớp có không gian biểu diễn thuộc tính lớn – các đối tượng cần phân lớp được biểu diễn bởi một tập rất lớn các thuộc tính SVM đã được biết ế đến ế là một trong số ố các phương pháp phân lớp tốt nhất đối với các bài toán phân lớp văn bản (text/document classification) Học Máy – IT 4862 4 Máy vectơ hỗ trợ - Giới thiệu (3) Các vectơ được ký hiệu bởi các chữ đậm nét! Biểu Biể diễn diễ tập tậ r các á víí dụ d huấn h ấ luyện l ệ (training (t i i examples) l ) {(x1, y1), (x2, y2), , (xr, yr)}, xi là một vectơ đầu vào được biểu diễn trong không gian X ⊆ Rn yi là một nhãn lớp (giá trị đầu ra), yi ∈ {1,-1} yi=1: lớp dương (positive); yi=-1: lớp âm (negative) ⎧ 1 nêu 〈 w ⋅ x

• Kỹ thuật lập trình
• Bài toán tối ưu
• Tính toán mức lề
• Phương pháp học có giám sát
• Mặt siêu phẳng phân tách
• Mặt siêu phẳng có lề cực đại
• Cực đại hóa mức lề
• Phương pháp tối ưu
• Bài toán tối ưu tổ hợp
• Bài toán tối ưu trên đồ thị
• Bài toán luồng cực đại trong mạng
• Thuật toán tối ưu tổ hợp
• Bài toán cơ bản Tối ưu hóa
• Điều khiển tối ưu
• Quy hoạch tuyến tính
• Quy hoạch lồi
• Quy hoạch phi tuyến tính
• Bài toán thiết kế tối ưu
• Đề thi học kỳ
• Thuật toán tối ưu
• Đề thi Thuật toán tối ưu
• Bài tập Thuật toán tối ưu
• Lý thuyết tối ưu
• Điều kiện tối ưu không gian trơn
• Bài giảng Tối ưu hóa trong thiết kế cơ khí
• Tối ưu hóa trong thiết kế cơ khí
• Tối ưu hóa
• Thiết kế cơ khí
• Bài toán tối ưu hóa
• Lập mô hình toán tối ưu hóa
• Thuật toán tối ưu BA
• Thuật giải tối ưu
• Hàm số tối ưu
• Thuật giải tối ưu bầy đàn
• Đề cương môn học Tối ưu hóa
• Môn học Tối ưu hóa
• Quyết định số 783 QĐ ĐT
• Dạng bài toán tối ưu
• Bài giảng Toán tối ưu
• Toán tối ưu
• Bài toán tối ưu đa mục tiêu
• Phương pháp tuyến tính hóa
• Giải tích lồi
• Lý thuyết trò chơi
• Bài toán tối ưu rời rạc
• Bài toán quy hoạch phi tuyến
• Bài giảng tối ưu
• Tối ưu rời rạc
• Giáo trình Công nghệ Thông tin
• Bài toán tối ưu phi tuyến
• Phương pháp giải toán tối ưu hóa
• Phân tích hệ thống tài nguyên nước
• Hệ thống tài nguyên nước
• Tài nguyên nước
• Kỹ thuật tối ưu trong TNN
• Bài toán tối ưu tổng quát
• Phân loại bài toán tối ưu
• Nghiệm bài toán tối ưu
• Bài toán quy hoạch phi tuyến có ràng buộc
• Quy hoạch phi tuyến có ràng buộc
• Điều kiện tối ưu
• Luận văn thạc sĩ
• Luận văn Thạc sĩ Toán học
• Bài toán tối ưu trên tập hữu hiệu
• Hàm phân thức a phin
• Thuật toán giải bài toán WP
• Tài liệu về Toán tối ưu
• Phương pháp có thể
• Tối ưu đa mục tiêu
• Bài giảng Tối ưu hóa nâng cao
• Tối ưu hóa nâng cao
• Bài toán tối ưu không ràng buộc
• Cực tiểu của hàm lồi
• Tổng quan về thuật toán
• Các phương pháp tối ưu
• Tối ưu hóa chó rừng vằn hông
• Hiệu ứng nhà kính
• Tối ưu hóa quá trình vận chuyển
• Thuật toán tối ưu bầy đàn
• Bài toán tối ưu hóa đa mục tiêu
• Tối ưu phi tuyến
• Bài toán đối ngẫu
• Cực trị phiếm hàm
• Các phương pháp tối ưu hóa
• Phương pháp tối ưu hóa
• Quy hoạch nguyên
• Bài toán tối ưu trên mạng
• Quy hoạch phi tuyết
• Điều kiện tối ưu dạng xấp xỉ
• Tối ưu dạng xấp xỉ
• Bài toán tối ưu đa trị
• Hàm đa trị
• Vi phân yếu của hàm véc tơ
• Thuật toán gần đúng
• Tối ưu tổ hợp
• Toán tối ưu tổ hợp
• Ứng dụng thuật toán gần đúng
• Tìm hiểu thuật toán gần đúng
• Tài liệu thuật toán gần đúng
• Phương pháp đồ thị
• Giải bài toán tối ưu hóa
• Ứng dụng excel solver
• Ứng dụng Matlab