TAILIEUCHUNG - Bài giảng Lý thuyết nhận dạng – Chương 4: Phân lớp dựa trên tối ưu hóa hàm lượng giá

"Bài giảng Lý thuyết nhận dạng – Chương 4: Phân lớp dựa trên tối ưu hóa hàm lượng giá" với các nội dung giới thiệu chung (cont); thuật toán perceptron; phương pháp tổng bình phương nhỏ nhất; support vector machnes trường hợp tuyến tính; các lớp không phân biệt . | Tối ưu hóa hàm lượng giá LÝ THUYẾT NHẬN DẠNG CHƯƠNG 4 PHÂN LỚP DỰA TRÊN TỐI ƯU HÓA HÀM LƯỢNG GIÁ 1 Biên soạn TS Ngô Hữu Phúc Bộ môn Khoa học máy tính Học viện kỹ thuật quân sự Email ngohuuphuc76@ . GIỚI THIỆU CHUNG Trong chương này tập trung vào việc thiết kế hàm phân biệt mặt quyết định có khả năng phân lớp theo một tiêu chí nào đó. Với các kỹ thuật sử dụng bộ phân lớp Bayesian dựa trên ước lượng hàm phân bố dữ liệu của mỗi lớp. Tuy nhiên đây là nhóm công việc phức tạp đối với dữ liệu có số chiều lớp. Chương này đưa ra giải pháp xây dựng mặt quyết định mà không cần sử dụng hàm phân bố của dữ liệu. Giải pháp thuộc nhóm này đơn giản hơn so với phương pháp phân lớp Bayesian ngay cả đối với dữ liệu không nhiều. Tối ưu hóa hàm lượng giá 2 . GIỚI THIỆU CHUNG CONT Để minh họa thiết kế bộ phân lớp tuyến tính được mô tả 0 0 hay có thể viết lại 0 1 Như vậy nếu được ước lượng một bộ dữ liệu x sẽ thuộc lớp 1 2 nếu 0 gt lt 0 Lưu ý để đơn giản cách viết có thể lược bỏ ký hiệu chuyển vị. Tối ưu hóa hàm lượng giá 3 . GIỚI THIỆU CHUNG CONT Với dữ liệu trên có thể dùng bộ phân lớp tuyến tính Tối ưu hóa hàm lượng giá 4 . GIỚI THIỆU CHUNG CONT Với dữ liệu trên có thể dùng bộ phân lớp tuyến tính Tối ưu hóa hàm lượng giá 5 . THUẬT TOÁN PERCEPTRON Thuật toán Perceptron thích hợp với phân 2 lớp dạng tuyến tính. Giải thuật tính giá trị của trọng số w trong bộ phân lớp tuyến tính để có thể phân biệt 2 lớp. Giải thuật bắt đầu từ một ước lượng ban đầu và hội tụ đến lời giải của bài toán sau một số bước lặp. Việc cập nhật giá trị trọng số tại bước i có dạng 1 Trong đó w đã bao gồm cả 0 Y tập bị phân lớp sai ở bước t 1 nếu 1 1 nếu 2 hệ số học tại bước t. Hệ số này do người thiết kế lựa chọn. Thuật toán dừng khi Y rỗng. Tối ưu hóa hàm lượng giá 6 . THUẬT TOÁN PERCEPTRON CONT Nguyên tắc chung của giải thuật là giảm gradient Ý tưởng chung Từ đó ta có 1 với đóng vai trò hệ số học Tối ưu hóa hàm lượng giá 7 . THUẬT TOÁN PERCEPTRON CONT Ví dụ về sự biến đổi trong ý .

• Cơ sở dữ liệu
• Bài giảng Lý thuyết nhận dạng
• Bài giảng Lý thuyết nhận dạng Chương 4
• Tối ưu hóa hàm lượng giá
• Hàm lượng giá
• Thuật toán perceptron
• Bài giảng Lý thuyết nhận dạng Chương 2
• Chương 2 Giới thiệu về nhận dạng mẫu
• Giới thiệu về nhận dạng mẫu
• Nhận dạng mẫu
• Chuẩn hóa dữ liệu
• Lý thuyết nhận dạng
• Kỹ thuật trong lý thuyết nhận dạng
• Ước lượng mật độ dùng cửa sổ Parzen
• Mạng neural theo xác suất
• Một số kỹ thuật trong lý thuyết nhận dạng
• Mạng neural RBF
• Sử dụng mạng neural RBF
• Bài giảng Lý thuyết nhận dạng Chương 3
• Nhận dạng mẫu dựa trên thống kê
• Cực đại hàm tin cậy
• Mô hình hỗn hợp
• Bài giảng Lý thuyết nhận dạng Chương 1
• Chương 1 Nội dung môn học
• Nhận dạng mẫu dựa trên thống kê học
• Ước lượng hàm mật độ xác suất
• giáo trình lý thuyết
• nhận dạng ứng dụng
• quá trình nhận thức
• thuật toán nhận dạng
• phân loại dạng
• khoa học nhận dạng
• phân lớp dạng
• Nhắc lại kiến thức xác suất
• Luật tổng xác suất
• Định lý Bayes
• Bài giảng Lý thuyết nhận dạng Chương 5
• Sự phân lớp dựa
• Phân lớp dựa trên láng giềng gần nhất
• Tìm kiếm trên đồ thị
• Tin học lý thuyết
• Bài giảng Tin học lý thuyết
• Máy Turing
• Turing Machine
• Mô hình TM
• TM nhận dạng ngôn ngữ
• Bài giảng Lý thuyết mạch
• Lý thuyết mạch
• Kỹ thuật điện
• Phân tích vật lý
• Phân tích toán học
• Chức năng mô hình hóa