Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Sức khỏe - Y tế
Văn bản luật
Nông Lâm Ngư
Kỹ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Tài liệu HOT
Tìm
Danh mục
Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Y tế sức khỏe
Văn bản luật
Nông lâm ngư
Kĩ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Thông tin
Điều khoản sử dụng
Quy định bảo mật
Quy chế hoạt động
Chính sách bản quyền
0
Trang chủ
Công Nghệ Thông Tin
Kỹ thuật lập trình
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 7.2 - Lê Thanh Hương
TAILIEUCHUNG - Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 7.2 - Lê Thanh Hương
Chương này trình bày về phân lớp văn bản tiếng việt theo hướng tiếp cận lexical chain. Nội dung chính gồm có: Tổng quan về bài toán phân lớp văn bản, tiếp cận bài toán phân lớp văn bản tiếng Việt theo hướng lexical chain. . | 4/21/2011 PHẦN I: PHÂN LỚP VĂN BẢN TIẾNG VIỆT THEO HƯỚNG TIẾP CẬN LEXICAL CHAIN TỔNG QUAN VỀ BÀI TOÁN PHÂN LỚP VĂN BẢN Các phương pháp biểu diễn văn bản Mô hình vector Văn bản = 1 vector n chiều + trọng số cho mỗi giá trị của nó Mô hình vector thưa số ố từ với ới ttrọng số ố khác khá 0 nhỏ hỏ hơn h rất ất nhiều hiề so với ới số ố từ có ó trong Cơ sở dữ liệu Các phương pháp biểu diễn văn bản Mô hình tần số kết hợp TF x IDF Xét: Tập dữ liệu gồm m văn bản: D = {d1, d2, dm}. ạ g một ộ vector g gồm n thuật ậ Mỗi văn bản biểu diễn dưới dạng ngữ T = {t1, t2, tn}. fij là số lần xuất hiện của thuật ngữ ti trong văn bản dj m là số lượng văn bản hi là số văn bản mà thuật ngữ ti xuất hiện Gọi W = {wij } là ma trận trọng số, trong đó wij là giá trị trọng số của thuật ngữ ti trong văn bản dj Các phương pháp biểu diễn văn bản Ma trận trọng số TFxIDF được tính như sau: ⎧ ⎛m⎞ ⎪[1 + log( f ij )] log⎜⎜ ⎟⎟ nÕu hij ≥ 1 wij = ⎨ ⎝ hi ⎠ ⎪ ⎩0 nÕu ng−îc l¹i Các phương pháp biểu diễn văn bản (tt) Mô hình Lexical Chain: “Lexical Chain” là một khái niệm nhằm duy trì tính cố kết giữa các từ trong văn bản có mối liên quan với nhau về mặt ngữ nghĩa g Một số loại quan hệ về ngữ nghĩa giữa các từ: Lặp lại (Repeatation) Đồng nghĩa (synonyms ) Trái nghĩa () Bộ phận-Toàn thể (hypernyms, hyponyms ) Ví dụ : C1= {kinh tế, thương mại, lĩnh vực, vốn, thị trường} 1 4/21/2011 Các thuật toán giải quyết bài toán Phân lớp văn bản Thuật toán cây quyết định. Thuật toán k-NN. Thuật toán Lexical Chain. Thuật toán kNN (K-Nearest Neighbor) Tư tưởng : tính toán độ phù hợp của văn bản đang xét với từng lớp (nhóm) dựa trên k văn bản mẫu có độ tương tự gần nhất. Có 3 cách gán nhãn: Gán nhãn văn bản gần nhất: Gán nhãn theo số đông Gán nhãn theo độ phù hợp chủ đề Cách biểu diễn văn bản (hướng tiếp cận truyền thống): TF x IDF Lý do lựa chọn hướng Lexical Chain Can thiệp vào bản chất ngôn ngữ của văn bản, thay vì mô hình toán học thuần tuý
Quốc Hùng
76
6
pdf
Báo lỗi
Trùng lắp nội dung
Văn hóa đồi trụy
Phản động
Bản quyền
File lỗi
Khác
Upload
Tải xuống
đang nạp các trang xem trước
Bấm vào đây để xem trước nội dung
Tải xuống
TÀI LIỆU LIÊN QUAN
Bài giảng Xử lý ngôn ngữ tự nhiên: Chương 7 - Nguyễn Kiêm Hiếu (ĐH Bách khoa Hà Nội)
7
177
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 1 - Lê Thanh Hương
13
147
2
Bài giảng Xử lý ngôn ngữ tự nhiên: Chương 6 - Nguyễn Kiêm Hiếu (ĐH Bách khoa Hà Nội)
6
227
2
Bài giảng Xử lý ngôn ngữ tự nhiên: Dịch máy - Lê Thanh Hương
12
126
0
Bài giảng Xử lý ngôn ngữ tự nhiên: Dịch máy - Lê Thanh Hương
12
119
1
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 4(tt) - Lê Thanh Hương
6
130
1
Bài giảng Xử lý ngôn ngữ tự nhiên: Phân loại tin tự động cho báo điện tử - Lê Thanh Hương
4
107
0
Bài giảng Xử lý ngôn ngữ tự nhiên: Phân loại tin tự động cho báo điện tử - Lê Thanh Hương
6
91
1
Bài giảng Xử lý ngôn ngữ tự nhiên: Phân tích ngữ nghĩa - Lê Thanh Hương
5
120
0
Bài giảng Xử lý ngôn ngữ tự nhiên: Phân tích ngữ nghĩa - Lê Thanh Hương
5
99
1
TÀI LIỆU XEM NHIỀU
Một Case Về Hematology (1)
8
461905
55
Giới thiệu :Lập trình mã nguồn mở
14
22837
64
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10939
531
Câu hỏi và đáp án bài tập tình huống Quản trị học
14
10131
449
Phân tích và làm rõ ý kiến sau: “Bài thơ Tự tình II vừa nói lên bi kịch duyên phận vừa cho thấy khát vọng sống, khát vọng hạnh phúc của Hồ Xuân Hương”
3
9552
104
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8322
1127
Tiểu luận: Nội dung tư tưởng Hồ Chí Minh về đạo đức
16
8264
423
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7879
2223
Đề tài: Dự án kinh doanh thời trang quần áo nữ
17
6749
253
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
5905
1423
TỪ KHÓA LIÊN QUAN
Kỹ thuật lập trình
Xử lý ngôn ngữ tự nhiên
Xử lý ngôn ngữ
Bài giảng Xử lý ngôn ngữ tự nhiên
Natural Language Processing
Ngôn ngữ lập trình
Lexical chain
Ngôn ngữ tự nhiên
Kỹ thuật lập trình
Xử lý nhập nhằng ngữ nghĩa
Xử lý ngữ nghĩa
Nhập nhằng cấu trúc
Tri thức về ngôn ngữ
Mô hình ngôn ngữ
Mô hình n gram
Dịch máy
Phương pháp dịch máy
Hiểu ngôn ngữ
Phân tích ngữ nghĩa
Phân loại tin tự động
Biểu diễn vị từ
Thuộc tính về sự kiện
Thuộc tính về sự kiện
Mô hình ngôn ngữ Google Book N grams
Mô hình ngôn ngữ KenLM
Phương pháp làm mịn
Tách từ tiếng Việt
Gán nhãn từ loại
Phân tích cú pháp
Nghĩa từ vựng
Phân giải nhập nhằng từ
Phân loại văn bản
Phản hồi thông tin
Bài toán PTCP
Cấu trúc ngữ pháp
Phân tích cú pháp xác suất
CKY kết hợp xác suất
Văn phạm phi ngữ cảnh xác suất
Hình thái học
TÀI LIỆU MỚI ĐĂNG
Động cơ đốt trong và máy kéo công nghiêp tập 1 part 7
23
262
0
08-05-2024
Báo cáo nghiên cứu khoa học " KẾT QUẢ NGHIÊN CỨU BƯỚC ĐẦU VỀ THIÊN ĐỊCH CHÂN KHỚP TRÊN CÂY THANH TRÀ Ở THỪA THIÊN HUẾ "
7
177
0
08-05-2024
Công nghiệp gang thép Việt Nam : Một giai đoạn phát triển và chuyển đổi chính sách mới part 5
6
197
0
08-05-2024
Đóng mới oto 8 chỗ ngồi part 9
10
122
0
08-05-2024
QUẢN LÝ CHẤT LƯỢNG KHÔNG KHÍ
75
140
0
08-05-2024
MẪU GIẤY PHÉP VẬN TẢI LOẠI C
2
112
0
08-05-2024
MẪU CHỨNG CHỈ QUẢN LÝ VŨ KHÍ, VẬT LIỆU NỔ, CCHT
1
123
0
08-05-2024
Giáo trình phân tích phương trình vi phân viết dưới dạng thuật toán đặc tính của hệ thống p1
5
106
0
08-05-2024
ĐỀ THI THỬ ĐẠI HỌC 2009 – THPT ĐÔNG SƠN 1 – LẦN 2 – MÔN TOÁN
8
95
0
08-05-2024
Anh văn TOEFL Vocabulary-008
8
90
0
08-05-2024
TÀI LIỆU HOT
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7879
2223
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
5905
1423
Ebook Chào con ba mẹ đã sẵn sàng
112
3777
1243
Ebook Tuyển tập đề bài và bài văn nghị luận xã hội: Phần 1
62
5368
1137
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8322
1127
Giáo trình Văn hóa kinh doanh - PGS.TS. Dương Thị Liễu
561
3526
646
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10939
531
Giáo trình Sinh lí học trẻ em: Phần 1 - TS Lê Thanh Vân
122
3713
525
Giáo trình Pháp luật đại cương: Phần 1 - NXB ĐH Sư Phạm
274
4113
520
Bài tập nhóm quản lý dự án: Dự án xây dựng quán cafe
35
4151
481
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.