TAILIEUCHUNG - Bài giảng Xử lý ngôn ngữ tự nhiên (Natural language processing): Bài 5b - Viện Công nghệ Thông tin và Truyền thông

Bài giảng Xử lý ngôn ngữ tự nhiên (Natural language processing): Bài 5b cung cấp cho học viên những nội dung về: phân tích cú pháp xác suất; kết hợp từ (bigrams pr); văn phạm phi ngữ cảnh xác suất; thuật toán CKY kết hợp xác suất; tìm kiếm kiểu chùm; nhập nhằng trong phân tích cú pháp tiếng Việt; . Mời các bạn cùng tham khảo chi tiết nội dung bài giảng! | Phân tích cú pháp xác suất Viện Công nghệ Thông tin và Truyền thông 1 Làm cách nào chọn cây đúng Ví dụ I saw a man with a telescope. Khi số luật tăng khả năng nhập nhằng tăng Tập luật NYU bộ PTCP Apple pie 20 000-30 000 luật cho tiếng Anh Lựa chọn luật AD V DT NN PP 1 VP V NP PP NP DT NN 2 VP V NP NP DT NN PP 2 Kết hợp từ bigrams pr Ví dụ Eat ice-cream high freq Eat John low except on Survivor Nhược điểm P John decided to bake a có xác suất cao Xét P w3 P w3 w2w1 P w3 w2 P w2 w1 P w1 Giả thiết này quá mạnh chủ ngữ có thể quyết định bổ ngữ trong câu Clinton admires honesty sử dụng cấu trúc ngữ pháp để dừng việc lan truyền Xét Fred watered his mother s small garden. Từ garden có ảnh hưởng như thế nào Pr garden mother s small thấp mô hình trigram không tốt Pr garden X là thành phần chính của bổ ngữ cho động từ to water cao hơn sử dụng bigram quan hệ ngữ pháp 3 Kết hợp từ bigrams pr V có một số loại bổ ngữ nhất định Verb-with-obj verb-without-obj Sự tương thích giữa chủ ngữ và bổ ngữ John admires honesty Honesty admires John Nhược điểm Kích thước tập ngữ pháp tăng Các bài báo của tạp chí Wall Street Journal trong 1 năm 47 219 câu độ dài trung bình 23 từ gán nhãn bằng tay chỉ có hay 2 232 câu có cùng cấu trúc ngữ pháp Không thể dựa trên việc tìm các cấu trúc cú pháp đúng cho cả câu. Phải xây dựng tập các mẫu ngữ pháp nhỏ 4 Ví dụ Luật 3 S VP VP VP Luật 1 VP ADJ Luật 2 NP NP DT NN NN VBX JJ CC VBX DT JJ NN This apple pie looks good and is a real treat 5 Luật 1. NP DT NN NN 2. NP DT JJ NN 3. S NP VBX JJ CC VBX NP Nhóm NNS NN thành NX NNP NNPs NPX VBP VBZ VBD VBX Chọn các luật theo tần suất của nó 6 Tính xác suất X NP Pr X Y 1470 Y DT JJ NN NP 9711 7 S NP VP Tính Pr NP DT JJ NN VP VBX NP 1 S 2 NP VP 3 DT JJ NN VBX NP 4 The big guy ate DT JJ NN the apple pie Luật áp dụng Chuỗi Pr 1 S NP VP 2 NP DT JJ NN x 3 VP VBX NP x 4 NP DT JJ NN x Pr 8 Văn phạm phi ngữ cảnh xác suất 1 .

• Kỹ thuật lập trình
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Natural language processing
• Phân tích cú pháp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Độc lập ngữ cảnh
• Thuật toán Beam search
• Ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Xử lý ngôn ngữ
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Phân tích ngữ nghĩa
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Tách từ tiếng Việt
• Gán nhãn từ loại
• Phân tích cú pháp
• Nghĩa từ vựng
• Phân giải nhập nhằng từ
• Phân loại văn bản
• Lexical chain
• Phản hồi thông tin
• Phân loại tin tự động
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Bài toán PTCP
• Cấu trúc ngữ pháp
• CKY kết hợp xác suất
• Hình thái học