TAILIEUCHUNG - Báo cáo khoa học: "Confidence-Weighted Learning of Factored Discriminative Language Models"

Language models based on word surface forms only are unable to benefit from available linguistic knowledge, and tend to suffer from poor estimates for rare features. We propose an approach to overcome these two limitations. We use factored features that can flexibly capture linguistic regularities, and we adopt confidence-weighted learning, a form of discriminative online learning that can better take advantage of a heavy tail of rare features. | Confidence-Weighted Learning of Factored Discriminative Language Models Viet Ha-Thuc Computer Science Department The University of Iowa Iowa City IA 52241 USA hviet@ Nicola Cancedda Xerox Research Centre Europe 6 chemin de Maupertuis 38240 Meylan France Abstract Language models based on word surface forms only are unable to benefit from available linguistic knowledge and tend to suffer from poor estimates for rare features. We propose an approach to overcome these two limitations. We use factored features that can flexibly capture linguistic regularities and we adopt confidence-weighted learning a form of discriminative online learning that can better take advantage of a heavy tail of rare features. Finally we extend the confidence-weighted learning to deal with label noise in training data a common case with discriminative language modeling. 1 Introduction Language Models LMs are key components in most statistical machine translation systems where they play a crucial role in promoting output fluency. Standard n-gram generative language models have been extended in several ways. Generative factored language models Bilmes and Kirchhoff 2003 represent each token by multiple factors -such as part-of-speech lemma and surface form-and capture linguistic patterns in the target language at the appropriate level of abstraction. Instead of estimating likelihood discriminative language models Roark et al. 2004 Roark et al. 2007 Li and Khudanpur 2008 directly model fluency by casting the task as a binary classification or a ranking problem. The method we propose combines advantages of both directions mentioned above. We use factored features to capture linguistic patterns and discriminative learning for directly modeling fluency. We define highly overlapping and correlated factored features and extend a robust learning algorithm to handle them and cope with a high rate of label noise. For discriminatively learning language models we

• Báo cáo khoa học
• Confidence Weighted Learning
• Factored Discriminative Language Models
• Viet Ha Thuc
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball