TAILIEUCHUNG - Báo cáo khoa học: "Unsupervised Morphology Rivals Supervised Morphology for Arabic MT"

If unsupervised morphological analyzers could approach the effectiveness of supervised ones, they would be a very attractive choice for improving MT performance on low-resource inflected languages. In this paper, we compare performance gains for state-of-the-art supervised vs. unsupervised morphological analyzers, using a state-of-theart Arabic-to-English MT system. | Unsupervised Morphology Rivals Supervised Morphology for Arabic MT David Stallard Jacob Devlin Michael Kayser BBN Technologies stallard jdevlin rzbib @ Yoong Keok Lee Regina Barzilay CSAIL Massachusetts Institute of Technology yklee regina @ Abstract If unsupervised morphological analyzers could approach the effectiveness of supervised ones they would be a very attractive choice for improving MT performance on low-resource inflected languages. In this paper we compare performance gains for state-of-the-art supervised vs. unsupervised morphological analyzers using a state-of-the-art Arabic-to-English MT system. We apply maximum marginal decoding to the unsupervised analyzer and show that this yields the best published segmentation accuracy for Arabic while also making segmentation output more stable. Our approach gives an 18 relative BLEU gain for Levantine dialectal Arabic. Furthermore it gives higher gains for Modern Standard Arabic MSA as measured on NIST MT-08 than does MADA Habash and Rambow 2005 a leading supervised MSA segmenter. 1 Introduction If unsupervised morphological segmenters could approach the effectiveness of supervised ones they would be a very attractive choice for improving machine translation MT performance in low-resource inflected languages. An example of particular current interest is Arabic whose various colloquial dialects are sufficiently different from Modern Standard Arabic MSA in lexicon orthography and morphology as to be low-resource languages themselves. An additional advantage of Arabic for study is the availability of high-quality supervised seg-menters for MSA such as MADA Habash and 322 Rambow 2005 for performance comparison. The MT gain for supervised MSA segmenters on dialect establishes a lower bound which the unsupervised segmenter must exceed if it is to be useful for dialect. And comparing the gain for supervised and unsupervised segmenters on MSA tells us how useful the unsupervised segmenter is .

• Báo cáo khoa học
• Unsupervised Morphology Rivals Supervised Morphology
• Arabic MT
• David Stallard
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball