TAILIEUCHUNG - Báo cáo khoa học: "Smaller Alignment Models for Better Translations: Unsupervised Word Alignment with the 0"

Two decades after their invention, the IBM word-based translation models, widely available in the GIZA++ toolkit, remain the dominant approach to word alignment and an integral part of many statistical translation systems. Although many models have surpassed them in accuracy, none have supplanted them in practice. | Smaller Alignment Models for Better Translations Unsupervised Word Alignment with the 0-norm Ashish Vaswani Liang Huang David Chiang University of Southern California Information Sciences Institute avaswani Ihuang chiang @ Abstract Two decades after their invention the IBM word-based translation models widely available in the GIZA toolkit remain the dominant approach to word alignment and an integral part of many statistical translation systems. Although many models have surpassed them in accuracy none have supplanted them in practice. In this paper we propose a simple extension to the IBM models an ỉ0 prior to encourage sparsity in the word-to-word translation model. We explain how to implement this extension efficiently for large-scale data also released as a modification to GIZA and demonstrate in experiments on Czech Arabic Chinese and Urdu to English translation significant improvements over IBM Model 4 in both word alignment up to F1 and translation quality up to B . 1 Introduction Automatic word alignment is a vital component of nearly all current statistical translation pipelines. Although state-of-the-art translation models use rules that operate on units bigger than words like phrases or tree fragments they nearly always use word alignments to drive extraction of those translation rules. The dominant approach to word alignment has been the IBM models Brown et al. 1993 together with the HMM model Vogel et al. 1996 . These models are unsupervised making them applicable to any language pair for which parallel text is available. Moreover they are widely disseminated in the open-source GIZA toolkit Och and Ney 2004 . These properties make them the default choice for most statistical MT systems. 311 In the decades since their invention many models have surpassed them in accuracy but none has supplanted them in practice. Some of these models are partially supervised combining unlabeled parallel text with manually-aligned parallel text Moore 2005 .

• Báo cáo khoa học
• Smaller Alignment Models for Better Translations
• Unsupervised Word Alignment with the 0
• Ashish Vaswani Liang Huang David Chiang
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball