TAILIEUCHUNG - Báo cáo khoa học: "Unsupervised Word Alignment with Arbitrary Features"

We introduce a discriminatively trained, globally normalized, log-linear variant of the lexical translation models proposed by Brown et al. (1993). In our model, arbitrary, nonindependent features may be freely incorporated, thereby overcoming the inherent limitation of generative models, which require that features be sensitive to the conditional independencies of the generative process. However, unlike previous work on discriminative modeling of word alignment (which also permits the use of arbitrary features), the parameters in our models are learned from unannotated parallel sentences, rather than from supervised word alignments. . | Unsupervised Word Alignment with Arbitrary Features Chris Dyer Jonathan Clark Alon Lavie Noah A. Smith Language Technologies Institute Carnegie Mellon University PittsbUrgh PA 15213 UsA cdyer jhclark alavie nasmith @ Abstract We introduce a discriminatively trained globally normalized log-linear variant of the lexical translation models proposed by Brown et al. 1993 . In our model arbitrary nonindependent features may be freely incorporated thereby overcoming the inherent limitation of generative models which require that features be sensitive to the conditional independencies of the generative process. However unlike previous work on discriminative modeling of word alignment which also permits the use of arbitrary features the parameters in our models are learned from unannotated parallel sentences rather than from supervised word alignments. Using a variety of intrinsic and extrinsic measures including translation performance we show our model yields better alignments than generative baselines in a number of language pairs. 1 Introduction Word alignment is an important subtask in statistical machine translation which is typically solved in one of two ways. The more common approach uses a generative translation model that relates bilingual string pairs using a latent alignment variable to designate which source words or phrases generate which target words. The parameters in these models can be learned straightforwardly from parallel sentences using EM and standard inference techniques can recover most probable alignments Brown et al. 1993 . This approach is attractive because it only requires parallel training data. An alternative to the generative approach uses a discriminatively trained 409 alignment model to predict word alignments in the parallel corpus. Discriminative models are attractive because they can incorporate arbitrary overlapping features meaning that errors observed in the predictions made by the model can be addressed by engineering new

• Báo cáo khoa học
• Unsupervised Word Alignment
• Arbitrary Features
• Chris Dyer Jonathan
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Smaller Alignment Models for Better Translations
• Unsupervised Word Alignment with the 0
• Ashish Vaswani Liang Huang David Chiang
• An Algorithm
• Unsupervised Transliteration Mining
• Application to Word Alignment
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball