TAILIEUCHUNG - Báo cáo khoa học: "Enhancing Statistical Machine Translation with Character Alignment"

The dominant practice of statistical machine translation (SMT) uses the same Chinese word segmentation specification in both alignment and translation rule induction steps in building Chinese-English SMT system, which may suffer from a suboptimal problem that word segmentation better for alignment is not necessarily better for translation. | Enhancing Statistical Machine Translation with Character Alignment Ning Xi Guangchao Tang Xinyu Dai Shujian Huang Jiajun Chen State Key Laboratory for Novel Software Technology Department of Computer Science and Technology Nanjing University Nanjing 210046 China xin tanggc dxy huangsj chenjj @ Abstract The dominant practice of statistical machine translation SMT uses the same Chinese word segmentation specification in both alignment and translation rule induction steps in building Chinese-English SMT system which may suffer from a suboptimal problem that word segmentation better for alignment is not necessarily better for translation. To tackle this we propose a framework that uses two different segmentation specifications for alignment and translation respectively we use Chinese character as the basic unit for alignment and then convert this alignment to conventional word alignment for translation rule induction. Experimentally our approach outperformed two baselines fully word-based system using word for both alignment and translation and fully character-based system in terms of alignment quality and translation performance. 1 Introduction Chinese Word segmentation is a necessary step in Chinese-English statistical machine translation SMT because Chinese sentences do not delimit words by spaces. The key characteristic of a Chinese word segmenter is the segmentation specifi-cation1. As depicted in Figure 1 a the dominant practice of SMT uses the same word segmentation for both word alignment and translation rule induction. For brevity we will refer to the word segmentation of the bilingual corpus as word segmentation for alignment WSA for short because it determines the basic tokens for alignment and refer to the word segmentation of the aligned corpus as word segmentation for rules WSR for short because it determines the basic tokens of translation Bilingual Corpus WSA t Word alignment Aligned Corpus WSA f Rule induction Translation Rules WSR f .

• Báo cáo khoa học
• Enhancing Statistical Machine Translation
• Character Alignment
• Ning Xi
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Enhancing Language Models
• Statistical Machine Translation with Backward N grams
• Mutual Information Triggers
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball