TAILIEUCHUNG - Báo cáo khoa học: "Rare Word Translation Extraction from Aligned Comparable Documents"

We present a first known result of high precision rare word bilingual extraction from comparable corpora, using aligned comparable documents and supervised classification. We incorporate two features, a context-vector similarity and a co-occurrence model between words in aligned documents in a machine learning approach. We test our hypothesis on different pairs of languages and corpora. | Rare Word Translation Extraction from Aligned Comparable Documents Emmanuel Prochasson and Pascale Fung Human Language Technology Center Hong Kong University of Science and Technology Clear Water Bay Kowloon Hong Kong eemmanuel pascale @ Abstract We present a first known result of high precision rare word bilingual extraction from comparable corpora using aligned comparable documents and supervised classification. We incorporate two features a context-vector similarity and a co-occurrence model between words in aligned documents in a machine learning approach. We test our hypothesis on different pairs of languages and corpora. We obtain very high F-Measure between 80 and 98 for recognizing and extracting correct translations for rare terms from 1 to 5 occurrences . Moreover we show that our system can be trained on a pair of languages and test on a different pair of languages obtaining a F-Measure of 77 for the classification of Chinese-English translations using a training corpus of Spanish-French. Our method is therefore even potentially applicable to low resources languages without training data. 1 Introduction Rare words have long been a challenge to translate automatically using statistical methods due to their low occurrences. However the Zipf s Law claims that for any corpus of natural language text the frequency of a word wn n being its rank in the frequency table will be roughly twice as high as the frequency of word wra i. The logical consequence is that in any corpus there are very few frequent words and many rare words. We propose a novel approach to extract rare word translations from comparable corpora relying on two main features. The first feature is the context-vector similarity Fung 2000 Chiao and Zweigenbaum 2002 1327 Laroche and Langlais 2010 each word is characterized by its context in both source and target corpora words in translation should have similar context in both languages. The second feature follows the assumption that specific

• Báo cáo khoa học
• Rare Word Translation Extraction
• Aligned Comparable Documents
• Emmanuel Prochasson and Pascale Fung
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball