TAILIEUCHUNG - Báo cáo khoa học: "Learning Sub-Word Units for Open Vocabulary Speech Recognition"

Large vocabulary speech recognition systems fail to recognize words beyond their vocabulary, many of which are information rich terms, like named entities or foreign words. Hybrid word/sub-word systems solve this problem by adding sub-word units to large vocabulary word based systems; new words can then be represented by combinations of subword units. Previous work heuristically created the sub-word lexicon from phonetic representations of text using simple statistics to select common phone sequences. . | Learning Sub-Word Units for Open Vocabulary Speech Recognition Carolina Parada1 Mark Dredze1 Abhinav Sethy2 and Ariya Rastrow1 1 Human Language Technology Center of Excellence Johns Hopkins University 3400 N Charles Street Baltimore MD USA carolinap@ mdredze@ ariya@ 2IBM . Watson Research Center Yorktown Heights NY USA asethy@ Abstract Large vocabulary speech recognition systems fail to recognize words beyond their vocabulary many of which are information rich terms like named entities or foreign words. Hybrid word sub-word systems solve this problem by adding sub-word units to large vocabulary word based systems new words can then be represented by combinations of subword units. Previous work heuristically created the sub-word lexicon from phonetic representations of text using simple statistics to select common phone sequences. We propose a probabilistic model to learn the subword lexicon optimized for a given task. We consider the task of out of vocabulary OOV word detection which relies on output from a hybrid model. A hybrid model with our learned sub-word lexicon reduces error by and absolute at a 5 false alarm rate on an English Broadcast News and MIT Lectures task respectively. 1 Introduction Most automatic speech recognition systems operate with a large but limited vocabulary finding the most likely words in the vocabulary for the given acoustic signal. While large vocabulary continuous speech recognition LVCSR systems produce high quality transcripts they fail to recognize out of vocabulary OOV words. Unfortunately OOVs are often information rich nouns such as named entities and foreign words and mis-recognizing them can have a disproportionate impact on transcript coherence. 712 Hybrid word sub-word recognizers can produce a sequence of sub-word units in place of OOV words. Ideally the recognizer outputs a complete word for in-vocabulary IV utterances and sub-word units for OOVs. Consider the word Slobodan the

• Báo cáo khoa học
• Learning Sub Word Units
• Open Vocabulary Speech Recognition
• Carolina Parada
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball