TAILIEUCHUNG - Báo cáo khoa học: "Prefix Probabilities from Stochastic Tree Adjoining Grammars*"

Language models for speech recognition typically use a probability model of the form Pr(an[al,a2,.,an-i). Stochastic grammars, on the other hand, are typically used to assign structure to utterances, A language model of the above form is constructed from such grammars by computing the prefix probability ~we~* Pr(), where w represents all possible terminations of the prefix . The main result in this paper is an algorithm to compute such prefix probabilities given a stochastic Tree Adjoining Grammar (TAG). The algorithm achieves the required computation in O(n 6) time. . | Prefix Probabilities from Stochastic Tree Adjoining Grammars Mark-Jan Nederhof DFKI Stuhlsatzenhausweg 3 D-66123 Saarbriicken Germany nederhof Anoop Sarkar Dept of Computer and Info. Sc. Univ of Pennsylvania 200 South 33rd Street Philadelphia PA 19104 USA Giorgio Satta Dip. di Elettr. e Inf. Univ di Padova via Gradenigo 6 A 35131 Padova Italy Abstract Language models for speech recognition typically use a probability model of the form Pr an ai a2 . an-i . Stochastic grammars on the other hand are typically used to assign structure to utterances. A language model of the above form is constructed from such grammars by computing the prefix probability Pr ai anw where U represents all possible terminations of the prefix O1 an. The main result in this paper is an algorithm to compute such prefix probabilities given a stochastic Tree Adjoining Grammar TAG . The algorithm achieves the required computation in ỡ n6 time. The probability of subderivations that do not derive any words in the prefix but contribute structurally to its derivation are precomputed to achieve termination. This algorithm enables existing corpus-based estimation techniques for stochastic TAGs to be used for language modelling. 1 Introduction Given some word sequence ai an_i speech recognition language models are used to hypothesize the next word an which could be any word from the vocabulary E. This is typically done using a probability model Pr an ai . an-i . Based on the assumption that modelling the hidden structure of nat Part of this research was done while the first and the third authors were visiting the Institute for Research in Cognitive Science University of Pennsylvania. The first author was supported by the German Federal Ministry of Education Science Research and Technology BMBF in the framework of the Verbmobil Project under Grant 01 IV 701 VO and by the Priority Programme Language and Speech Technology which is sponsored by NWO Dutch

• Báo cáo khoa học
• Prefix Probabilities
• Stochastic Tree
• Adjoining Grammars
• báo cáo khoa học
• mô hình ngôn ngữ
• xử lý ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân tích ngữ nghĩa
• Phân loại tin tự động
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Tách từ tiếng Việt
• Gán nhãn từ loại
• Phân tích cú pháp
• Nghĩa từ vựng
• Phân giải nhập nhằng từ
• Phân loại văn bản
• Lexical chain
• Phản hồi thông tin
• Bài toán PTCP
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học