TAILIEUCHUNG - Báo cáo khoa học: "HIDDEN UNDERSTANDING MODELS OF NATURAL LANGUAGE"

This hybrid system participated in the 1993 ATIS natural language evaluation. Although only four months old, the scores achieved by the combined system were quite respectable. Because of differences between language understanding and speech recognition, significant changes are required in the hidden Markov model methodology. Unlike speech, where each phoneme results in a local sequence of spectra, the relation between the meaning of a sentence and the sequence of words is not a simple linear sequential model. . | HIDDEN UNDERSTANDING MODELS OF NATURAL LANGUAGE Scott Miller College of Computer Science Northeastern University Boston MA 02115 millers@ Robert Bobrow Robert Ingria Richard Schwartz BBN Systems and Technologies 70 Fawcett St. Cambridge MA 02138 rusty ingria schwartz@ Abstract We describe and evaluate hidden understanding models a statistical learning approach to natural language understanding. Given a string of words hidden understanding models determine the most likely meaning for the string. We discuss 1 the problem of representing meaning in this framework 2 the structure of the statistical model 3 the process of training the model and 4 the process of understanding using the model. Finally we give experimental results including results on an ARPA evaluation. 1 Introduction Hidden understanding models are an innovative class of statistical mechanisms that given a string of words determines the most likely meaning for the string. The overall approach represents a substantial departure from traditional techniques by replacing hand-crafted grammars and rules with statistical models that are automatically learned from examples. Hidden understanding models were primarily motivated by techniques that have been extremely successful in speech recognition especially hidden Markov models Baum 72 . Related techniques have previously been applied to the problem of identifying concept sequences within a sentence Pieraccini et al. 91 . In addition the approach contains elements of other natural language processing techniques including semantic grammars Waltz 78 Hendrix 78 augmented transition networks ATNs Woods 70 probabilistic parsing Fujisaki et al. 89 Chitrao and Grishman 90 Seneff 92 and automatic grammar induction Perefra and Schabes 92 . Hidden understanding models are capable of learning a variety of meaning representations ranging from simple domain-specific representations to ones at a level of detail and sophistication comparable to current .

• Báo cáo khoa học
• HIDDEN UNDERSTANDING MODELS
• NATURAL LANGUAGE
• Scott Miller
• báo cáo khoa học
• mô hình ngôn ngữ
• xử lý ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân tích ngữ nghĩa
• Phân loại tin tự động
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Tách từ tiếng Việt
• Gán nhãn từ loại
• Phân tích cú pháp
• Nghĩa từ vựng
• Phân giải nhập nhằng từ
• Phân loại văn bản
• Lexical chain
• Phản hồi thông tin
• Bài toán PTCP
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học