TAILIEUCHUNG - Báo cáo khoa học: "Native Language Detection with Tree Substitution Grammars"

We investigate the potential of Tree Substitution Grammars as a source of features for native language detection, the task of inferring an author’s native language from text in a different language. We compare two state of the art methods for Tree Substitution Grammar induction and show that features from both methods outperform previous state of the art results at native language detection. | Native Language Detection with Tree Substitution Grammars Ben Swanson Brown University chonger@ Eugene Charniak Brown University ec@ Abstract We investigate the potential of Tree Substitution Grammars as a source of features for native language detection the task of inferring an author s native language from text in a different language. We compare two state of the art methods for Tree Substitution Grammar induction and show that features from both methods outperform previous state of the art results at native language detection. Furthermore we contrast these two induction algorithms and show that the Bayesian approach produces superior classification results with a smaller feature set. 1 Introduction The correlation between a person s native language L1 and aspects of their writing in a second language L2 can be exploited to predict L1 label given L2 text. The International Corpus of Learner English Granger et al 2002 or ICLE is a large set of English student essays annotated with L1 labels that allows us to bring the power of supervised machine learning techniques to bear on this task. In this work we explore the possibility of automatically induced Tree Substitution Grammar TSG rules as features for a logistic regression model1 trained to predict these L1 labels. Automatic TSG induction is made difficult by the exponential number of possible TSG rules given a corpus. This is an active area of research with two distinct effective solutions. The first uses a nonparametric Bayesian model to handle the large number 1 . Maximum Entropy Model 193 of rules Cohn and Blunsom 2010 while the second is inspired by tree kernel methods and extracts common subtrees from pairs of parse trees Sangati and Zuidema 2011 . While both are effective we show that the Bayesian method of TSG induction produces superior features and achieves a new best result at the task of native language detection. 2 Related Work Native Language Detection Work in .

• Báo cáo khoa học
• Native Language Detection
• Tree Substitution Grammars
• Ben Swanson Brown
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball