TAILIEUCHUNG - Báo cáo khoa học: "Simple Semi-supervised Dependency Parsing"

We present a simple and effective semisupervised method for training dependency parsers. We focus on the problem of lexical representation, introducing features that incorporate word clusters derived from a large unannotated corpus. We demonstrate the effectiveness of the approach in a series of dependency parsing experiments on the Penn Treebank and Prague Dependency Treebank, and we show that the cluster-based features yield substantial gains in performance across a wide range of conditions. . | Simple Semi-supervised Dependency Parsing Terry Koo Xavier Carreras and Michael Collins MIT CSAIL Cambridge MA 02139 USA maestro carreras mcollins @ Abstract We present a simple and effective semisupervised method for training dependency parsers. We focus on the problem of lexical representation introducing features that incorporate word clusters derived from a large unannotated corpus. We demonstrate the effectiveness of the approach in a series of dependency parsing experiments on the Penn Treebank and Prague Dependency Treebank and we show that the cluster-based features yield substantial gains in performance across a wide range of conditions. For example in the case of English unlabeled second-order parsing we improve from a baseline accuracy of to and in the case of Czech unlabeled second-order parsing we improve from a baseline accuracy of to . In addition we demonstrate that our method also improves performance when small amounts of training data are available and can roughly halve the amount of supervised data required to reach a desired level of performance. 1 Introduction In natural language parsing lexical information is seen as crucial to resolving ambiguous relationships yet lexicalized statistics are sparse and difficult to estimate directly. It is therefore attractive to consider intermediate entities which exist at a coarser level than the words themselves yet capture the information necessary to resolve the relevant ambiguities. In this paper we introduce lexical intermediaries via a simple two-stage semi-supervised approach. First we use a large unannotated corpus to define word clusters and then we use that clustering to construct a new cluster-based feature mapping for a discriminative learner. We are thus relying on the ability of discriminative learning methods to identify and exploit informative features while remaining agnostic as to the origin of such features. To demonstrate the effectiveness of our .

• Báo cáo khoa học
• Simple Semi supervised Dependency Parsing
• Terry Koo
• Long Papers
• báo cáo khoa học
• báo cáo ngôn ngữ
• xử lý ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân tích ngữ nghĩa
• Phân loại tin tự động
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Tách từ tiếng Việt
• Gán nhãn từ loại
• Phân tích cú pháp
• Nghĩa từ vựng
• Phân giải nhập nhằng từ
• Phân loại văn bản
• Lexical chain
• Phản hồi thông tin
• Bài toán PTCP
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học