TAILIEUCHUNG - Báo cáo khoa học: "Improved Unsupervised POS Induction through Prototype Discovery"

We present a novel fully unsupervised algorithm for POS induction from plain text, motivated by the cognitive notion of prototypes. The algorithm first identifies landmark clusters of words, serving as the cores of the induced POS categories. The rest of the words are subsequently mapped to these clusters. We utilize morphological and distributional representations computed in a fully unsupervised manner. | Improved Unsupervised POS Induction through Prototype Discovery Omri Abend1 Roi Reichart2 Ari Rappoport1 institute of Computer Science 2ICNC Hebrew University of Jerusalem omria011roiri arir @ Abstract We present a novel fully unsupervised algorithm for POS induction from plain text motivated by the cognitive notion of prototypes. The algorithm first identifies landmark clusters of words serving as the cores of the induced POS categories. The rest of the words are subsequently mapped to these clusters. We utilize morphological and distributional representations computed in a fully unsupervised manner. We evaluate our algorithm on English and German achieving the best reported results for this task. 1 Introduction Part-of-speech POS tagging is a fundamental NLP task used by a wide variety of applications. However there is no single standard POS tagging scheme even for English. Schemes vary significantly across corpora and even more so across languages creating difficulties in using POS tags across domains and for multi-lingual systems Jiang et al. 2009 . Automatic induction of POS tags from plain text can greatly alleviate this problem as well as eliminate the efforts incurred by manual annotations. It is also a problem of great theoretical interest. Consequently POS induction is a vibrant research area see Section 2 . In this paper we present an algorithm based on the theory of prototypes Taylor 2003 which posits that some members in cognitive categories are more central than others. These practically define the category while the membership of other elements is based on their association with the Omri Abend is grateful to the Azrieli Foundation for the award of an Azrieli Fellowship. central members. Our algorithm first clusters words based on a fine morphological representation. It then clusters the most frequent words defining landmark clusters which constitute the cores of the categories. Finally it maps the rest of the words to these categories.

• Báo cáo khoa học
• Improved Unsupervised POS Induction
• Prototype Discovery
• Omri Abend
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball