TAILIEUCHUNG - Báo cáo khoa học: "Modeling Topic Dependencies in Hierarchical Text Categorization"

In this paper, we encode topic dependencies in hierarchical multi-label Text Categorization (TC) by means of rerankers. We represent reranking hypotheses with several innovative kernels considering both the structure of the hierarchy and the probability of nodes. Additionally, to better investigate the role of category relationships, we consider two interesting cases: (i) traditional schemes in which node-fathers include all the documents of their child-categories; and (ii) more general schemes, in which children can include documents not belonging to their fathers. . | Modeling Topic Dependencies in Hierarchical Text Categorization Alessandro Moschitti and Qi Ju University of Trento 38123 Povo TN Italy moschitti qi @ Richard Johansson University of Gothenburg SE-405 30 Gothenburg Sweden Abstract In this paper we encode topic dependencies in hierarchical multi-label Text Categorization TC by means of rerankers. We represent reranking hypotheses with several innovative kernels considering both the structure of the hierarchy and the probability of nodes. Additionally to better investigate the role of category relationships we consider two interesting cases i traditional schemes in which node-fathers include all the documents of their child-categories and ii more general schemes in which children can include documents not belonging to their fathers. The extensive experimentation on Reuters Corpus Volume 1 shows that our rerankers inject effective structural semantic dependencies in multi-classifiers and significantly outperform the state-of-the-art. 1 Introduction Automated Text Categorization TC algorithms for hierarchical taxonomies are typically based on flat schemes . which do not take topic relationships into account. This is due to two major problems i complexity in introducing them in the learning algorithm and ii the small or no advantage that they seem to provide Rifkin and Klautau 2004 . We speculate that the failure of using hierarchical approaches is caused by the inherent complexity of modeling all possible topic dependencies rather than the uselessness of such relationships. More precisely although hierarchical multi-label classifiers can exploit machine learning algorithms for structural output . Tsochantaridis et al. 2005 Rie-zler and Vasserman 2010 Lavergne et al. 2010 759 they often impose a number of simplifying restrictions on some category assignments. Typically the probability of a document d to belong to a subcategory Ci of a category C is assumed to depend

• Báo cáo khoa học
• Modeling Topic Dependencies
• Hierarchical Text Categorization
• Richard Johansson
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball