TAILIEUCHUNG - Báo cáo khoa học: "Baselines and Bigrams: Simple, Good Sentiment and Topic Classification"

Variants of Naive Bayes (NB) and Support Vector Machines (SVM) are often used as baseline methods for text classification, but their performance varies greatly depending on the model variant, features used and task/ dataset. We show that: (i) the inclusion of word bigram features gives consistent gains on sentiment analysis tasks; (ii) for short snippet sentiment tasks, NB actually does better than SVMs (while for longer documents the opposite result holds); (iii) a simple but novel SVM variant using NB log-count ratios as feature values consistently performs well across tasks and datasets. . | Baselines and Bigrams Simple Good Sentiment and Topic Classification Sida Wang and Christopher D. Manning Department of Computer Science Stanford University Stanford CA 94305 sidaw manning @ Abstract Variants of Naive Bayes NB and Support Vector Machines SVM are often used as baseline methods for text classification but their performance varies greatly depending on the model variant features used and task dataset. We show that i the inclusion of word bigram features gives consistent gains on sentiment analysis tasks ii for short snippet sentiment tasks NB actually does better than SVMs while for longer documents the opposite result holds iii a simple but novel SVM variant using NB log-count ratios as feature values consistently performs well across tasks and datasets. Based on these observations we identify simple NB and SVM variants which outperform most published results on sentiment analysis datasets sometimes providing a new state-of-the-art performance level. 1 Introduction Naive Bayes NB and Support Vector Machine SVM models are often used as baselines for other methods in text categorization and sentiment analysis research. However their performance varies significantly depending on which variant features and datasets are used. We show that researchers have not paid sufficient attention to these model selection issues. Indeed we show that the better variants often outperform recently published state-of-the-art methods on many datasets. We attempt to categorize which method which variants and which features perform better under which circumstances. First we make an important distinction between sentiment classification and topical text classifica 90 tion. We show that the usefulness of bigram features in bag of features sentiment classification has been underappreciated perhaps because their usefulness is more of a mixed bag for topical text classification tasks. We then distinguish between short snippet sentiment tasks and longer reviews showing

• Báo cáo khoa học
• Baselines and Bigrams
• Simple
• Good Sentiment
• Topic Classification
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball