TAILIEUCHUNG - Báo cáo khoa học: "Interactive Topic Modeling"

Topic models have been used extensively as a tool for corpus exploration, and a cottage industry has developed to tweak topic models to better encode human intuitions or to better model data. However, creating such extensions requires expertise in machine learning unavailable to potential end-users of topic modeling software. In this work, we develop a framework for allowing users to iteratively refine the topics discovered by models such as latent Dirichlet allocation (LDA) by adding constraints that enforce that sets of words must appear together in the same topic. . | Interactive Topic Modeling Yuening Hu Department of Computer Science University of Maryland ynhu@ Jordan Boyd-Graber iSchool University of Maryland jbg@ Brianna Satinoff Department of Computer Science University of Maryland bsonrisa@ Abstract Topic models have been used extensively as a tool for corpus exploration and a cottage industry has developed to tweak topic models to better encode human intuitions or to better model data. However creating such extensions requires expertise in machine learning unavailable to potential end-users of topic modeling software. In this work we develop a framework for allowing users to iteratively refine the topics discovered by models such as latent Dirichlet allocation LDA by adding constraints that enforce that sets of words must appear together in the same topic. We incorporate these constraints interactively by selectively removing elements in the state of a Markov Chain used for inference we investigate a variety of methods for incorporating this information and demonstrate that these interactively added constraints improve topic usefulness for simulated and actual user sessions. 1 Introduction Probabilistic topic models as exemplified by probabilistic latent semantic indexing Hofmann 1999 and latent Dirichlet allocation LDA Blei et al. 2003 are unsupervised statistical techniques to discover the thematic topics that permeate a large corpus of text documents. Topic models have had considerable application beyond natural language processing in computer vision Rob et al. 2005 biology Shringarpure and Xing 2008 and psychology Landauer et al. 2006 in addition to their canonical application to text. For text one of the few real-world applications of topic models is corpus exploration. Unannotated noisy and ever-growing corpora are the norm rather than the exception and topic models offer a way to quickly get the gist a large 1For examples see Rexa http JSTOR 248 Contrary to the

• Báo cáo khoa học
• Interactive Topic Modeling
• Yuening Hu
• Long Papers
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball