TAILIEUCHUNG - Báo cáo khoa học: "Bayesian Symbol-Refined Tree Substitution Grammars for Syntactic Parsing"

We propose Symbol-Refined Tree Substitution Grammars (SR-TSGs) for syntactic parsing. An SR-TSG is an extension of the conventional TSG model where each nonterminal symbol can be refined (subcategorized) to fit the training data. We aim to provide a unified model where TSG rules and symbol refinement are learned from training data in a fully automatic and consistent fashion. | Bayesian Symbol-Refined Tree Substitution Grammars for Syntactic Parsing Hiroyuki Shindo Yusuke Miyao Akinori Fujino Masaaki Nagata NTT Communication Science Laboratories NTT Corporation 2-4 Hikaridai Seika-cho Soraku-gun Kyoto Japan @ National Institute of Informatics 2-1-2 Hitotsubashi Chiyoda-ku Tokyo Japan yusuke@ Abstract We propose Symbol-Refined Tree Substitution Grammars SR-TSGs for syntactic parsing. An SR-TSG is an extension of the conventional TSG model where each nonterminal symbol can be refined subcategorized to fit the training data. We aim to provide a unified model where TSG rules and symbol refinement are learned from training data in a fully automatic and consistent fashion. We present a novel probabilistic SR-TSG model based on the hierarchical Pitman-Yor Process to encode backoff smoothing from a fine-grained SR-TSG to simpler CFG rules and develop an efficient training method based on Markov Chain Monte Carlo MCMC sampling. Our SR-TSG parser achieves an F1 score of in the Wall Street Journal WSJ English Penn Treebank parsing task which is a point improvement over a conventional Bayesian TSG parser and better than state-of-the-art discriminative reranking parsers. 1 Introduction Syntactic parsing has played a central role in natural language processing. The resulting syntactic analysis can be used for various applications such as machine translation Galley et al. 2004 DeNeefe and Knight 2009 sentence compression Cohn and La-pata 2009 Yamangil and Shieber 2010 and question answering Wang et al. 2007 . Probabilistic context-free grammar PCFG underlies many statistical parsers however it is well known that the PCFG rules extracted from treebank data via maximum likelihood estimation do not perform well due to unrealistic context freedom assumptions Klein and Manning 2003 . 440 In recent years there has been an increasing interest in tree substitution grammar TSG as an .

• Báo cáo khoa học
• Bayesian Symbol Refined Tree Substitution Grammars
• Syntactic Parsing
• Hiroyuki Shindo
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball