TAILIEUCHUNG - Báo cáo khoa học: "Estimating Compact Yet Rich Tree Insertion Grammars"

We present a Bayesian nonparametric model for estimating tree insertion grammars (TIG), building upon recent work in Bayesian inference of tree substitution grammars (TSG) via Dirichlet processes. Under our general variant of TIG, grammars are estimated via the Metropolis-Hastings algorithm that uses a context free grammar transformation as a proposal, which allows for cubic-time string parsing as well as tree-wide joint sampling of derivations in the spirit of Cohn and Blunsom (2010). | Estimating Compact Yet Rich Tree Insertion Grammars Elif Yamangil and Stuart M. Shieber Harvard University Cambridge Massachusetts USA elif shieber @ Abstract We present a Bayesian nonparametric model for estimating tree insertion grammars TIG building upon recent work in Bayesian inference of tree substitution grammars TSG via Dirichlet processes. Under our general variant of TIG grammars are estimated via the Metropolis-Hastings algorithm that uses a context free grammar transformation as a proposal which allows for cubic-time string parsing as well as tree-wide joint sampling of derivations in the spirit of Cohn and Blun-som 2010 . We use the Penn treebank for our experiments and find that our proposal Bayesian TIG model not only has competitive parsing performance but also finds compact yet linguistically rich TIG representations of the data. 1 Introduction There is a deep tension in statistical modeling of grammatical structure between providing good expressivity to allow accurate modeling of the data with sparse grammars and low complexity making induction of the grammars and parsing of novel sentences computationally practical. Recent work that incorporated Dirichlet process DP nonparametric models into TSGs has provided an efficient solution to the problem of segmenting training data trees into elementary parse tree fragments to form the grammar Cohn et al. 2009 Cohn and Blunsom 2010 Post and Gildea 2009 . DP inference tackles this problem by exploring the space of all possible segmentations of the data in search for fragments that are on the one hand large enough so 110 that they incorporate the useful dependencies and on the other small enough so that they recur and have a chance to be useful in analyzing unseen data. The elementary trees combined in a TSG are intuitively primitives of the language yet certain linguistic phenomena notably various forms of modification split them up preventing their reuse leading to less sparse grammars .

• Báo cáo khoa học
• Estimating Compact Yet Rich Tree Insertion Grammars
• Elif Yamangil
• Stuart M
• Shieber
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball