TAILIEUCHUNG - Báo cáo khoa học: "Joint Training of Dependency Parsing Filters through Latent Support Vector Machines"

Graph-based dependency parsing can be sped up significantly if implausible arcs are eliminated from the search-space before parsing begins. State-of-the-art methods for arc filtering use separate classifiers to make pointwise decisions about the tree; they label tokens with roles such as root, leaf, or attaches-tothe-left, and then filter arcs accordingly. Because these classifiers overlap substantially in their filtering consequences, we propose to train them jointly, so that each classifier can focus on the gaps of the others. . | Joint Training of Dependency Parsing Filters through Latent Support Vector Machines Colin Cherry Institute for Information Technology National Research Council Canada Shane Bergsma Center for Language and Speech Processing Johns Hopkins University sbergsma@ Abstract Graph-based dependency parsing can be sped up significantly if implausible arcs are eliminated from the search-space before parsing begins. State-of-the-art methods for arc filtering use separate classifiers to make pointwise decisions about the tree they label tokens with roles such as root leaf or attaches-to-the-left and then filter arcs accordingly. Because these classifiers overlap substantially in their filtering consequences we propose to train them jointly so that each classifier can focus on the gaps of the others. We integrate the various pointwise decisions as latent variables in a single arc-level SVM classifier. This novel framework allows us to combine nine pointwise filters and adjust their sensitivity using a shared threshold based on arc length. Our system filters 32 more arcs than the independently-trained classifiers without reducing filtering speed. This leads to faster parsing with no reduction in accuracy. 1 Introduction A dependency tree represents syntactic relationships between words using directed arcs Meicuk 1987 . Each token in the sentence is a node in the tree and each arc connects a head to its modifier. There are two dominant approaches to dependency parsing graph-based and transition-based where graphbased parsing is understood to be slower but often more accurate McDonald and Nivre 2007 . In the graph-based setting a complete search finds the highest-scoring tree under a model that decomposes over one or two arcs at a time. Much of the time for parsing is spent scoring each potential arc in the complete dependency graph John- 200 son 2007 one for each ordered word-pair in the sentence. Potential arcs are scored using rich linear models

• Báo cáo khoa học
• Joint Training of Dependency Parsing Filters
• Latent Support Vector Machines
• Colin Cherry
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball