TAILIEUCHUNG - Báo cáo khoa học: "Practical very large scale CRFs"

Conditional Random Fields (CRFs) are a widely-used approach for supervised sequence labelling, notably due to their ability to handle large description spaces and to integrate structural dependency between labels. Even for the simple linearchain model, taking structure into account implies a number of parameters and a computational effort that grows quadratically with the cardinality of the label set. In this paper, we address the issue of training very large CRFs, containing up to hundreds output labels and several billion features. Efficiency stems here from the sparsity induced by the use of a 1 penalty term. . | Practical very large scale CRFs Thomas Lavergne LIMSI - CNRS lavergne@ Olivier Cappe Telecom ParisTech LTCI - CNRS cappe@ Francois Yvon Universite Paris-Sud 11 LIMSI - CNRS yvon@ Abstract Conditional Random Fields CRFs are a widely-used approach for supervised sequence labelling notably due to their ability to handle large description spaces and to integrate structural dependency between labels. Even for the simple linear-chain model taking structure into account implies a number of parameters and a computational effort that grows quadrati-cally with the cardinality of the label set. In this paper we address the issue of training very large CRFs containing up to hundreds output labels and several billion features. Efficiency stems here from the sparsity induced by the use of a c penalty term. Based on our own implementation we compare three recent proposals for implementing this regularization strategy. Our experiments demonstrate that very large CRFs can be trained efficiently and that very large models are able to improve the accuracy while delivering compact parameter sets. 1 Introduction Conditional Random Fields CRFs Lafferty et al. 2001 Sutton and McCallum 2006 constitute a widely-used and effective approach for supervised structure learning tasks involving the mapping between complex objects such as strings and trees. An important property of CRFs is their ability to handle large and redundant feature sets and to integrate structural dependency between output labels. However even for simple linear chain CRFs the complexity of learning and inference This work was partly supported by ANR projects CroTaL ANR-07-MDCO-003 and MGA ANR-07-BLAN-0311-02 . grows quadratically with respect to the number of output labels and so does the number of structural features ie. features testing adjacent pairs of labels. Most empirical studies on CRFs thus either consider tasks with a restricted output space typically in the order of few dozens of output .

• Báo cáo khoa học
• Practical very large scale CRFs
• Thomas Lavergne
• Long Papers
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball