TAILIEUCHUNG - Báo cáo khoa học: "Joint Feature Selection in Distributed Stochastic Learning for Large-Scale Discriminative Training in SMT"

With a few exceptions, discriminative training in statistical machine translation (SMT) has been content with tuning weights for large feature sets on small development data. Evidence from machine learning indicates that increasing the training sample size results in better prediction. The goal of this paper is to show that this common wisdom can also be brought to bear upon SMT. | Joint Feature Selection in Distributed Stochastic Learning for Large-Scale Discriminative Training in SMT Patrick Simianer and Stefan Riezler Department of Computational Linguistics Heidelberg University 69120 Heidelberg Germany simianer riezler @ Chris Dyer Language Technologies Institute Carnegie Mellon University Pittsburgh PA 15213 USA cdyer@ Abstract With a few exceptions discriminative training in statistical machine translation SMT has been content with tuning weights for large feature sets on small development data. Evidence from machine learning indicates that increasing the training sample size results in better prediction. The goal of this paper is to show that this common wisdom can also be brought to bear upon SMT. We deploy local features for SCFG-based SMT that can be read off from rules at runtime and present a learning algorithm that applies 11112 regularization for joint feature selection over distributed stochastic learning processes. We present experiments on learning on million training sentences and show significant improvements over tuning discriminative models on small development sets. 1 Introduction The standard SMT training pipeline combines scores from large count-based translation models and language models with a few other features and tunes these using the well-understood line-search technique for error minimization of Och 2003 . If only a handful of dense features need to be tuned minimum error rate training can be done on small tuning sets and is hard to beat in terms of accuracy and efficiency. In contrast the promise of large-scale discriminative training for SMT is to scale to arbitrary types and numbers of features and to provide sufficient statistical support by parameter estimation on large sample sizes. Features may be lex-icalized and sparse non-local and overlapping or 11 be designed to generalize beyond surface statistics by incorporating part-of-speech or syntactic labels. The modeler s .

• Báo cáo khoa học
• Joint Feature Selection
• Distributed Stochastic Learning
• Large Scale Discriminative Training in SMT
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• BMC Bioinformatics
• Feature selection
• Expression profiles
• Differential expression analysis
• False discovery rate
• Survival analysis
• Subsequent biological
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball