TAILIEUCHUNG - Báo cáo khoa học: "Estimating Strictly Piecewise Distributions"

Strictly Piecewise (SP) languages are a subclass of regular languages which encode certain kinds of long-distance dependencies that are found in natural languages. Like the classes in the Chomsky and Subregular hierarchies, there are many independently converging characterizations of the SP class (Rogers et al., to appear). Here we define SP distributions and show that they can be efficiently estimated from positive data. | Estimating Strictly Piecewise Distributions Jeffrey Heinz University of Delaware Newark Delaware USA heinz@ James Rogers Earlham College Richmond Indiana USA j rogers@ Abstract Strictly Piecewise SP languages are a subclass of regular languages which encode certain kinds of long-distance dependencies that are found in natural languages. Like the classes in the Chomsky and Subregular hierarchies there are many independently converging characterizations of the SP class Rogers et al. to appear . Here we define SP distributions and show that they can be efficiently estimated from positive data. 1 Introduction Long-distance dependencies in natural language are of considerable interest. Although much attention has focused on long-distance dependencies which are beyond the expressive power of models with finitely many states Chomsky 1956 Joshi 1985 Shieber 1985 Kobele 2006 there are some long-distance dependencies in natural language which permit finite-state characterizations. For example although it is well-known that vowel and consonantal harmony applies across any arbitrary number of intervening segments Ringen 1988 Bakovic 2000 Hansson 2001 Rose and Walker 2004 and that phonological patterns are regular Johnson 1972 Kaplan and Kay 1994 it is less well-known that harmony patterns are largely characterizable by the Strictly Piecewise languages a subregular class of languages with independently-motivated converging characterizations see Heinz 2007 to appear and especially Rogers et al. 2009 . As shown by Rogers et al. to appear the Strictly Piecewise SP languages which make distinctions on the basis of potentially discontiguous subsequences are precisely analogous to the Strictly Local SL languages McNaughton and Papert 1971 Rogers and Pullum to appear which make distinctions on the basis of contiguous subsequences. The Strictly Local languages are the formal-language theoretic foundation for n-gram models Garcia et al. 1990 which are widely

• Báo cáo khoa học
• Estimating Strictly Piecewise Distributions
• Jeffrey Heinz
• Long Papers
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball