TAILIEUCHUNG - Báo cáo khoa học: "Development of a Stemming Algorithm"

Institute of Technology, Cambridge, Massachusetts 02139 A stemming algorithm, a procedure to reduce all words with the same stem to a common form, is useful in many areas of computational linguistics and information-retrieval work. While the form of the algorithm varies with its application, certain linguistic problems are common to any stemming procedure. | Mechanical Translation and Computational Linguistics nos. 1 and 2 March and June 1968 Development of a Stemming Algorithm by Julie Beth Lovins t Electronic Systems Laboratory Massachusetts Institute of Technology. Cambridge Massachusetts 02139 A stemming algorithm a procedure to reduce all words with the same stem to a common form is useful in many areas of computational linguistics and information-retrieval work. While the form of the algorithm varies with its application certain linguistic problems are common to any stemming procedure. As a basis for evaluation of previous attempts to deal with these problems this paper first discusses the theoretical and practical attributes of stemming algorithms. Then a new version of a context-sensitive longest-match stemming algorithm for English is proposed though developed for use in a library information transfer system it is of general application. A major linguistic problem in stemming variation in spelling of stems is discussed in some detail and several feasible programmed solutions are outlined along with sample results of one of these methods. I. Introduction A stemming algorithm is a computational procedure which reduces all words with the same root or if prefixes are left untouched the same stem to a common form usually by stripping each word of its derivational and inflectional suffixes. Researchers in many areas of computational linguistics and information retrieval find this a desirable step but for varying reasons. In automated morphological analysis the root of a word may be of less immediate interest than its suffixes which can be used as clues to grammatical structure. See . Earl 2 3 and Resnikoff and Dolby 6 . This field has also been reported on by S. Silver and M. Lott Machine Translation Project University of California Berkeley personal communication . At the other extreme what suffixes are found may be subsidiary to the problem of removing them consistently enough to obtain sets of exactly

• Báo cáo khoa học
• Development of a Stemming Algorithm
• Julie Beth Lovins
• Mechanical Translation
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball