Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Sức khỏe - Y tế
Văn bản luật
Nông Lâm Ngư
Kỹ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Tài liệu HOT
Tìm
Danh mục
Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Y tế sức khỏe
Văn bản luật
Nông lâm ngư
Kĩ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Thông tin
Điều khoản sử dụng
Quy định bảo mật
Quy chế hoạt động
Chính sách bản quyền
0
Trang chủ
Luận Văn - Báo Cáo
Báo cáo khoa học
Báo cáo khoa học: " Entropy Rate Constancy in Text"
TAILIEUCHUNG - Báo cáo khoa học: " Entropy Rate Constancy in Text"
We present a constancy rate principle governing language generation. We show that this principle implies that local measures of entropy (ignoring context) should increase with the sentence number. We demonstrate that this is indeed the case by measuring entropy in three different ways. We also show that this effect has both lexical (which words are used) and non-lexical (how the words are used) causes. | Proceedings of the 40th Annual Meeting of the Association for Computational Linguistics ACL Philadelphia July 2002 pp. 199-206. Entropy Rate Constancy in Text Dmitriy Genzel and Eugene Charniak Brown Laboratory for Linguistic Information Processing Department of Computer Science Brown University Providence RI USA 02912 dg ec @ Abstract We present a constancy rate principle governing language generation. We show that this principle implies that local measures of entropy ignoring context should increase with the sentence number. We demonstrate that this is indeed the case by measuring entropy in three different ways. We also show that this effect has both lexical which words are used and non-lexical how the words are used causes. 1 Introduction It is well-known from Information Theory that the most efficient way to send information through noisy channels is at a constant rate. If humans try to communicate in the most efficient way then they must obey this principle. The communication medium we examine in this paper is text and we present some evidence that this principle holds here. Entropy is a measure of information first proposed by Shannon 1948 . Informally entropy of a random variable is proportional to the difficulty of correctly guessing the value of this variable when the distribution is known . Entropy is the highest when all values are equally probable and is lowest equal to 0 when one of the choices has probability of 1 . deterministically known in advance. In this paper we are concerned with entropy of English as exhibited through written text though these results can easily be extended to speech as well. The random variable we deal with is therefore a unit of text a word for our purposes1 that a random person who has produced all the previous words in the text stream is likely to produce next. We have as many random variables as we have words in a text. The distributions of these variables are obviously different and depend on all previous
Thanh Xuân
56
8
pdf
Báo lỗi
Trùng lắp nội dung
Văn hóa đồi trụy
Phản động
Bản quyền
File lỗi
Khác
Upload
Tải xuống
đang nạp các trang xem trước
Bấm vào đây để xem trước nội dung
Tải xuống
TÀI LIỆU LIÊN QUAN
Unreliability of approximate entropy to locate optimal complexity in diabetes mellitus via heart rate variability
9
4
1
Báo cáo khoa học: " Entropy Rate Constancy in Text"
8
49
0
Mass, energy, entropy and exergy rate balance in a ranque-hilsh vortex tube
10
90
2
Parametric sensitivity analysis for biochemical reaction networks based on pathwise information theory
19
26
1
TÀI LIỆU XEM NHIỀU
Một Case Về Hematology (1)
8
461743
55
Giới thiệu :Lập trình mã nguồn mở
14
22091
54
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10742
524
Câu hỏi và đáp án bài tập tình huống Quản trị học
14
9935
445
Phân tích và làm rõ ý kiến sau: “Bài thơ Tự tình II vừa nói lên bi kịch duyên phận vừa cho thấy khát vọng sống, khát vọng hạnh phúc của Hồ Xuân Hương”
3
9427
104
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8136
1122
Tiểu luận: Nội dung tư tưởng Hồ Chí Minh về đạo đức
16
8136
421
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7820
2213
Đề tài: Dự án kinh doanh thời trang quần áo nữ
17
6508
247
Vật lý hạt cơ bản (1)
29
5680
81
TỪ KHÓA LIÊN QUAN
Báo cáo khoa học
Entropy Rate Constancy in Text
Dmitriy Genzel
Eugene Charniak Brown
báo cáo khoa học
mô hình ngôn ngữ
xử lý ngôn ngữ tự nhiên
Bài giảng Xử lý ngôn ngữ tự nhiên
Ngôn ngữ tự nhiên
Kỹ thuật lập trình
Xử lý nhập nhằng ngữ nghĩa
Xử lý ngữ nghĩa
Xử lý ngôn ngữ
Natural Language Processing
Ngôn ngữ lập trình
Nhập nhằng cấu trúc
Tri thức về ngôn ngữ
Mô hình n gram
Dịch máy
Phương pháp dịch máy
Hiểu ngôn ngữ
Phân tích ngữ nghĩa
Phân loại tin tự động
Biểu diễn vị từ
Thuộc tính về sự kiện
Thuộc tính về sự kiện
Mô hình ngôn ngữ Google Book N grams
Mô hình ngôn ngữ KenLM
Phương pháp làm mịn
Tách từ tiếng Việt
Gán nhãn từ loại
Phân tích cú pháp
Nghĩa từ vựng
Phân giải nhập nhằng từ
Phân loại văn bản
Lexical chain
Phản hồi thông tin
Bài toán PTCP
Cấu trúc ngữ pháp
Phân tích cú pháp xác suất
CKY kết hợp xác suất
Văn phạm phi ngữ cảnh xác suất
Hình thái học
TÀI LIỆU MỚI ĐĂNG
Ebook Quản lý dự án công nghệ thông tin
170
253
4
29-03-2024
Sáng tạo trong thuật toán và lập trình với ngôn ngữ Pascal và C# Tập 2 - Chương 4
47
233
1
29-03-2024
CẤU TẠO HẠT NHÂN NGUYÊN TỬ-ĐỘ HỤT KHỐI-NĂNG LƯỢNG LIÊN KẾT-LK RIÊNG
12
253
0
29-03-2024
Sẵn sàng cho thảm họa
9
211
0
29-03-2024
Bơm máy nén quạt trong công nghiệp part 8
20
189
2
29-03-2024
Posted prices versus bargaining in markets_7
23
147
0
29-03-2024
THE ANTHROPOLOGY OF ONLINE COMMUNITIES BY Samuel M.Wilson and Leighton C. Peterson
19
131
0
29-03-2024
BÀI GIẢNG VỀ - MẠCH ĐIỆN II - Chương I: Phân tích mạch trong miền thời gian
38
134
0
29-03-2024
Đóng mới oto 8 chỗ ngồi part 3
10
112
0
29-03-2024
The profit magic of stock Timing The Markets_5
22
112
0
29-03-2024
TÀI LIỆU HOT
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7820
2213
Ebook Chào con ba mẹ đã sẵn sàng
112
3652
1219
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
5143
1175
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8136
1122
Ebook Tuyển tập đề bài và bài văn nghị luận xã hội: Phần 1
62
5038
1084
Giáo trình Văn hóa kinh doanh - PGS.TS. Dương Thị Liễu
561
3408
638
Giáo trình Sinh lí học trẻ em: Phần 1 - TS Lê Thanh Vân
122
3621
524
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10742
524
Giáo trình Pháp luật đại cương: Phần 1 - NXB ĐH Sư Phạm
274
3911
503
Bài tập nhóm quản lý dự án: Dự án xây dựng quán cafe
35
4027
470
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.