TAILIEUCHUNG - Báo cáo khoa học: "Collective Generation of Natural Image Descriptions"

We present a holistic data-driven approach to image description generation, exploiting the vast amount of (noisy) parallel image data and associated natural language descriptions available on the web. More specifically, given a query image, we retrieve existing human-composed phrases used to describe visually similar images, then selectively combine those phrases to generate a novel description for the query image. | Collective Generation of Natural Image Descriptions Polina Kuznetsova Vicente Ordonez Alexander C. Berg Tamara L. Berg and Yejin Choi Department of Computer Science Stony Brook University Stony Brook NY 11794-4400 pkuznetsova vordonezroma aberg tlberg ychoi @ Abstract We present a holistic data-driven approach to image description generation exploiting the vast amount of noisy parallel image data and associated natural language descriptions available on the web. More specifically given a query image we retrieve existing human-composed phrases used to describe visually similar images then selectively combine those phrases to generate a novel description for the query image. We cast the generation process as constraint optimization problems collectively incorporating multiple interconnected aspects of language composition for content planning surface realization and discourse structure. Evaluation by human annotators indicates that our final system generates more semantically correct and linguistically appealing descriptions than two nontrivial baselines. 1 Introduction Automatically describing images in natural language is an intriguing but complex AI task requiring accurate computational visual recognition comprehensive world knowledge and natural language generation. Some past research has simplified the general image description goal by assuming that relevant text for an image is provided . Aker and Gaizauskas 2010 Feng and Lapata 2010 . This allows descriptions to be generated using effective summarization techniques with relatively surface level image understanding. However such text . news articles 359 or encyclopedic text is often only loosely related to an image s specific content and many natural images do not come with associated text for summarization. In contrast other recent work has focused more on the visual recognition aspect by detecting content elements . scenes objects attributes actions etc and then composing .

• Báo cáo khoa học
• Collective Generation
• Natural Image Descriptions
• Polina Kuznetsova
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• NEA and the IAEA
• Sodium cooled fast reactors
• Pressurized water reactors
• Occupational Exposure program
• Nuclear power plants
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball