TAILIEUCHUNG - Đánh giá các thuật toán tối ưu đối với mô hình mạng nơ ron tích chập trong tác vụ nhận diện hình ảnh

Bài viết đưa ra cách tiếp cận gần gũi nhất về thuật toán tối ưu cũng như các thuật toán tối ưu thường được sử dụng. Để thực hiện khảo sát, chúng tôi lựa chọn mô hình mạng nơ-ron tích chập (Convolution neural network - CNN), độ hiệu quả của các thuật toán tối ưu sẽ được đánh giá dựa trên giá trị hàm mất mát và tỉ lệ nhận dạng đúng của mô hình mạng đối với hai bộ cơ sở dữ liệu là MNIST và CIFAR-10. | TẠP CHÍ KHOA HỌC VÀ CÔNG NGHỆ Trường Đại học Khoa học ĐH Huế Tập 18 Số 1 2021 ĐÁNH GIÁ CÁC THUẬT TOÁN TỐI ƯU ĐỐI VỚI MÔ HÌNH MẠNG NƠ-RON TÍCH CHẬP TRONG TÁC VỤ NHẬN DIỆN HÌNH ẢNH Vương Quang Phước Nguyễn Đức Nhật Quang Khoa Điện Điện tử và Công nghệ vật liệu Trường Đại học Khoa học Đại học Huế Email vqphuoc@ Ngày nhận bài 17 6 2020 ngày hoàn thành phản biện 14 5 2021 ngày duyệt đăng 02 6 2021 TÓM TẮT Với vai trò quan trọng trong việc xây dựng và huấn luyện đánh giá mô hình mạng nơ-ron thuật toán tối ưu là một công cụ hữu ích trong việc tìm giá trị hàm mất mát từ đó có sự điều chỉnh mô hình mạng một cách hợp lý góp phần tăng tỉ lệ nhận dạng đúng trong tác vụ nhận diện hình ảnh. Bài báo đưa ra cách tiếp cận gần gũi nhất về thuật toán tối ưu cũng như các thuật toán tối ưu thường được sử dụng. Để thực hiện khảo sát chúng tôi lựa chọn mô hình mạng nơ-ron tích chập Convolution neural network - CNN độ hiệu quả của các thuật toán tối ưu sẽ được đánh giá dựa trên giá trị hàm mất mát và tỉ lệ nhận dạng đúng của mô hình mạng đối với hai bộ cơ sở dữ liệu là MNIST và CIFAR-10. Bên cạnh đó vai trò các tham số và các thuật toán chi phối đến kết quả như tỉ lệ học Learning rate số chu kì học Epoch hàm mất mát hàm Entropy chéo cũng sẽ được làm rõ trong quá trình thực nghiệm. Từ khóa mạng nơ-ron tích chập thuật toán tối ưu SGD RMS AdaGrad AdaDelta Adam. 1. MỞ ĐẦU Để huấn luyện một mô hình mạng nơ-ron chúng ta cần dựa trên giá trị hàm mất mát để biết được sự khác biệt giữa các dự đoán của mô hình đưa ra và nhãn mà chúng ta muốn dự đoán. Giá trị hàm mất mát càng bé có nghĩa là mô hình học đưa ra càng chính xác. Với mục tiêu hạ thấp giá trị của hàm mất mát việc sử dụng các thuật toán tối ưu tập hợp các tham số và siêu tham số parameter và hyper parameter là một thành phần cốt lõi giúp cải thiện kết quả nhận dạng. Trong bài báo này chúng tôi thực hiện khảo sát các thuật toán tối ưu hiện đang nhận được nhiều sự quan tâm như SGD RMS Prop AdaGrad AdaDelta và Adam. Mỗi thuật toán

• Quản trị mạng
• Mạng nơ ron tích chập
• Thuật toán tối ưu
• Hàm Entropy chéo
• Bộ cơ sở dữ liệu MNIST
• Bộ cơ sở dữ liệu CIFAR 10
• Phân lớp ảnh trái cây
• Mạng Nơron tích chập sâu
• Hệ thống mạng nơron tích chập sâu
• Thiết kế hệ thống mạng nơron tích chập sâu
• Phân lớp dữ liệu
• Mạng nơron học sâu
• Mạng nơron tích chập
• Nhận dạng ký tự viết tay
• Ký tự viết tay
• Cơ sở dữ liệu ký tự mẫu viết tay
• Luận văn Thạc sĩ Kỹ Thuật
• Khoa học máy tính
• Bài toán nhận dạng biển số xe
• Thị giác máy tính
• Mạng nơron nhân tạo
• Tóm tắt Luận văn Thạc sĩ Kỹ Thuật
• Nhận diện khuôn mặt
• Mạng nơ ron tích chập xếp chồng
• Mô hình FaceNet
• Thuật toán đặc trưng khuôn mặt
• Phân loại mã độc
• Phân tích tĩnh
• Tệp tin ASM
• Tệp tin dưới dạng chuỗi điểm ảnh
• Hàm kích hoạt
• Huấn luyện CNN
• Phương pháp học sâu
• Hàm Leaky ReLU
• Nhận dạng khuôn mặt
• Tiềm năng ứng dụng
• Công nghệ DeepFace
• Phương pháp sinh trắc học
• Tìm kiếm ảnh
• Phương pháp sinh mã nhị phân
• Mã nhị phân
• Bài toán tìm kiếm ảnh
• Phát hiện người đeo khẩu trang
• Đeo khẩu trang nơi công cộng
• Thư viện mã nguồn mở như OpenCV
• Xuất huyết não
• Chẩn đoán xuất huyết não
• Chỉ số Hounsfield
• Phân loại xuất huyết não
• Truy vấn ảnh dựa trên ngữ nghĩa
• Phân lớp ảnh
• Phương pháp tìm kiếm
• Câu lệnh SPARQL
• Mạng nơron tích chập đa nhiệm
• Nhận dạng biểu cảm khuôn mặt
• Hệ thống quản lý học tập trực tuyến
• Mô hình CNN đa nhiệm
• Đếm số người
• Mạng học sâu
• Mạng tích chập
• Convolutional neural network
• Bài toán phát hiện đối tượng
• Mô hình mạng nơron
• Mô hình phân tách giọng hát
• Hỗn hợp âm nhạc
• Phép biến đổi Fourier
• Tín hiệu giọng hát
• Mô hình mạng Faster R CNN
• Nhận dạng hình ảnh thực phẩm
• Kiến trúc mạng AlexNet
• Kiến trúc mạng VGGNet
• Thuật toán nhận diện khuôn mặt
• Kỹ thuật học sâu với mạng CGAN
• Kỹ thuật học sâu với mạng SRGAN
• Kỹ thuật SVM
• Kỹ thuật học sâu
• Môi trường xử lý song song Spark
• Kiến trúc mạng VGG 16
• Tổn thương phổ
• Máy học vector hỗ trợ
• Mạng nơron tích chập học sâu
• Phân loại ảnh sâu bệnh
• Mô hình mạng EfficientNet
• Xác minh chữ ký
• Bài toán xác minh chữ kí
• Mô hình học sâu
• Mạng song song
• Phân loại nhị phân
• Xử lý hình ảnh
• Nhận dạng ký tự
• Phân loại hình ảnh
• Nhận dạng các biển số xe
• Nhận dạng gai động kinh
• Các dạng sóng nhọn
• Tín hiệu điện não đồ
• Bệnh nhân động kinh
• Thiết kế chatbot
• Thuật toán khoảng cách levenshtein
• Thuật toán khoảng cách levenshtein trên raspberry
• Thuật toán tìm kiếm
• Sử dụng học sâu
• Bài toán xác định tâm làn đường
• Thiết bị tự hành
• Hệ thống hỗ trợ lái
• Trí tuệ nhân tạo
• Mạng nơron tích chập CNN