TAILIEUCHUNG - Electrical Engineering Mechanical Systems Design Handbook Dorf CRC Press 2002819s_17

Tham khảo tài liệu 'electrical engineering mechanical systems design handbook dorf crc press 2002819s_17', kỹ thuật - công nghệ, điện - điện tử phục vụ nhu cầu học tập, nghiên cứu và làm việc hiệu quả | dE Aw12ij t ndw ns2i t u1 j t W23ij t 1 W23ij t Aw23ij t w12ij t 1 W12ij t Aw12ij t where n is the learning rate. Also numerous variants are used to speed up the learning process in the backpropagation algorithm. The one important extension is the momentum technique which involves a term proportional to the weight change from the previous iteration w t 1 w t Aw t Aw t 1 - n p -V t n Aw t -1 The momentum technique serves as a low-pass filter for gradient noise and is useful in situations when a clean gradient estimate is required for example when a relatively flat local region in the mean square error surface is encountered. All gradient-based methods are subject to convergence on local optima. The most common remedy for this is the sporadic addition of noise to the weights or gradients as in simulated annealing methods. Another technique is to retrain the network several times using different random initial weights until a satisfactory solution is found. Backpropagation adapts the weights to seek the extremum of the objective function whose domain of attraction contains the initial weights. Therefore both choice of the initial weights and the form of the objective function are critical to the network performance. The initial weights are normally set to small random values. Experimental evidence suggests choosing the initial weights in each hidden layer in a quasi-random manner which ensures that at each position in a layer s input space the outputs of all but a few of its elements will be saturated while ensuring that each element in the layer is unsaturated in some region of its input space. There are more different learning rules for speeding up the convergence process of the back-propagation algorithm. One interesting method is using recursive least square algorithms and the extended Kalman approach instead of gradient The training procedure for the RBF networks involves a few important steps Step 1 Group the training .

TỪ KHÓA LIÊN QUAN
TAILIEUCHUNG - Chia sẻ tài liệu không giới hạn
Địa chỉ : 444 Hoang Hoa Tham, Hanoi, Viet Nam
Website : tailieuchung.com
Email : tailieuchung20@gmail.com
Tailieuchung.com là thư viện tài liệu trực tuyến, nơi chia sẽ trao đổi hàng triệu tài liệu như luận văn đồ án, sách, giáo trình, đề thi.
Chúng tôi không chịu trách nhiệm liên quan đến các vấn đề bản quyền nội dung tài liệu được thành viên tự nguyện đăng tải lên, nếu phát hiện thấy tài liệu xấu hoặc tài liệu có bản quyền xin hãy email cho chúng tôi.
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.