TAILIEUCHUNG - Information Theory, Inference, and Learning Algorithms phần 9

Thực hiện suy luận với xấp xỉ Gaussian dọc theo một quỹ đạo động trong w, p không gian, trong đó p là thêm động lực biến của Langevin và Hamilton phương pháp Monte Carlo. Số lượng 'Tau' bước được thiết lập ngẫu nhiên cho một số từ 100 và 200 cho mỗi quỹ đạo. | Copyright Cambridge University Press 2003. On-screen viewing permitted. Printing not permitted. http 0521642981 You can buy this book for 30 pounds or 50. See http mackay itila for links. Implementing inference with Gaussian approximations 501 along a dynamical trajectory in w p space where p are the extra momentum variables of the Langevin and Hamiltonian Monte Carlo methods. The number of steps Tau was set at random to a number between 100 and 200 for each trajectory. The step size e was kept fixed so as to retain comparability with the simulations that have gone before it is recommended that one randomize the step size in practical applications however. Figure compares the sampling properties of the Langevin and Hamiltonian Monte Carlo methods. The autocorrelation of the state of the Hamiltonian Monte Carlo simulation falls much more rapidly with simulation time than that of the Langevin method. For this toy problem Hamiltonian Monte Carlo is at least ten times more efficient in its use of computer time. Implementing inference with Gaussian approximations Physicists love to take nonlinearities and locally linearize them and they love to approximate probability distributions by Gaussians. Such approximations offer an alternative strategy for dealing with the integral P t N 1 11 X N 1 D a idKw y x N 1 w exp M w ZM which we just evaluated using Monte Carlo methods. We start by making a Gaussian approximation to the posterior probability. We go to the minimum of M w using a gradient-based optimizer and Taylor-expand M there M w M wmp 2 w - wmp tA w - wmp -------- where a is the matrix of second derivatives also known as the Hessian defined by @2 Aij - M w @wi@w W WMP We thus define our Gaussian approximation Q w wMP a det A 2w 1 2 exp - w - wmp tA w - wmp We can think of the matrix a as defining error bars on w. To be precise Q is a normal distribution whose variance-covariance .

TAILIEUCHUNG - Chia sẻ tài liệu không giới hạn
Địa chỉ : 444 Hoang Hoa Tham, Hanoi, Viet Nam
Website : tailieuchung.com
Email : tailieuchung20@gmail.com
Tailieuchung.com là thư viện tài liệu trực tuyến, nơi chia sẽ trao đổi hàng triệu tài liệu như luận văn đồ án, sách, giáo trình, đề thi.
Chúng tôi không chịu trách nhiệm liên quan đến các vấn đề bản quyền nội dung tài liệu được thành viên tự nguyện đăng tải lên, nếu phát hiện thấy tài liệu xấu hoặc tài liệu có bản quyền xin hãy email cho chúng tôi.
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.