Mô hình năng lượng (Energy-based models - EBM) và một số cách huấn luyện.

Mục tiêu của mô hình sinh là học phân bố p(x)p(x)p(x) của dữ liệu {xi}\{x_i\}{xi​}. Cụ thể hơn, cho trước một họ các phân bố có thể học được {pθ(x)}\{p_{\theta}(x)\}{pθ​(x)}, ta sẽ tìm phân bố có (log-)likelihood lớn nhất, hay hiểu một cách trực qua là phân bố tương thích nhất với tập dữ liệu cho trước. Việc này cũng tương đương với tìm phân bố có cross-entropy với dữ liệu nhỏ nhất....

EBM MCMC