Xem mã nguồn của Máy Boltzmann hạn chế

{{Mô tả ngắn|Một lớp của mạng thần kinh nhân tạo}}

{{Học máy|Mạng thần kinh nhân tạo}}
[[Tập tin:Restricted Boltzmann machine.svg|nhỏ|Sơ đồ của một máy Boltzmann hạn chế với ba đơn vị nhìn thấy và bốn đơn vị ẩn (không có đơn vị thiên vị)]]

'''Máy Boltzmann hạn chế''' ('''restricted Boltzmann machine''', hoặc '''RBM''') là một loại [[mô hình tạo sinh]] ngẫu nhiên của [[mạng thần kinh nhân tạo]], nó có thể học các [[Phân phối xác suất|mẫu xác suất]] trên các dữ liệu đầu vào mà nó nhận được.<ref>{{Chú thích|title=Solvable Model of a Spin-Glass|number=35|year=1975|author1= Sherrington, David|author2=Kirkpatrick, Scott|journal=Physical Review Letters|volume=35|pages=1792–1796|doi=10.1103/PhysRevLett.35.1792S}}</ref>

RBM ban đầu được Paul Smolensky giới thiệu với tên '''Harmonium''' vào năm 1986.<ref>{{Chú thích sách|last=Smolensky
|first=Paul
|editor1-first=David E.
|editor1-last=Rumelhart
|editor2-first=James L.
|editor2-last=McLelland
|title=Parallel Distributed Processing: Explorations in the Microstructure of Cognition, Volume 1: Foundations
|publisher=MIT Press
|year=1986
|pages=[https://archive.org/details/paralleldistribu00rume/page/194 194–281]
|chapter=Chương 6: Information Processing in Dynamical Systems: Foundations of Harmony Theory
|chapter-url=https://stanford.edu/~jlmcc/papers/PDP/Volume%201/Chap6_PDP86.pdf
|isbn=0-262-68053-X
}}</ref> Về sau, nó trở nên phổ biến khi Geoffrey Hinton và nhóm của ông phát triển cách học nhanh hơn cho RBM vào những năm 2000. RBM đã được sử dụng trong nhiều lĩnh vực khác nhau như [[giảm chiều dữ liệu]],<ref>{{Chú thích tập san học thuật| last1 = Hinton | first1 = G. E. | last2 = Salakhutdinov | first2 = R. R. | title = Reducing the Dimensionality of Data with Neural Networks | doi = 10.1126/science.1127647 | journal = Science | volume = 313 | issue = 5786 | pages = 504–507 | year = 2006 | pmid = 16873662 | url = http://www.cs.toronto.edu/~hinton/science.pdf | bibcode = 2006Sci...313..504H | s2cid = 1658773 | access-date = 2015-12-02 | archive-date = 2015-12-23 | archive-url = https://web.archive.org/web/20151223152006/http://www.cs.toronto.edu/~hinton/science.pdf | url-status = dead }}</ref> [[Phân loại bằng thống kê|phân loại]],<ref>{{Chú thích hội thảo| last1 = Larochelle | first1 = H. | last2 = Bengio | first2 = Y. | doi = 10.1145/1390156.1390224 | title = Classification using discriminative restricted Boltzmann machines | conference = Proceedings of the 25th international conference on Machine learning - ICML '08 | pages = 536 | year = 2008 | isbn = 978-1-60558-205-4 | url = http://machinelearning.org/archive/icml2008/papers/601.pdf}}</ref> lọc dữ liệu hợp tác,<ref name="softCF">{{Chú thích hội thảo| doi = 10.1145/1273496.1273596| title = Restricted Boltzmann machines for collaborative filtering| conference = Proceedings of the 24th international conference on Machine learning - ICML '07| pages = 791| year = 2007| last1 = Salakhutdinov | first1 = R. | last2 = Mnih | first2 = A. | last3 = Hinton | first3 = G. | isbn = 978-1-59593-793-3}}</ref> [[học đặc trưng]],<ref name="coates2011">{{Chú thích hội thảo|last1 = Coates
|first1 = Adam
|last2 = Lee
|first2 = Honglak
|last3 = Ng
|first3 = Andrew Y.
|title = An analysis of single-layer networks in unsupervised feature learning
|conference = International Conference on Artificial Intelligence and Statistics (AISTATS)
|year = 2011
|url = http://cs.stanford.edu/~acoates/papers/coatesleeng_aistats_2011.pdf
|access-date = 2014-12-19
|archive-date = 2014-12-20
|archive-url = https://web.archive.org/web/20141220030058/http://cs.stanford.edu/~acoates/papers/coatesleeng_aistats_2011.pdf
|url-status = dead
}}</ref> [[Mô hình chủ đề|mô hình hóa chủ đề]],<ref name="softTM">Ruslan Salakhutdinov và Geoffrey Hinton (2010). [http://books.nips.cc/papers/files/nips22/NIPS2009_0817.pdf Replicated softmax: an undirected topic model] {{Webarchive|url=https://web.archive.org/web/20120525063031/http://books.nips.cc/papers/files/nips22/NIPS2009_0817.pdf |date=2012-05-25 }}. ''Neural Information Processing Systems'' '''23'''.</ref> [[Miễn dịch học|nghiên cứu miễn dịch học]],<ref>{{Chú thích tập san học thuật|last1=Bravi |first1=Barbara |last2=Di Gioacchino |first2=Andrea |last3=Fernandez-de-Cossio-Diaz |first3=Jorge |last4=Walczak |first4=Aleksandra M |last5=Mora |first5=Thierry |last6=Cocco |first6=Simona |last7=Monasson |first7=Rémi |date=2023-09-08 |editor-last=Bitbol |editor-first=Anne-Florence |editor2-last=Eisen |editor2-first=Michael B |title=A transfer-learning approach to predict antigen immunogenicity and T-cell receptor specificity |journal=eLife |volume=12 |pages=e85126 |doi=10.7554/eLife.85126 |doi-access=free |issn=2050-084X |pmc=10522340 |pmid=37681658}}</ref> và thậm chí trong cơ học lượng tử.<ref>{{Cite journal|last1=Carleo|first1=Giuseppe|last2=Troyer|first2=Matthias|date=2017-02-10|title=Solving the quantum many-body problem with artificial neural networks|journal=Science|language=en|volume=355|issue=6325|pages=602–606|doi=10.1126/science.aag2302|pmid=28183973|issn=0036-8075|arxiv=1606.02318|bibcode=2017Sci...355..602C|s2cid=206651104}}</ref>
<ref>{{Chú thích tập san học thuật|last1=Melko|first1=Roger G.|last2=Carleo|first2=Giuseppe|last3=Carrasquilla|first3=Juan|last4=Cirac|first4=J. Ignacio|date=September 2019|title=Restricted Boltzmann machines in quantum physics|journal=Nature Physics|language=en|volume=15|issue=9|pages=887–892|doi=10.1038/s41567-019-0545-1|bibcode=2019NatPh..15..887M|issn=1745-2481|doi-access=|s2cid=256704838 }}</ref>
<ref>{{Chú thích tập san học thuật|title=Efficiency of neural-network state representations of one-dimensional quantum spin systems|year=2024|author1= Pan, Ruizhi|author2=Clark, Charles W.|journal=Physical Review Research|volume=6|pages=023193|doi=10.1103/PhysRevResearch.6.023193}}</ref>

RBM có thể được huấn luyện theo cả hai cách [[Học có giám sát|có giám sát]] hoặc [[Học không có giám sát|không có giám sát]], tùy thuộc vào loại nhiệm vụ cần thực hiện.{{Cần chú thích|date=Tháng 2, 2024}}

RBM là một dạng của [[máy Boltzmann]], nhưng có một điểm khác biệt quan trọng: các [[Mạng thần kinh nhân tạo|nơ-ron]] trong RBM phải sắp xếp thành một [[Đồ thị hai phía|mạng lưới hai phía]]. Điều này có nghĩa là:

* một cặp nút từ mỗi nhóm trong hai nhóm đơn vị (thường được gọi là các đơn vị "nhìn thấy" và "ẩn" tương ứng) có thể có kết nối đối xứng giữa chúng; và
* không có kết nối nào giữa các nút trong cùng một nhóm.

Ngược lại, '''máy Boltzmann không bị hạn chế''' có thể có các kết nối giữa các [[Mạng thần kinh nhân tạo|đơn vị ẩn]]. Điều này giúp việc đào tạo hiệu quả hơn bằng các [[thuật toán]] so với lớp máy Boltzmann thông thường, đặc biệt là thuật toán '''phân kỳ đối nghịch''' dựa trên [[suy giảm độ dốc]].<ref name="oncd">Miguel Á. Carreira-Perpiñán và Geoffrey Hinton (2005). [http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.221.8829&rep=rep1&type=pdf#page=42 On contrastive divergence learning]. ''Artificial Intelligence and Statistics''.</ref>

Máy Boltzmann hạn chế cũng có thể được dùng trong các mạng [[học sâu]]. Cụ thể, mạng niềm tin sâu được tạo ra bằng cách "xếp chồng" các RBM, và có thể điều chỉnh lại mạng này bằng [[suy giảm độ dốc]] và [[truyền ngược]].<ref>{{Chú thích tập san học thuật| last1 = Hinton | first1 = G. 
| title = Deep belief networks 
| doi = 10.4249/scholarpedia.5947 
 |doi-access= free| journal = Scholarpedia 
| volume = 4 
| issue = 5 
| pages = 5947 
| year = 2009 
| bibcode = 2009SchpJ...4.5947H}}</ref>

==Cấu trúc==
Loại RBM chuẩn có các đơn vị ẩn và đơn vị nhìn thấy có giá trị nhị phân ([[Đại số Boole|Boolean]]), với một [[Ma trận (toán học)|ma trận]] trọng số <math>W</math> kích thước <math>m \times n</math>. Mỗi trọng số <math>(w_{i,j})</math> của ma trận kết nối đơn vị nhìn thấy (đầu vào) <math>v_i</math> và đơn vị ẩn <math>h_j</math>. Ngoài ra, còn có các trọng số bù <math>a_i</math> cho <math>v_i</math> và <math>b_j</math> cho <math>h_j</math>. Với các trọng số và bù, ''năng lượng'' của một cấu hình (cặp vector Boolean) {{Math|(''v'',''h'')}} được định nghĩa như sau:

:<math>E(v,h) = -\sum_i a_i v_i - \sum_j b_j h_j -\sum_i \sum_j v_i w_{i,j} h_j</math>

hoặc, theo dạng ma trận:

:<math>E(v,h) = -a^{\mathrm{T}} v - b^{\mathrm{T}} h -v^{\mathrm{T}} W h.</math>

Hàm năng lượng này tương tự với của [[mạng Hopfield]]. Cũng giống các máy Boltzmann khác, [[phân phối xác suất đồng thời]] cho các vector nhìn thấy và ẩn được định nghĩa dựa trên hàm năng lượng:<ref name="guide">Geoffrey Hinton (2010). ''[http://www.cs.toronto.edu/~hinton/absps/guideTR.pdf A Practical Guide to Training Restricted Boltzmann Machines]''. UTML TR 2010–003, Đại học Toronto.</ref>

:<math>P(v,h) = \frac{1}{Z} e^{-E(v,h)}</math>

trong đó <math>Z</math> là một hằng số chuẩn hóa đảm bảo tổng tất cả xác suất là 1. Xác suất biên của một vector nhìn thấy là tổng của <math>P(v,h)</math> trên tất cả các cấu hình của lớp ẩn,<ref name="guide"/>

:<math>P(v) = \frac{1}{Z} \sum_{\{h\}} e^{-E(v,h)}</math>,

và ngược lại. Vì RBM có cấu trúc [[đồ thị hai phía]] (không có kết nối trong cùng một lớp), các đơn vị ẩn hoạt động độc lập khi đã biết các đơn vị nhìn thấy, và ngược lại.<ref name="oncd"/> Điều này có nghĩa là, với ''m'' đơn vị nhìn thấy và ''n'' đơn vị ẩn, [[xác suất có điều kiện]] của các đơn vị nhìn thấy {{Mvar|v}}, khi biết cấu hình của các đơn vị ẩn {{Mvar|h}}, là:

:<math>P(v|h) = \prod_{i=1}^m P(v_i|h)</math>.

Ngược lại, xác suất có điều kiện của {{Mvar|h}} khi biết {{Mvar|v}} là:

:<math>P(h|v) = \prod_{j=1}^n P(h_j|v)</math>.

Xác suất kích hoạt của từng đơn vị được cho bởi:

:<math>P(h_j=1|v) = \sigma \left(b_j + \sum_{i=1}^m w_{i,j} v_i \right)</math> và <math>\,P(v_i=1|h) = \sigma \left(a_i + \sum_{j=1}^n w_{i,j} h_j \right)</math>

trong đó <math>\sigma</math> là [[Hàm logistic|hàm sigmoid logistic]].

Các đơn vị nhìn thấy của Máy Boltzmann hạn chế có thể là đa thức, dù các đơn vị ẩn tuân theo [[phân phối Bernoulli]].{{Cần giải thích|date=April 2021|reason=What is meant by Bernoulli in this context?}} Khi đó, hàm logistic cho các đơn vị nhìn thấy được thay bằng [[Hàm softmax|hàm softmax]]:

:<math>P(v_i^k = 1|h) = \frac{\exp(a_i^k + \Sigma_j W_{ij}^k h_j)} {\Sigma_{k'=1}^K \exp(a_i^{k'} + \Sigma_j W_{ij}^{k'} h_j)}</math>

trong đó ''K'' là số giá trị rời rạc mà các giá trị nhìn thấy có. Chúng được sử dụng trong mô hình chủ đề,<ref name="softTM"/> và [[hệ thống gợi ý]].<ref name="softCF"/>

===Quan hệ với các mô hình khác===
Máy Boltzmann Hạn chế là một dạng đặc biệt của [[máy Boltzmann]] và các trường ngẫu nhiên Markov.<ref name="cdconvergence">{{Chú thích tập san học thuật| first1 = Ilya | last1 = Sutskever | first2 = Tijmen | last2 = Tieleman | year = 2010 | title = On the convergence properties of contrastive divergence | journal = Proc. 13th Int'l Conf. On AI and Statistics (AISTATS) | url = http://machinelearning.wustl.edu/mlpapers/paper_files/AISTATS2010_SutskeverT10.pdf | url-status = dead | archive-url = https://web.archive.org/web/20150610230811/http://machinelearning.wustl.edu/mlpapers/paper_files/AISTATS2010_SutskeverT10.pdf | archive-date = 2015-06-10 }}</ref><ref name="RBMTutorial">Asja Fischer và Christian Igel. [http://image.diku.dk/igel/paper/TRBMAI.pdf  Training Restricted Boltzmann Machines: An Introduction] {{Webarchive|url=https://web.archive.org/web/20150610230447/http://image.diku.dk/igel/paper/TRBMAI.pdf# |date=2015-06-10 }}. Pattern Recognition 47, pp. 25-39, 2014</ref>

Mô hình đồ thị của RBM tương ứng với [[phân tích nhân tố]].<ref>{{Chú thích tập san học thuật|author1=María Angélica Cueto |author2=Jason Morton |author3=Bernd Sturmfels |year=2010 |title=Geometry of the restricted Boltzmann machine |journal=Algebraic Methods in Statistics and Probability |volume=516 |publisher=American Mathematical Society |arxiv=0908.4425 |bibcode=2009arXiv0908.4425A }}</ref>

==Thuật toán huấn luyện==

Máy Boltzmann hạn chế được huấn luyện để tối đa hóa các xác suất được gán cho một tập huấn luyện <math>V</math> (một ma trận mà mỗi hàng là một vector nhìn thấy <math>v</math>),

:<math>\arg\max_W \prod_{v \in V} P(v)</math>

hoặc tương đương, để tối đa hóa [[Giá trị kỳ vọng|logarit kỳ vọng]] của một mẫu huấn luyện <math>v</math> được chọn ngẫu nhiên từ <math>V</math>:<ref name="cdconvergence" /><ref name="RBMTutorial" />

:<math>\arg\max_W \mathbb{E} \left[ \log P(v)\right]</math>

Thuật toán phổ biến nhất để huấn luyện RBM, tức là tối ưu hóa ma trận trọng số <math>W</math>, là thuật toán phân kỳ đối nghịch (CD) do Hinton phát triển, ban đầu để huấn luyện các mô hình PoE (product of experts).<ref>Geoffrey Hinton (1999). [http://www.gatsby.ucl.ac.uk/publications/papers/06-1999.pdf Products of Experts]. ''ICANN 1999''.</ref><ref>{{Chú thích tập san học thuật| last1 = Hinton | first1 = G. E. | title = Training Products of Experts by Minimizing Contrastive Divergence | doi = 10.1162/089976602760128018 | journal = Neural Computation | volume = 14 | issue = 8 | pages = 1771–1800 | year = 2002 | pmid =  12180402| s2cid = 207596505 | url = http://www.cs.toronto.edu/~hinton/absps/tr00-004.pdf}}</ref> 
Thuật toán này sử dụng kỹ thuật lấy mẫu Gibbs và nằm trong quy trình [[suy giảm độ dốc]] (tương tự như cách truyền ngược hoạt động khi huấn luyện mạng thần kinh tiến thẳng) để tính toán cập nhật trọng số.

Quy trình cơ bản của phân kỳ đối nghịch một bước (CD-1) cho một mẫu đơn lẻ có thể được tóm tắt như sau:

# Lấy một mẫu huấn luyện {{Mvar|v}}, tính toán xác suất của các đơn vị ẩn và lấy mẫu một vector kích hoạt ẩn {{Mvar|h}} từ phân phối xác suất này.
# Tính tích ngoài của {{Mvar|v}} và {{Mvar|h}}, gọi đó là ''gradient dương''.
# Từ {{Mvar|h}}, lấy mẫu một bản dựng lại {{Mvar|v'}} của các đơn vị nhìn thấy, sau đó lại lấy mẫu các kích hoạt ẩn {{Mvar|h'}} từ đó. (Bước lấy mẫu Gibbs)
# Tính tích ngoài của {{Mvar|v'}} và {{Mvar|h'}} và gọi đó là ''gradient âm''.
# Cập nhật ma trận trọng số <math>W</math> bằng cách lấy gradient dương trừ đi gradient âm, nhân với một hệ số học: <math>\Delta W = \epsilon (vh^\mathsf{T} - v'h'^\mathsf{T})</math>.
# Cập nhật các trọng số bù {{Mvar|a}} và {{Mvar|b}} tương tự: <math>\Delta a = \epsilon (v - v')</math>, <math>\Delta b = \epsilon (h - h')</math>.

A Practical Guide to Training RBMs (Hướng dẫn Thực hành để Huấn luyện Máy Boltzmann Hạn chế) được viết bởi Hinton có thể được tìm thấy trên trang chủ của ông.<ref name="guide"/>

==Máy Boltzmann Hạn chế Xếp chồng==

* Sự khác biệt giữa Máy Boltzmann Hạn chế Xếp chồng (Stacked Restricted Boltzmann Machines) và RBM là ở chỗ, trong RBM, các kết nối ngang giữa các nút trong cùng một lớp không được phép, điều này giúp dễ phân tích hơn. Còn Máy Boltzmann Xếp chồng thì kết hợp một mạng ba lớp, trong đó có lớp học tự động (không giám sát) với trọng số đối xứng, và một lớp trên được huấn luyện có giám sát để giúp nhận dạng tốt hơn ba lớp.
* Máy Boltzmann Xếp chồng được dùng để [[hiểu ngôn ngữ tự nhiên]], tìm kiếm tài liệu, tạo ra hình ảnh và phân loại dữ liệu. Những chức năng này được học qua quá trình học không giám sát (học mà không có sự can thiệp của con người) và/hoặc được tinh chỉnh bằng cách học có giám sát (học với hướng dẫn). Khác với mạng có trọng số đối xứng ở lớp trên, RBM có một lớp hai chiều kết nối không đối xứng. Máy Boltzmann Hạn chế có ba lớp với trọng số không đối xứng và kết hợp hai mạng thành một.
* Máy Boltzmann Xếp chồng có một số điểm tương đồng với RBM, như các neuron trong Máy Boltzmann Xếp chồng cũng là các neuron nhị phân giống như trong Máy Boltzmann Hạn chế. Cả Máy Boltzmann Hạn chế và RBM đều dựa trên một hàm gọi là hàm xác suất Gibbs: <math>E = -\frac12\sum_{i,j}{w_{ij}{s_i}{s_j}}+\sum_i{\theta_i}{s_i}</math>. Quá trình huấn luyện của Máy Boltzmann Hạn chế tương tự như RBM, huấn luyện từng lớp một và dùng một quy trình ba bước để ước lượng trạng thái cân bằng, không dùng cách lan truyền ngược. Máy Boltzmann Hạn chế có thể dùng cả phương pháp giám sát và không giám sát để huấn luyện các RBM khác nhau, nhằm phân loại và nhận dạng. Quá trình huấn luyện sử dụng phân kỳ đối nghịch kết hợp với lấy mẫu Gibbs: Δw<sub>ij</sub> = e*(p<sub>ij</sub> - p'<sub>ij</sub>).
* Ưu điểm của Máy Boltzmann Hạn chế là nó có thể thực hiện biến đổi phi tuyến, dễ mở rộng và tạo ra các lớp đặc trưng theo tầng. Tuy nhiên, nhược điểm là nó tính toán phức tạp hơn khi sử dụng các neuron với giá trị là số nguyên hoặc số thực. Nó không tuân theo gradient của bất kỳ hàm nào, vì vậy cần ước lượng phân kỳ đối nghịch với xác suất cực đại để cải thiện.<ref name="guide"/>

== Văn học ==
* {{Chú thích|last1=Fischer|first1=Asja|title=An Introduction to Restricted Boltzmann Machines|date=2012|work=Progress in Pattern Recognition, Image Analysis, Computer Vision, and Applications|pages=14–36|place=Berlin, Heidelberg|publisher=Springer Berlin Heidelberg|last2=Igel|first2=Christian|series=Lecture Notes in Computer Science |volume=7441 |doi=10.1007/978-3-642-33275-3_2 |isbn=978-3-642-33274-6 |doi-access=free}}

== Xem thêm ==
* [[Bộ tự mã hóa]]

== Tham khảo ==
{{Tham khảo|1}}

== Thư mục ==
* {{Chú thích web|url=http://blog.echen.me/2011/07/18/introduction-to-restricted-boltzmann-machines/ |title=Introduction to Restricted Boltzmann Machines |first=Edwin |last=Chen |work=Edwin Chen's blog |date=2011-07-18 }}
* {{Chú thích web|url=https://deeplearning4j.org/restrictedboltzmannmachine.html |title=A Beginner's Tutorial for Restricted Boltzmann Machines |access-date=2018-11-15 |archive-url=https://web.archive.org/web/20170211042953/https://deeplearning4j.org/restrictedboltzmannmachine.html |archive-date=2017-02-11 |url-status=bot: unknown |work=Deeplearning4j Documentation |first1=Chris |last1=Nicholson |first2=Adam |last2=Gibson }}
* {{Chú thích web|url=http://deeplearning4j.org/understandingRBMs.html |title=Understanding RBMs |access-date=2014-12-29 |archive-url=https://web.archive.org/web/20160920122139/http://deeplearning4j.org/understandingRBMs.html |archive-date=2016-09-20 |url-status=dead |work=Deeplearning4j Documentation |first1=Chris |last1=Nicholson |first2=Adam |last2=Gibson }}

== Liên kết ngoài ==
* [[Python (ngôn ngữ lập trình)|Python]] [https://github.com/AmazaspShumik/sklearn-bayes/blob/master/skbayes/decomposition_models/rbm.py implementation] của Bernoulli RBM và [https://github.com/AmazaspShumik/sklearn-bayes/blob/master/ipython_notebooks_tutorials/decomposition_models/rbm_demo.ipynb hướng dẫn] 
* [https://github.com/swirepe/SimpleRBM SimpleRBM] là một mã nguồn RBM nhỏ (24kB) hữu ích để học cách các RBM hoạt động và học hỏi.
* Triển khai Julia của máy Boltzmann hạn chế: https://github.com/cossio/RestrictedBoltzmannMachines.jl

[[Thể loại:Học không có giám sát]]
[[Thể loại:Mạng thần kinh nhân tạo]]