Xem mã nguồn của Q-learning (học tăng cường)

{{Mồ côi|date=tháng 7 2020}}
'''''Q'' -learning''' là một thuật toán [[học tăng cường]] [[Không mô hình (học tăng cường)|không mô hình]]. Mục tiêu của Q-learning là học một chính sách, chính sách cho biết máy sẽ thực hiện hành động nào trong hoàn cảnh nào. Nó không yêu cầu một mô hình (do đó hàm ý "không mô hình") của môi trường và nó có thể xử lý các vấn đề với chuyển đổi và phần thưởng ngẫu nhiên, mà không cần điều chỉnh."

Đối với bất kỳ [[quá trình quyết định Markov]] hữu hạn (QTQDMKHH) nào, ''Q'' -learning tìm một chính sách tối ưu theo nghĩa là nó tối đa hóa giá trị mong đợi của tổng số phần thưởng trên bất kỳ và tất cả các bước tiếp theo, bắt đầu từ trạng thái hiện tại.<ref name="auto">{{Chú thích tạp chí|last=Melo|first=Francisco S.|title=Convergence of Q-learning: a simple proof|url=http://users.isr.ist.utl.pt/~mtjspaan/readingGroup/ProofQlearning.pdf}}</ref> ''Q'' -learning có thể xác định một chính sách lựa chọn hành động tối ưu cho bất kỳ QTQDMKHH cụ thể nào, với thời gian thăm dò vô hạn và chính sách một phần ngẫu nhiên.<ref name="auto" /> "Q" đặt tên theo tên hàm phần thưởng trả về, được sử dụng để cải thiện hoạt động và có thể nói là đại diện cho "chất lượng" của một hành động được thực hiện trong một trạng thái nhất định.<ref name=":0">{{Chú thích web|url=http://neuro.cs.ut.ee/demystifying-deep-reinforcement-learning/|title=Demystifying Deep Reinforcement Learning|author=Matiisen|first=Tambet|date=ngày 19 tháng 12 năm 2015|website=neuro.cs.ut.ee|publisher=Computational Neuroscience Lab|language=en-US|access-date = ngày 6 tháng 4 năm 2018}}</ref>

== Học tăng cường ==
Học tăng cường liên quan đến một [[Intelligent agent|tác nhân]], một tập hợp các ''trạng thái'' {{tmath|S}}và một bộ {{tmath|A}}các ''hành động'' trên mỗi trạng thái. Bằng cách thực hiện một hành động <math>a \in A</math>, các tác nhân chuyển từ trạng thái này sang trạng thái khác. Thực hiện một hành động trong một trạng thái cụ thể cung cấp cho tác nhân một ''phần thưởng'' (một số điểm). Mục tiêu của tác nhân là tối đa hóa phần thưởng (trong tương lai) của nó. Nó thực hiện điều này bằng cách thêm phần thưởng tối đa có thể đạt được trong tương lai vào phần thưởng để đạt được trạng thái hiện tại, do đó hiệu quả hoạt động của hành động hiện tại được đánh giá bằng phần thưởng tiềm năng trong tương lai. Phần thưởng tiềm năng này là tổng của các [[Giá trị kỳ vọng|giá trị dự kiến]] của phần thưởng của tất cả các bước trong tương lai bắt đầu từ trạng thái hiện tại.<span></span>Ví dụ, hãy xem xét quá trình lên tàu, trong đó phần thưởng được đo bằng mức âm của tổng thời gian lên tàu (nói cách khác, chi phí lên tàu bằng thời gian lên tàu). Một chiến lược là vào tàu ngay khi cửa mở, giảm thiểu thời gian chờ đợi ban đầu cho chính bạn. Tuy nhiên, nếu tàu đông đúc, thì bạn sẽ vào chậm hơn, sau hành động đầu tiên là bước vào cửa thì mọi người sẽ đẩy bạn ra để rời tàu khi bạn cố gắng lên tàu. Tổng thời gian lên tàu, hoặc chi phí là:

* Thời gian chờ 0 giây + thời gian chiến đấu 15 giây

Vào ngày hôm sau, do tình cờ ngẫu nhiên (thử nghiệm), bạn quyết định chờ đợi và để người khác xuống tàu trước. Điều này ban đầu dẫn đến thời gian chờ đợi lâu hơn. Tuy nhiên, thời gian chiến đấu với các hành khách khác là ít hơn. Nhìn chung, con đường này có phần thưởng cao hơn so với ngày hôm trước, vì tổng thời gian lên máy bay là:

* Thời gian chờ 5 giây + thời gian chiến đấu 0 giây.

Thông qua thăm dò, mặc dù hành động ban đầu (chờ đợi) dẫn đến chi phí (hoặc phần thưởng âm) lớn hơn so với chiến lược lao vào tàu, chi phí chung là thấp hơn, do đó là một chiến lược bổ ích hơn.

Theo lý thuyết, việc lựa chọn hành động tiếp theo là ngẫu nhiên, nhưng trên thực tế, để đẩy nhanh tốc độ hội tụ, giải pháp tham lam được áp dụng, hành động có phần thưởng tiềm năng cao hơn sẽ được chọn và có 1 tỉ lệ ngẫu nhiên chọn các hành động khác.

== Thuật toán ==
[[Tập tin:Q-Learning_Matrix_Initialized_and_After_Training.png|nhỏ|Bảng Q-Learning về các trạng thái được khởi tạo thành 0, sau đó mỗi ô được cập nhật thông qua đào tạo.]]
Chi phí cho một bước từ một trạng thái đến <math>\Delta t</math>bước trong tương lai được tính là <math>\gamma^{\Delta t}</math>.Trong đó <math>\gamma</math>là hệ số ''chiết khấu'', một số từ 0 đến 1(<math>0 \le \gamma \le 1</math>) và có tác dụng định giá phần thưởng nhận được sớm hơn so với phần thưởng nhận được sau này (phản ánh giá trị của "khởi đầu tốt"). <math> \gamma </math>cũng có thể được hiểu là xác suất thành công (hoặc tồn tại) ở mọi bước <math>\Delta t</math>. Do đó, thuật toán có hàm tính toán chất lượng của sự kết hợp hành động trạng thái:<span></span><span></span><span></span><span></span><span></span><span></span>

:<math>Q: S \times A \to \mathbb{R}</math>.<span></span><span></span><span></span><span></span><span></span><span></span><span></span>
:Trư<span></span><span></span><span></span><span></span><span></span><span></span><span></span>ớc khi bắt đầu học, {{tmath|Q}}được khởi tạo là một giá trị cố định tùy ý (được chọn bởi người lập trình). Sau đó, tại mỗi thời điểm <math>t</math>tác nhân chọn một hành động <math>a_t</math>, quan sát một <span></span>phần th<span></span>ưởng <math>r_t</math>, bước vào một trạng thái mới  <math>s_{t+1}</math> (điều đó có thể phụ thuộc vào cả trạng thái trước đó <math>s_t</math> và hành động đã chọn) và <math>Q</math>được cập nhật. Cốt lõi của thuật toán là một [[Quá trình quyết định Markov|cập nhật lặp lại giá trị]] đơn giản, sử dụng trung bình trọng số của giá trị cũ và thông tin mới:<math>Q^{new}(s_{t},a_{t}) \leftarrow (1-\alpha) \cdot \underbrace{Q(s_{t},a_{t})}_{\text{old value}} + \underbrace{\alpha}_{\text{learning rate}} \cdot \overbrace{\bigg(\underbrace{r_{t}}_{\text{reward}} + \underbrace{\gamma}_{\text{discount factor}} \cdot \underbrace{\max_{a}Q(s_{t+1}, a)}_{\text{estimate of optimal future value}} \bigg) }^{\text{learned value}} </math>
:Với<span></span><span></span><span></span><span></span><span></span><span></span><span></span> <math>r_{t}</math>'' là phần thưởng nhận được khi chuyển từ trạng thái <math>s_{t}</math> sang trạng thái <math>s_{t+1}</math> và <math>\alpha</math> là tỷ lệ học''<span></span>''<span></span><span></span><span></span><span></span> (<math>0 < \alpha \le 1</math>).''<span></span>''<span></span><span></span><span></span><span></span>''

Một tập của thuật toán kết thúc khi trạng thái  <math>s_{t+1}</math> là ''trạng thái'' cuối cùng hoặc trạng thái kết thúc. Tuy nhiên, ''Q'' -learning cũng có thể học trong các nhiệm vụ không có tình tiết. {{Cần chú thích|date=December 2017}}  Nếu hệ số chiết khấu thấp hơn 1, các giá trị hành động là hữu hạn ngay cả khi sự cố có thể chứa các vòng lặp vô hạn.<span></span>Đối với tất cả các trạng thái cuối cùng <math>Q(s_f, a)</math> không bao giờ được cập nhật, nhưng được đặt thành giá trị phần thưởng  <math>r</math> cho trạng <span></span>''<span></span><span></span><span></span><span></span>''thái  <math>s_f</math>. Trong hầu hết các trường hợp,  <math>Q(s_f,a)</math> có thể được đặt bằng không.<span></span><span></span><span></span><span></span><span></span>
== Ảnh hưởng của các biến ==

=== Tỷ lệ học ===
Tỷ lệ học hoặc ''kích thước bước'' xác định mức độ thông tin mới thu được sẽ ghi đè thông tin cũ. Hệ số 0 làm cho tác nhân không học được gì (chỉ khai thác kiến thức trước), trong khi hệ số 1 khiến tác nhân chỉ xem xét thông tin gần đây nhất (bỏ qua kiến thức trước để khám phá các khả năng). Trong môi trường hoàn toàn xác định, tỷ lệ học tập của  <math>\alpha_t = 1</math> là tối ưu. Khi vấn đề là [[Quá trình ngẫu nhiên|ngẫu nhiên]], thuật toán hội tụ trong một số điều kiện kỹ thuật về tốc độ học tập yêu cầu nó giảm xuống không. Trong thực tế, thường sử dụng một tỷ lệ học tập liên tục, chẳng hạn như <math>\alpha_t = 0.1</math>cho tất cả <math>t</math>.<ref>{{Chú thích sách|url=http://incompleteideas.net/sutton/book/ebook/the-book.html|title=Reinforcement Learning: An Introduction|last=Sutton|first=Richard|last2=Barto|first2=Andrew|date=1998|publisher=MIT Press}}</ref><span></span><span></span><span></span>
=== Hệ số chiết khấu ===
Hệ số chiết khấu  {{tmath|\gamma}} xác định tầm quan trọng của phần thưởng trong tương lai. Hệ số 0 sẽ khiến tác nhân "cận thị" (hay thiển cận) bằng cách chỉ xem xét các phần thưởng hiện tại, tức là  <math>r_t</math> (trong quy tắc cập nhật ở trên), trong khi một yếu tố tiếp cận 1 sẽ khiến nó phấn đấu để nhận phần thưởng cao dài hạn. Nếu hệ số chiết khấu bằng hoặc vượt quá 1, các giá trị hành động có thể phân kỳ. Dành cho  {{tmath|\gamma {{=}} 1}}, không có trạng thái cuối, hoặc nếu tác nhân không bao giờ đạt tới một, tất cả lịch sử môi trường trở nên dài vô tận và các tiện ích với phần thưởng phụ gia, không được tiết lộ thường trở thành vô hạn.<ref>{{Chú thích sách|title=Artificial Intelligence: A Modern Approach|url=https://archive.org/details/artificialintell00russ_058|last=Russell|first=Stuart J.|last2=Norvig|first2=Peter|date=2010|publisher=[[Prentice Hall]]|isbn=978-0136042594|edition=Third|page=[https://archive.org/details/artificialintell00russ_058/page/n668 649]|author-link=Stuart J. Russell|author-link2=Peter Norvig}}</ref> Ngay cả với hệ số chiết khấu chỉ thấp hơn một chút, việc học theo chức năng ''Q'' dẫn đến việc lan truyền các lỗi và sự không ổn định khi hàm giá trị được xấp xỉ với [[Mạng nơ-ron nhân tạo|mạng nơ ron nhân tạo]].<ref>{{Chú thích tạp chí|last=Baird|first=Leemon|year=1995|title=Residual algorithms: Reinforcement learning with function approximation|url=http://www.leemon.com/papers/1995b.pdf|journal=ICML}}</ref> Trong trường hợp đó, bắt đầu với hệ số chiết khấu thấp hơn và tăng nó theo giá trị cuối cùng sẽ đẩy nhanh quá trình học tập.<ref>{{Chú thích arXiv}}</ref><span></span>
=== Điều kiện ban đầu (''Q''<sub>0</sub>) ===
Vì ''Q'' -learning là một thuật toán lặp, nó mặc nhiên thừa nhận một điều kiện ban đầu trước khi cập nhật đầu tiên xảy ra. Giá trị ban đầu cao, còn được gọi là "điều kiện ban đầu lạc quan",<ref>{{Chú thích sách|title=Reinforcement Learning: An Introduction|last=Sutton|first=Richard S.|last2=Barto|first2=Andrew G.|chapter=2.7 Optimistic Initial Values|access-date = ngày 18 tháng 7 năm 2013 |chapter-url=http://webdocs.cs.ualberta.ca/~sutton/book/ebook/node21.html|archive-url=https://web.archive.org/web/20130908031737/http://webdocs.cs.ualberta.ca/~sutton/book/ebook/node21.html|archive-date = ngày 8 tháng 9 năm 2013 |url-status=dead}}</ref> có thể khuyến khích thăm dò: bất kể hành động nào được chọn, quy tắc cập nhật sẽ khiến nó có giá trị thấp hơn so với phương án khác, do đó tăng xác suất lựa chọn của chúng. Phần thưởng đầu tiên <math>r</math>có thể được sử dụng để thiết lập lại các điều kiện ban đầu.<ref name="hshteingart">{{Chú thích tạp chí|last=Shteingart|first=Hanan|last2=Neiman|first2=Tal|last3=Loewenstein|first3=Yonatan|date=May 2013|title=The role of first impression in operant learning.|url=http://ratio.huji.ac.il/sites/default/files/publications/dp626.pdf|journal=Journal of Experimental Psychology: General|language=en|volume=142|issue=2|pages=476–488|doi=10.1037/a0029550|issn=1939-2222|pmid=22924882|access-date=2019-05-14|archive-date=2021-01-26|archive-url=https://web.archive.org/web/20210126122611/http://ratio.huji.ac.il/sites/default/files/publications/dp626.pdf}}</ref> Theo ý tưởng này, lần đầu tiên một hành động được thực hiện phần thưởng được sử dụng để đặt giá trị của <math>Q</math>. Điều này cho phép học ngay lập tức trong trường hợp phần thưởng xác định cố định. Một mô hình kết hợp ''thiết lập lại các điều kiện ban đầu'' (RIC) dự kiến sẽ dự đoán hành vi của người tham gia tốt hơn một mô hình giả định bất kỳ ''điều kiện ban đầu tùy ý'' (AIC).<ref name="hshteingart" /> RIC dường như phù hợp với hành vi của con người trong các thí nghiệm lựa chọn nhị phân lặp đi lặp lại.<ref name="hshteingart" /><span></span><span></span>
== Thực hiện ==
''Q'' -learning tại đơn giản nhất lưu trữ dữ liệu trong bảng. Cách tiếp cận này chùn bước với số lượng trạng thái / hành động ngày càng tăng.

=== Xấp xỉ hàm ===
''Q'' -learning có thể được kết hợp với xấp xỉ hàm.<ref>{{Chú thích sách|title=Reinforcement Learning: State-of-the-Art|last=Hasselt|first=Hado van|date=ngày 5 tháng 3 năm 2012|publisher=Springer Science & Business Media|isbn=978-3-642-27645-3|editor-last=Wiering|editor-first=Marco|pages=207–251|chapter=Reinforcement Learning in Continuous State and Action Spaces|editor-last2=Otterlo|editor-first2=Martijn van|chapter-url={{google books |plainurl=y |id=YPjNuvrJR0MC|page=|pp= 207-251}}}}</ref> Điều này cho phép áp dụng thuật toán cho các vấn đề lớn hơn, ngay cả khi không gian trạng thái liên tục.

Một giải pháp là sử dụng một [[Mạng nơ-ron nhân tạo|mạng nơ ron nhân tạo]] (thích nghi) như một hàm xấp xỉ hàm.<ref name="CACM">{{Chú thích tạp chí|last=Tesauro|first=Gerald|date=March 1995|title=Temporal Difference Learning and TD-Gammon|url=http://www.bkgm.com/articles/tesauro/tdl.html|journal=Communications of the ACM|volume=38|issue=3|pages=58–68|doi=10.1145/203330.203343|id=|access-date = ngày 8 tháng 2 năm 2010}}</ref> Xấp xỉ hàm có thể tăng tốc độ học tập trong các vấn đề hữu hạn, do thực tế là thuật toán có thể khái quát hóa các kinh nghiệm trước đó cho các trạng thái chưa từng thấy trước đây.

=== Lượng tử hóa ===
Một kỹ thuật khác để giảm không gian trạng thái / hành động định lượng các giá trị có thể. Hãy xem xét ví dụ về việc học cách cân bằng một cây gậy trên ngón tay. Để mô tả trạng thái tại một thời điểm nhất định liên quan đến vị trí của ngón tay trong không gian, vận tốc của nó, góc của thanh và [[vận tốc góc]] của thanh. Điều này mang lại một vectơ bốn phần tử mô tả một trạng thái, tức là ảnh chụp nhanh của một trạng thái được mã hóa thành bốn giá trị. Vấn đề là vô số trạng thái có thể có mặt. Để thu hẹp không gian có thể của các hành động hợp lệ, nhiều giá trị có thể được gán cho một nhóm. Khoảng cách chính xác của ngón tay từ vị trí bắt đầu của nó (- vô cực đến + vô cực) không được biết, mà là nó có ở xa hay không (Gần, Xa).

== Lịch sử ==
''Q'' -learning được giới thiệu bởi Watkins <ref>{{Chú thích|year=1989|title=Learning from Delayed Rewards}}</ref> vào năm 1989. Một bằng chứng hội tụ đã được trình bày bởi Watkins và Dayan <ref>Watkins and Dayan, C.J.C.H., (1992), 'Q-learning.Machine Learning'</ref> vào năm 1992. Một bằng chứng toán học chi tiết hơn bởi Tsitsiklis <ref>Tsitsiklis, J., (1994), 'Asynchronous Stochastic Approximation and Q-learning. Machine Learning'</ref> vào năm 1994, và bởi Bertsekas và Tsitsiklis trong cuốn sách ''Lập trình động học Neuro'' năm 1996 của họ.<ref>Bertsekas and Tsitsiklis, (1996), 'Neuro-Dynamic Programming. Athena Scientific'</ref>

Watkins đã giải quyết vấn đề Học tập từ các phần thưởng bị trì hoãn, tiêu đề của Luận án tiến sĩ của ông. Tám năm trước đó vào năm 1981, cùng một vấn đề, dưới cái tên Căng thẳng học tăng cường học tập, đã được giải quyết bằng Mảng thích nghi Crossbar (CAA) của Bozinovski.<ref name="DobnikarSteele1999">{{Chú thích sách|title=Artificial Neural Nets and Genetic Algorithms: Proceedings of the International Conference in Portorož, Slovenia, 1999|last=Bozinovski|first=S.|date=ngày 15 tháng 7 năm 1999|publisher=Springer Science & Business Media|isbn=978-3-211-83364-3|editor-last=Dobnikar|editor-first=Andrej|pages=320–325|chapter=Crossbar Adaptive Array: The first connectionist network that solved the delayed reinforcement learning problem|editor-last2=Steele|editor-first2=Nigel C.|editor-last3=Pearson|editor-first3=David W.|editor-last4=Albrecht|editor-first4=Rudolf F.|chapter-url={{google books |plainurl=y |id=clKwynlfZYkC|page=320-325}}}}</ref><ref name="Trappl1982">{{Chú thích sách|title=Cybernetics and Systems Research: Proceedings of the Sixth European Meeting on Cybernetics and Systems Research|last=Bozinovski|first=S.|publisher=North Holland|year=1982|isbn=978-0-444-86488-8|editor-last=Trappl|editor-first=Robert|pages=397–402|chapter=A self learning system using secondary reinforcement|chapter-url={{google books |plainurl=y |id=mGtQAAAAMAAJ|page=397}}}}</ref> Ma trận bộ nhớ W =|| w(a,s)|| cũng giống như tám năm sau Q-bảng của Q-learning. Các kiến trúc đã giới thiệu thuật ngữ "đánh giá trạng thái" trong học tăng cường. Thuật toán học thanh ngang, được viết bằng [[mã giả]] toán học trong bài báo, trong mỗi lần lặp lại thực hiện các tính toán sau:

* Trong trạng thái s hiện hành động a; 
* Nhận trạng thái hệ quả s'; 
* Tính toán đánh giá trạng thái v(s'); 
* Cập nhật giá trị thanh ngang w'(a,s) = w(a,s) + v(s').

Thuật ngữ "tăng cường thứ cấp", được sử dụng từ lý thuyết học tập động vật, để mô hình hóa các giá trị trạng thái thông qua [[Truyền ngược|backpropagation]]: giá trị trạng thái v(s') của tình huống hậu quả được đặt ngược lại cho các tình huống gặp phải trước đây. CAA tính toán các giá trị trạng thái theo chiều dọc và hành động theo chiều ngang ("thanh ngang"). Biểu đồ trình diễn cho thấy việc học tăng cường bị trì hoãn chứa các trạng thái (mong muốn, không mong muốn và trạng thái trung tính), được tính toán bởi hàm đánh giá trạng thái. Hệ thống học tập này là tiền thân của thuật toán Q-learning.<ref name="OmidvarElliott1997">{{Chú thích sách|title=Neural Systems for Control|last=Barto|first=A.|date=ngày 24 tháng 2 năm 1997|publisher=Elsevier|isbn=978-0-08-053739-9|editor-last=Omidvar|editor-first=Omid|chapter=Reinforcement learning|editor-last2=Elliott|editor-first2=David L.|chapter-url={{google books |plainurl=y |id=oLcAiySCow0C}}}}</ref>

Vào năm 2014, [[DeepMind|Google DeepMind đã]] cấp bằng sáng chế <ref>{{Chú thích web|url=https://patentimages.storage.googleapis.com/71/91/4a/c5cf4ffa56f705/US20150100530A1.pdf|title=Methods and Apparatus for Reinforcement Learning, US Patent #20150100530A1|date=ngày 9 tháng 4 năm 2015|publisher=US Patent Office|access-date=ngày 28 tháng 7 năm 2018}}</ref> một ứng dụng Q-learning để học [[Học sâu|sâu]], có tiêu đề "học tăng cường sâu" hoặc "Q-learning sâu" có thể chơi các trò chơi Atari 2600 ở cấp độ chuyên gia.

== Biến thể ==

=== Q-learning sâu ===
Hệ thống DeepMind đã sử dụng một mạng lưới thần kinh tích chập sâu, với các lớp bộ lọc [[tích chập]] để mô phỏng các hiệu ứng của các lĩnh vực tiếp nhận. Học tăng cường không ổn định hoặc phân kỳ khi xấp xỉ hàm phi tuyến như mạng nơ ron được sử dụng để biểu diễn Q. Sự không ổn định này xuất phát từ các tương quan có trong chuỗi các quan sát, thực tế là các cập nhật nhỏ cho Q có thể thay đổi đáng kể chính sách và dữ liệu phân phối và mối tương quan giữa Q và các giá trị đích.

Kỹ thuật sử dụng ''phát lại kinh nghiệm,'' một cơ chế lấy cảm hứng từ sinh học sử dụng một mẫu ngẫu nhiên các hành động trước thay vì hành động gần đây nhất để tiến hành.<ref name=":0"/> Điều này loại bỏ các mối tương quan trong chuỗi quan sát và làm mịn các thay đổi trong phân phối dữ liệu. Cập nhật lặp điều chỉnh Q theo các giá trị đích chỉ được cập nhật định kỳ, giảm hơn nữa tương quan với mục tiêu.<ref name="DQN">{{Chú thích tạp chí|last=Mnih|first=Volodymyr|last2=Kavukcuoglu|first2=Koray|last3=Silver|first3=David|last4=Rusu|first4=Andrei A.|last5=Veness|first5=Joel|last6=Bellemare|first6=Marc G.|last7=Graves|first7=Alex|last8=Riedmiller|first8=Martin|last9=Fidjeland|first9=Andreas K.|date=Feb 2015|title=Human-level control through deep reinforcement learning|url=http://www.nature.com/articles/nature14236|journal=Nature|language=en|volume=518|issue=7540|pages=529–533|doi=10.1038/nature14236|issn=0028-0836|pmid=25719670}}</ref>

=== Q-learning đôi ===
Bởi vì giá trị hành động xấp xỉ tối đa trong tương lai trong Q-learning được đánh giá bằng cách sử dụng chức năng Q ở trong chính sách lựa chọn hành động hiện tại, trong môi trường nhiễu, Q-learning đôi khi có thể đánh giá quá cao các giá trị hành động, làm chậm quá trình học. Một biến thể được gọi là Double Q-learning đã được đề xuất để sửa lỗi này. Double Q-learning <ref>{{Chú thích tạp chí|last=van Hasselt|first=Hado|year=2011|title=Double Q-learning|url=http://papers.nips.cc/paper/3964-double-q-learning|format=PDF|journal=Advances in Neural Information Processing Systems|volume=23|pages=2613–2622}}</ref> là một thuật toán học lại tăng cường ngoài chính sách, trong đó một chính sách khác được sử dụng để đánh giá giá trị so với chính sách được sử dụng để chọn hành động tiếp theo.

Trong thực tế, hai hàm giá trị riêng biệt được đào tạo theo kiểu đối xứng lẫn nhau bằng cách sử dụng các trải nghiệm riêng biệt, <math>Q^A</math> và <math>Q^B</math>. Bước cập nhật Q-learning đôi như sau: <span></span><span></span>

:<math>Q^A_{t+1}(s_{t}, a_{t}) = Q^A_{t}(s_{t}, a_{t}) + \alpha_{t}(s_{t}, a_{t}) \left(r_{t} + \gamma Q^B_{t}\left(s_{t+1}, \mathop\operatorname{arg~max}_{a} Q^A_t(s_{t+1}, a)\right) - Q^A_{t}(s_{t}, a_{t})\right)</math> và
:<math xmlns="http://www.w3.org/1998/Math/MathML"> </math> <math>Q^B_{t+1}(s_{t}, a_{t}) = Q^B_{t}(s_{t}, a_{t}) + \alpha_{t}(s_{t}, a_{t}) \left(r_{t} + \gamma Q^A_{t}\left(s_{t+1}, \mathop\operatorname{arg~max}_{a} Q^B_t(s_{t+1}, a)\right) - Q^B_{t}(s_{t}, a_{t})\right).</math>

Bây giờ giá trị ước tính của tương lai được đánh giá bằng cách sử dụng một chính sách khác, cái giải quyết vấn đề đánh giá quá cao.

Thuật toán này sau đó được kết hợp với [[học sâu]], thành thuật toán DQN, dẫn đến Double DQN, vượt trội hơn thuật toán DQN ban đầu.<ref>{{Chú thích tạp chí|last=van Hasselt|first=Hado|last2=Guez|first2=Arthur|last3=Silver|first3=David|date=2015|title=Deep reinforcement learning with double Q-learning|url=https://www.aaai.org/ocs/index.php/AAAI/AAAI16/paper/download/12389/11847|format=PDF|journal=AAAI Conference on Artificial Intelligence|pages=2094–2100|access-date=2019-05-14|archive-date=2020-02-06|archive-url=https://web.archive.org/web/20200206165520/http://www.aaai.org/ocs/index.php/AAAI/AAAI16/paper/download/12389/11847}}</ref>

=== Khác ===
Q-learning bị trì hoãn là một triển khai thay thế của thuật toán ''Q'' -learning trực tuyến, với việc [[Học PAC|''học đúng xấp xỉ với xác suất cao'' (PAC)]].<ref>{{Chú thích tạp chí|last=Strehl|first=Alexander L.|last2=Li|first2=Lihong|last3=Wiewiora|first3=Eric|last4=Langford|first4=John|last5=Littman|first5=Michael L.|year=2006|title=Pac model-free reinforcement learning|url=http://research.microsoft.com/pubs/178886/published.pdf|journal=Proc. 22nd ICML}}</ref>

GQ tham lam là một biến thể của ''Q'' -learning để sử dụng kết hợp với xấp xỉ hàm (tuyến tính).<ref>{{Chú thích web|url=https://webdocs.cs.ualberta.ca/~sutton/papers/MSBS-10.pdf|title=Toward off-policy learning control with function approximation in Proceedings of the 27th International Conference on Machine Learning|author=Maei|first=Hamid|author2=Szepesvári|first2=Csaba|year=2010|author3=Bhatnagar|first3=Shalabh|author4=Sutton|first4=Richard|ngày truy cập=2019-05-14|archive-date = ngày 8 tháng 9 năm 2012 |archive-url=https://web.archive.org/web/20120908050052/http://webdocs.cs.ualberta.ca/~sutton/papers/MSBS-10.pdf}}</ref> Ưu điểm của GQ tham lam là sự hội tụ được đảm bảo ngay cả khi sử dụng xấp xỉ hàm để ước tính các giá trị hành động.

== Xem thêm ==

* [[Học tăng cường]] 
* Học khác biệt tạm thời 
* SARSA 
* [[Song đề tù nhân|Tình trạng khó xử lặp đi lặp lại của tù nhân]] 
* [[Lý thuyết trò chơi]]

==Tham khảo==
{{Tham khảo|30em}}

== Liên kết ngoài ==

* [http://www.cs.rhul.ac.uk/~chrisw/thesis.html Watkins, CJCH (1989).] [http://www.cs.rhul.ac.uk/~chrisw/thesis.html Học hỏi từ phần thưởng bị trì hoãn.] [http://www.cs.rhul.ac.uk/~chrisw/thesis.html Luận án tiến sĩ, Đại học Cambridge, Cambridge, Anh.] 
* [http://portal.acm.org/citation.cfm?id=1143955 Stroundl, Li, Wiewiora, Langford, Littman (2006).] [http://portal.acm.org/citation.cfm?id=1143955 Học tăng cường mô hình miễn phí PAC] 
* [https://web.archive.org/web/20050806080008/http://www.cs.ualberta.ca/~sutton/book/the-book.html ''Học tăng cường: Giới thiệu''] [https://web.archive.org/web/20050806080008/http://www.cs.ualberta.ca/~sutton/book/the-book.html] của Richard Sutton và Andrew S. Barto, một cuốn sách giáo khoa trực tuyến. Xem [https://web.archive.org/web/20081202105235/http://www.cs.ualberta.ca/~sutton/book/ebook/node65.html "6.5 Q-Learning: Kiểm soát TD ngoài chính sách"]. 
* [http://sourceforge.net/projects/piqle/ Piqle: Nền tảng Java chung để học tăng cường] 
* [http://ccl.northwestern.edu/netlogo/models/community/Reinforcement%20Learning%20Maze Củng cố học tập Mê cung], một cuộc biểu tình hướng dẫn một con kiến thông qua một mê cung sử dụng ''Q'' -learning. 
* [http://www.research.ibm.com/infoecon/paps/html/ijcai99_qnn/node4.html ''Q'' -learning công việc của Gerald Tesauro] 
* [https://gammastorm.github.io/SinglePages/Brain.html Ví dụ về JavaScript với việc học RNN được thúc đẩy] {{Webarchive|url=https://web.archive.org/web/20180420073911/https://gammastorm.github.io/SinglePages/Brain.html |date = ngày 20 tháng 4 năm 2018}} 
* [https://github.com/gammastorm/gammastorm.github.io/blob/master/myjs/Brain.js Thư viện não] 
* [https://github.com/gammastorm/gammastorm.github.io/blob/master/myjs/SelfGenetics.js Một thư viện di truyền học được sử dụng bởi bộ não]

[[Thể loại:Thuật toán học máy]]