PHƯƠNG PHÁP HỌC SÂU LSTM BÀI TOÁN DỰ BÁO CHỈ SỐ VNINDEX THEO CHUỖI THỜI GIAN
Bước 1: Trạng thái ẩn trước đó và đầu vào hiện tại được nối với nhau. Sẽ gọi là combine
Bước 2: Sau đó, tính được combine và đưa nó vào lớp quên (forget gate). Lớp này loại bỏ dữ liệu không liên quan. Ở bước này ft cũng có thể được tính bằng công thức ft=σ(Wf,xxt+Wf,hht-1+bf). Trong đó, hàm sigmoid biến đổi tất cả giá trị kích hoạt về miền giá trị trong khoảng từ 0 (hoàn toàn quên) và 1( hoàn toàn ghi nhớ), còn xt là vector đầu vào tại mỗi bước thời gian t ,Wf,x và Wf,h là các ma trận trọng số trong mỗi tế bào LSTM, bf là vector bias , ht-1 là giá trị đầu ra từ tế bào LSTM
Bước 3: Một lớp candidate được tạo bằng cách sử dụng combine. Lớp này giữ các giá trị có thể có để thêm vào trạng thái ô
Bước 4: Combine cũng được đưa vào lớp đầu vào. Lớp này quyết định dữ liệu nào từ candidate sẽ được thêm vào trạng thái ô mới. Ở bước này it cũng được tính như sau : it=tanh(Wi,x xt+Wi,hht-1+bi). Trong đó, Wi,x và Wi,h là các ma trận trọng số trong mỗi tế bào LSTM, bi là vector bias
Bước 5: Sau khi tính toán lớp quên, candidate và lớp đầu vào , trạng thái ô được tính bằng cách sử dụng các vector đó và trạng thái ô trước đó
Bước 6 : Kết quả sau đó được tính toán
Bước 7: Nhân đầu ra và trạng thái ô mới sẽ cho chúng ta trạng thái ẩn mới [25]