長(zhǎng)短期記憶模型（LSTM）

循環(huán)神經(jīng)網(wǎng)路（RNN）在工作時(shí)一個(gè)重要的優(yōu)點(diǎn)在于，其能夠在輸入和輸出序列之間的映射過(guò)程中利用上下文相關(guān)信息。然而不幸的是，標(biāo)準(zhǔn)的循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）能夠存取的上下文信息范圍很有限。這個(gè)問(wèn)題就使得隱含層的輸入對(duì)于網(wǎng)絡(luò)輸出的影響隨著網(wǎng)絡(luò)環(huán)路的不斷遞歸而衰退。因此，為了解決這個(gè)問(wèn)題，長(zhǎng)短時(shí)記憶（LSTM）結(jié)構(gòu)誕生了。與其說(shuō)長(zhǎng)短時(shí)記憶是一種循環(huán)神經(jīng)網(wǎng)絡(luò)，倒不如說(shuō)是一個(gè)加強(qiáng)版的組件被放在了循環(huán)神經(jīng)網(wǎng)絡(luò)中。具體地說(shuō)