본문 바로가기

LSTM7

[딥러닝을이용한 자연어 처리 입문] 0902 장단기 메모리(Long Short-Term Memory, LSTM) 1. 바닐라 RNN의 한계 - 바닐라 RNN의 시점(time step)이 길어질 수록 앞의 정보가 뒤로 충분히 전달되지 못하는 현상이 발생하여 비교적 짧은 시퀀스(sequence)에 대해서만 효과를 보이는 단점이 있음. --> 장기 의존성 문제(the problem of Log-Term Dependencies) 3. LSTM(Long Short-Term Memory) - 셀 상태(cell state)라는 값을 추가하여 불필요한 기억을 지우고, 기억해야할 것들을 정함 - 셀 상태 또한 이전에 배운 은닉 상태처럼 이전 시점의 셀 상태가 다음 시점의 셀 상태를 구하기 위한 입력으로서 사용함 - 은닉 상태값과 셀 상태값을 구하기 위해서 새로 추가 된 3개의 게이트를 사용. 각 게이트는 입력 게이트, 삭제 게이트.. 2021. 5. 20.
[빵형의 개발도상국] 판타지 소설을 쓰는 인공지능? - Python, Deep Learning #인공지능 #판타지 #소설쓰기 #LSTM #Python - #Numpy - #Keras 2019. 6. 24.
[빵형의 개발도상국] 삼성전자 주식, 이더리움 시세 인공지능으로 예측해보자 - Python, Deep Learning 딥러닝(LSTM)을 사용하여 주식 가격과 암호화폐의 시세를 예측하는 인공지능을 만들거예요. 놀라지마세요. 생각보다 훨씬 정확하답니다. Source code(Github): https://github.com/kairess/stock_cryp... Dependencies: - Python - numpy - Keras - pandas - matplotlib Dataset - Yahoo Finance: https://finance.yahoo.com - CoinMarketCap: https://coinmarketcap.com 2019. 6. 11.