RNN(Recurrent Neural Network)

https://www.youtube.com/watch?v=AsNTP8Kwu80 가상의 주식시장 설정 - 신경망은 우리가 예측에 사용하는 순차 데이터가 얼마나 많은지에 유연해야 함 - RNN은 다른 양을 가진 입력값을 처리할 수 있다 RNN - weight, biases, layers, activation functions, and feedback loops 가지고 있음 - feedback loop는 순차적인 입력값 사용 가능 주식 가격 예측 어제 가격 : 0 / 오늘 가격 : 0 일 때, 내일의 가격 예측 ① 어제의 값과 오늘의 값을 순차적으로 입력값에 대입 ② 어제의 값을 입력값에 넣고 w1, b1 activation function으로 중간값 y1 구함 = yesterday input * w1 + b..

• format_list_bulleted AI/NLP
• · 2023. 6. 29.
• textsms

[모두의 딥러닝] 24. 순환 신경망(RNN), LSTM(Long Short Term Memory) - 로이터 뉴스 카테고리 분류 데이터

순환 신경망(Recurrent Neural Network, RNN) - 여러 개의 데이터가 순서대로 입력되었을 때 앞서 입력받은 데이터를 잠시 기억해 놓는 방법 - 기억된 데이터가 얼마나 중요한지 판단하고 별도의 가중치를 주어 다음 데이터로 넘김 1. 다수 입력 단일 출력 ex) 문장을 읽고 뜻을 파악할 때 2. 단일 입력 다수 출력 ex) 사진의 캡션을 만들 때 3. 다수 입력 다수 출력 ex) 문장을 번역할 때 LSTM(Long Short Term Memory) - 반복되기 전에 다음 층으로 기억된 값을 넘길지 여부를 관리하는 단계를 하나 더 추가 - RNN의 기울기 소실 문제를 보완 LSTM 예제 - 로이터 뉴스 카테고리 분류 데이터 - 11,228개의 뉴스 기사를 읽고 이 데이터가 어떤 의미를 지..

• format_list_bulleted AI/모두의 딥러닝
• · 2023. 6. 5.
• textsms

[모두의 딥러닝] 22. 텍스트 전처리 - 토큰화(tokenization), 빈도 수 세기

자연어 처리(Natural Language Processing, NLP) - 인간의 언어를 컴퓨터가 이해하고 처리할 수 있는 형태로 변환하는 기술 - 딥러닝을 하기 전 텍스트를 정제하는 텍스트 전처리 과정 필요 텍스트 토큰화(tokenization) - 토큰(token) : 텍스트 데이터를 작은 단위로 분할하는 과정에서 생성된 단어, 음절, 형태소와 같은 개별적인 단위 - 토큰화(tokenization) : 입력된 텍스트를 잘게 나누는 과정 text_to_word_sequence : 텍스트를 단어 단위로 나눔 : keras에 존재 # 케라스의 텍스트 전처리와 관련한 함수중 text_to_word_sequence 함수를 불러옴 from tensorflow.keras.preprocessing.text imp..

• format_list_bulleted AI/모두의 딥러닝
• · 2023. 6. 2.
• textsms