[모두의 딥러닝] 9. 인공 신경망(artificial neural network, ANN), XOR 문제

인공 신경망(artificial neural network, ANN)

- 뇌의 동작 원리를 모방한 컴퓨터 알고리즘으로, 여러 층의 퍼셉트론들이 데이터를 처리하고 학습하는 모델

- 역전파라고 불리는 과정을 통해 뉴런들 사이의 연결의 무게를 조정함으로써 학습하며, 패턴을 인식하고 예측

 

 

• 퍼셉트론(perceptron)

: 신경망을 이루는 기본 단위

: 입력과 가중치를 곱한 값을 활성화 함수에 적용하여 출력을 결정

 

• 아달라인(Adaline)

: 퍼셉트론에 경사 하강법을 도입해 최적의 경계선을 그릴 수 있게 함

 

 

 

XOR 문제

- 네 점 사이에 직선을 그을 때, 한 쪽에는 검은 점만 있고 다른 한 쪽에는 흰 점만 있게끔 그을 수 있을까? 

- XOR 문제는 선형 분리(퍼셉트론, 아달라인)가 불가능한 문제로, 하나의 단층 퍼셉트론으로는 해결할 수 없음을 보여줌

XOR 문제 : 직선 하나로는 같은 색끼리 나눌 수 없다

 

• 해결법

ⓛ 다층 퍼셉트론(multilayer perceptron)

② 오차 역전파(back propagation)

 

 

 

'모두의 딥러닝 개정 3판'의 내용과 https://github.com/taehojo/deeplearning의 코드 참고