진리표
컴퓨터 디지털 회로 gate 논리
AND: 둘다 1 이면 1
OR: 둘 중 하나라도 1 이면 1
XOR: 둘 중 하나만 1이면 1
분류기 퍼셉트론
XOR (exclusive OR) 문제
- 그림처럼, 각각 두 개씩 다른 점이 있다고 할 때, 하나의 선을 그어 색깔별로 분류하는 방법을 생각해 보자.
- 어떠한 한 개의 직선으로도 분류할 수 없다.... 1969년 Marvin Minsky 가 발견
XOR 문제 해결
- 1990년대 다층 퍼셉트론(multilayer perceptron)으로 해결
- 아래 그림과 같이 2차원 평면 공간을 3차원으로 확장해서 분류할 수 있음.
- 즉, 차원 확장과 좌표 평면 변환 이용
- XOR 문제를 해결하기 위해서는 2개의 퍼셉트론을 한번에 계산할 수 있어야 함.
- 은닉층(hidden layer)을 가진 다층 퍼셉트론을 구현하여 가능.
다층 퍼셉트론
1. 각 퍼셉트론의 가중치(w)와 바이어스(b)를 은닉층의 노드(n)로 보냄.
2. 은닉층으로 들어온 w, b에 시그모이드 함수를 적용하여 최종 결과값을 출력함
w와 b를 구하기 위해서 행렬로 표현하면,
연습: XOR 문제 해결
아래 예제를 통해서, XOR 진리표를 구할 수 있는지 연습해 보자.
먼저 각 노드 n1, n2를 구하고, 최종 y 출력값을 계산한다.