반응형 딥러닝42 퍼셉트론 - XOR 문제 해결(다층 퍼셉트론, 신경망) XOR 문제 해결 아래 그림과 같이 2차원 평면 공간을 3차원으로 확장해서 분류할 수 있음. 즉, 좌표 평면 변화를 적용. XOR 문제를 해결하기 위해서는 2개의 퍼셉트론을 한번에 계산할 수 있어야 하는데, 은닉층(hidden layer)를 사용하면 가능함. 다층 퍼셉트론 1. 각 퍼셉트론의 가중치(w)와 바이어스(b)를 은닉층의 노드(n)로 보냄. 2. 은닉층으로 들어온 w, b에 시그모이드 함수를 적용하여 최종 결과값을 출력함 w와 b를 구하기 위해서 행렬로 표현하면, 연습: XOR 문제 해결 아래 예제를 통해서, XOR 진리표를 구할 수 있는지 연습해 보자. 먼저 각 노드 n1, n2를 구하고, 최종 y 출력값을 계산한다. 2021. 11. 5. 퍼셉트론(perceptron) 다변량 함수 알고리즘 입력값(x)을 통해 출력값(y)을 구하는 다변량 회귀식은 아래와 같이 표현할 수 있음. 출력값(y)을 알려면, a1, a2, b 값을 알아야함. 입력된 x1, x2는 각각 가중치 a1, a2와 곱해지고, b가 더해진 후 로지스틱 회귀함수인 시그모이드 함수를 거쳐 1 또는 0값이 출력됨.... 퍼셉트론(perceptron) 개념 퍼셉트론 (perceptron) 1957년 프랑크 로젠블라트에 의해 고안됨. 이후 인공 신경망, 오차 역전파 등의 연구개발을 거쳐 딥러닝으로 발전됨. 인간 뇌의 뉴런의 신호 전달과 메커니즘이 유사. 뉴런과 뉴런 사이의 시냅스 연결부위가 자극(입력값) 받으면, 시냅스에서 화학물질이 나와 전위 변화를 일으킴. 전위가 임계치를 넘으면 다음 뉴런으로 신호를 전달(출력.. 2021. 11. 5. 딥러닝 수학 통계 - 경사 하강법 경사하강법 (gradient descent) - 2차원 이상의 함수에서 최저점(기울기, 절편)을 찾는 방법 - 오차의 변화의 2차 함수 그래프를 만들고 적절한 학습률을 설정해 기울기가 0인 지점을 구하는 것. 방법적 알고리즘 (2차 함수) 1. X1에서 미분으로 기울기 구함 2. 구해진 기우기의 반대방향으로 얼마간 이동시킨 X2에서 미분 (기울기가 +이면 음의 방향, 기울기가 -이면 양의 방향으로 이동시킴) 3. 미분 값이 0이 될때 까지 위 과정을 반복해서 최소값을 구함. 학습률 (learning rate) - 학습율을 너무 크게 설정하면, 기울기의 부호를 바꿔 이동할 때 적절한 거리는 찾지 못해 너무 멀리 이동하면, 기울기(a)가 수렴하지 않고 발산할 수 있음. -> overshooting 학습율을 .. 2021. 11. 4. 연역법과 귀납법 진리탐구 방법 (연역법, 귀납법) 기적에 대한 차원적 접근 1차원 세계 1, 2차원 세계 1,2,3차원 세계 고차원 존재의 일상은 저차원 존재에게 기적 신 존재에 대한 추론 1. 외계인? 2. 자기 현현의 보편성 유물론 vs. 유신론 인간 인식 방법의 한계로 인해, 두 가지 인식 방법을 모두 포함한 균형잡힌 자세가 필요 분쟁, 전쟁, 착취, 이기주의 2021. 11. 4. 머신 러닝과 딥러닝의 역사 (간단요약) 머신러닝 딥러닝은 분류와 회귀 문제 해결을 위한 도구(모델) 예) 개 고양이 분류 1. 확률적 모델링 (probabilistic modeling) 통계학 이론을 빅데이터 분석에 응용한 것 초창기 머신 러닝 형태 중 하나 대표적인 모델 알고리즘은 나이브 베이즈 알고리즘 1.1 나이브 베이즈(Naive Bayes) 입력 데이터가 모두 독립이라 가정하고, 베이즈 정리(Bayes' theorem)을 적용하는 머신 러닝 분류 알고리즘 분류 알고리즘 1.2 로지스틱 회귀(logistic regression) 분류 알고리즘 (회귀 알고리즘 아님) 2. 초창기 신경망 - 1980년대 경사 하강법 최적화를 이용하여 변수가 연쇄적으로 연결된 연산을 훈련하는 기법 1989년 Yann LeCun이 합성곱 신경망과 역전파 알고.. 2021. 11. 4. Tensorflow GPU 작동하지 않을때, 재설치 없이 수리하는 법 본 문서는 NVIDIA 그래픽 카드와 Anaconda를 설치했음에도 tensorflow_gpu가 작동하지 않은 경우, 모든 설치 앱을 갈아없지 않고 수리하는 방법을 정리한 것임. 처음부터 제대로 설치하고자 할 경우, 아래 링크 문서를 참조하시오. 쉬운 TensorFlow GPU 딥러닝 개발 환경 구축 1 (윈도우) TensorFlow-GPU 버전을 사용하기 위한 시스템 구축을 설명하고 있음. TensorFlow-CPU 버전의 경우, 바로 아래 문서로 가서 Anacona 설치부터 하면 됨. TensorFlow GPU 딥러닝 개발 환경 구축 2 (윈도우) TensorFlo.. aeir.tistory.com 증상 아래 그림에서 CPU만 인식한다. 몇 번 재설치해 보다가 수정하는 방법의 노하우를 기록. 방법 1.. 2021. 11. 4. 이전 1 2 3 4 5 다음 728x90
