본문 바로가기
반응형

딥러닝42

CUBLAS_STATUS_ALLOC_FAILED 에러: E tensorflow/stream_executor/cuda/cuda_blas.cc:226] failed to create cublas handle: CUBLAS_STATUS_ALLOC_FAILED 해결: 아래 구문을 통해서 GPU 메모리를 제한해 줘야 된다. config = tf.compat.v1.ConfigProto(gpu_options = tf.compat.v1.GPUOptions(per_process_gpu_memory_fraction=0.8) # device_count = {'GPU': 1} ) config.gpu_options.allow_growth = True session = tf.compat.v1.Session(config=config) tf.compat.v1.keras.backe.. 2021. 11. 17.
`Model.state_updates` will be removed in a future version. 에러: C:\Users\chpark\ANACON~1\lib\site-packages\keras\engine\training.py:2401: UserWarning: `Model.state_updates` will be removed in a future version. This property should not be used in TensorFlow 2.0, as `updates` are applied automatically. warnings.warn('`Model.state_updates` will be removed in a future version. ' 해결: 아래 라인 실행해 주면 에러 사라진다. config = tf.compat.v1.ConfigProto(gpu_options = tf.com.. 2021. 11. 17.
`Model.state_updates` will be removed 에러: UserWarning: `Model.state_updates` will be removed in a future version. This property should not be used in TensorFlow 2.0, as `updates` are applied automatically. warnings.warn('`Model.state_updates` will be removed in a future version. 해결: 아래 라인 실행해 주면 에러 사라진다. config = tf.compat.v1.ConfigProto(gpu_options = tf.compat.v1.GPUOptions(per_process_gpu_memory_fraction=0.8) # device_count = {'GP.. 2021. 11. 17.
ConvergenceWarning: lbfgs failed to converge (status=1): 에러: ConvergenceWarning: lbfgs failed to converge (status=1): STOP: TOTAL NO. of ITERATIONS REACHED LIMIT. 해결: model = LogisticRegression(random_state=42) 을 model = LogisticRegression(random_state=42, solver='lbfgs', max_iter=100) 로 수정한다. 참고: python - ConvergenceWarning: lbfgs failed to converge (status=1): STOP: TOTAL NO. of ITERATIONS REACHED LIMIT - Stack Overflow 2021. 11. 17.
Anaconda 프롬프트 명령어 정리 (base) conda info --envs (base) conda list (base) conda remove --prefix [PATH] --all (base) conda remove --name --all (base) activate test (test) 명령어 conda 나 pip 가 같은 역할의 명령을 수행함. 주의: 모듈을 설치할때는 conda 대신 pip 사용하길 추천함 (아래 글 참고). 버전 충돌이나 miniconda 충돌 등이 발생할 수 있음. Tensorflow GPU 작동하지 않을때, 재설치 없이 수리하는 법 본 문서는 NVIDIA 그래픽 카드와 Anaconda를 설치했음에도 tensorflow_gpu가 작동하지 않은 경우, 모든 설치 앱을 갈아없지 않고 수리하는 방법을 정리한 것임.. 2021. 11. 17.
신경망에서 딥러닝으로 - 기울기 소실 문제 기울기 소실 문제(vanishing gradient) 출력층에서 은닉층을 역방향으로 하나씩 진행하며, 각 층(은닉층, 입력층)의 가중치를 수정하는 방법 가중치 수정을 위해서는 미분값(기울기)가 필요 층의 갯수가 늘어나면, 역전파를 통해 전달되는 기울기 값이 점점 작아져, 맨 처음층(입력층)까지 도달하지 않는 문제가 발생... 기울기 소실 문제(vanishinig gradient) 활성화 함수(시그모이드 함수)의 특징 때문에, 여러 층을 거칠 수록 기울기가 사라져서 가중치 수정이 어려워짐. 활성화 함수 1. Sigmoid 함수 미분하면 최대치가 < 1.0 따라서, 계속 곱하면 0에 수렴.... 기울기 소실 발생 2. tanh 함수 시그모이드 함수 확장형 [-1,1] 1보다 작은 값이 존재하므로, 기울기 소.. 2021. 11. 8.
R Keras - 모델링 결과가 loss: NaN, mae: NaN 등으로 나올때 여기서는 모델이 수행되는 과정에서는 에러가 없었으나, 최종 결과가 loss: NaN, accuracy:NaN, mae:NaN 등으로 나오는 경우, 필자가 찾아낸 문제해결 법이다. 지금까지 2가지 경우에 대해서 경험하였고, 다음과 같이 해결할 수 있다. 1. 입력 데이터에 NA 가 들어있는 경우 이때 아래와 같이 데이터 셋에서 NA를 제거해 준 다음 사용하면 된다. > data.set str(data.set) 2. 활성화 함수 선택이 문제인 경우 1번으로 해결되지 않을 때, layer_dense 내 activation 함수를 "softmax"에서 "relu"로 바꾸면 된다. single output 인 경우, softmax를 사용하면 이런 현상이 발생할 수 있다. 여기(https://github.com/k.. 2021. 11. 5.
R Keras -csv 파일 읽어 train와 test 데이터로 나누기 책이나 사이트에 공개된 잘 만들어진 예제를 이용해서, 자신의 데이터에 바로 적용할 때, 필자와 같은 왕초보들은 항상, as always, as usual, 필연적으로, 반드시, 운명적으로, .... 한방에 작동하지 않고 여러가지 문제들로 인해 머리가 지끈지끈 아픈 상황과 문제가 발생할 수 있다. 아니, 발생한다. 하나하나 잡아보자. 딥러닝 책 등에서 제공된 예제 파일들은 모두 Keras 등의 패키지 내에 포함된 예제 파일들이다. 그래서 실제 내가 만든 .csv 파일을 읽어 들이는데, 입력 포맷이 맞지 않아 헤맬 수 있다. 이런 경우, 모델이 잘 돌아가지만, input_data 값이 없다는 에러가 발생할 수 있다. 아래와 같이 sampling 하면, 일반 책에서 사용하는 예제 파일을 읽어들이는 포맷으로 쉽.. 2021. 11. 5.
퍼셉트론 - 오차 역전파 예측을 위한 순전파 신경망은 순전파 해서 결과를 예측한다. 결과 레이어에 도달하기까지 모든 레이어에서의 연산이 포함된다. 오차 역전파 (back propagation) 가중치와 바이어스를 실제로 구할 때, 신경망 내부의 가중치 수정하는 방법(딥러닝에서 가장 중요한 부분 중 하나) 경사 하강법의 확장 개념 단일 퍼셉트론에서의 오차 역전파 1. 임의의 초기 가중치를 사용하여 처음 결과값(y)을 구함. 2. 그 결과값과 참값(예상 또는 기대하는 값) 사이의 평균 제곱 오차(ε)를 구함. 3. 이 오차를 최소로 만드는 지점으로 조금씩 거슬로 이동하면서 미분... 경사 하강법 4. 미분의 기울기가 0인(0으로 수렴되는) 지점이 최적화된(수정된) 최종 가중치. 최적화의 방향은 출력층에서 시작해서 입력층... 따라서.. 2021. 11. 5.
728x90

티스토리툴바