기상 기후 강의 노트

MakingRobot :: Window 10에서 Anaconda 삭제 (tistory.com)

At-A-Glance

• 나이브 베이즈 vs. 의사결정나무 
• Phen 자료 포함
• 1,2 시간 전 자료 모두 사용한 경우 
• 1 시간 전 자료만 사용한 경우

나이브 베이즈

1,2 시간 전 자료 모두 사용

               precision    recall  f1-score   support

           0       0.99      0.84      0.91     10479
           1       0.59      0.99      0.74       193
           2       0.58      0.90      0.70      2480

    accuracy                           0.86     13152
   macro avg       0.72      0.91      0.78     13152
weighted avg       0.90      0.86      0.87     13152

1시간 전자료만 사용

               precision    recall  f1-score   support

           0       0.98      0.86      0.92     10479
           1       0.59      1.00      0.74       193
           2       0.60      0.87      0.71      2480

    accuracy                           0.86     13152
   macro avg       0.72      0.91      0.79     13152
weighted avg       0.90      0.86      0.87     13152

의사결정나무 

1,2 시간 전 자료 모두 사용

               precision    recall  f1-score   support

           0       0.96      0.95      0.96     10479
           1       0.77      0.70      0.73       193
           2       0.79      0.82      0.81      2480

    accuracy                           0.93     13152
   macro avg       0.84      0.82      0.83     13152
weighted avg       0.93      0.93      0.93     13152

1시간 전 자료만 사용

               precision    recall  f1-score   support

           0       0.96      0.95      0.95     10479
           1       0.79      0.78      0.78       193
           2       0.77      0.80      0.79      2480

    accuracy                           0.92     13152
   macro avg       0.84      0.84      0.84     13152
weighted avg       0.92      0.92      0.92     13152

https://www.inflearn.com/questions/224124

학습/테스트 데이터의 스케일 변환시 주의사항

MinMaxScaler 객체의 fit( ) 과 transform( )

이 둘은 2차원 데이터만 가능하므로 reshape(-1, 1)로 차원 변경해야 한다. 

train_array = np.arrange(0, 11).reshape(-1,1)

test_array = np.arrange(0, 6).reshape(-1,1)

fit( ) 의 경우 [0,10] 스케일이 적용됨.

일반적으로 fit_transform( )을 사용하여 학습데이터와 테스트 데이터 스케일을 변환한다. 이는 fit( )과 transform( )을 순차적으로 수행하는 메소드이다. 

학습데이터에서는 상관없지만, 테스트 데이터에서는 fit_transform( )을 절대 사용해서는 안된다. 

따라서, 정확히 사용하려면, 학습과 테스트 데이터를 분리하기 전에 스케일링을 적용하고 분리해야 한다. 

이 주의사항은 차원축소변환, 피쳐벡터화 변화 작업에도 동일하게 적용된다. 

https://www.youtube.com/watch?v=7PWgx16kH8s 

LSTM 다룰 때 중요한 부분!

에러 

ValueError: Input 0 of layer "sequential" is incompatible with the layer: expected shape=(None, 100, 1), found shape=(None, 21)

원인

LSTM 모델을 사용할 때는, train 차원을 바꾸어야 하는데, 차원 변경을 해 주지 않으면 발생하는 에러

해결

X_train = X_train.reshape(X_train.shape[0], X_train[1], 1) 

명령으로 2차원 데이터를 3차원으로 변경하면 됨. 

코드

ftr_importances_values = model.feature_importances_
ftr_importances = pd.Series(ftr_importances_values)#, index=X_train.columns)
ftr_top20 = ftr_importances.sort_values(ascending=False)[:20]

plt.figure(figsize=(15,6))
sns.barplot(x=ftr_top20, y=ftr_top20.index)
# plt.show()

코드 

from sklearn.model_selection import GridSearchCV

params = {
    'n_estimators':[100],
    'max_depth'   : [6,8,10.,12],
    'min_samples_leaf' : [8,12, 18], 
    'min_samples_split' : [8,16, 20]
}

rf_clf = RandomForestClassifier(random_state=0)
model = rf_clf

grid_cv = GridSearchCV(model, param_grid=params, cv=2, n_jobs=-1)
grid_cv.fit(X_train, y_train)

print('Best parameter:\n', grid_cv.best_params_)
print('Highest accuracy: {0:.4f}'.format(grid_cv.best_score_))

출처: 파이썬 머신러닝 완벽가이드 p220

def roc_curve_plot(y_test, pred_proba_c1):
    fprs, tprs, thresholds = roc_curve(y_test, pred_proba_c1)
    plt.plot(fprs, tprs, label='ROC')
    plt.plot([0,1], [0,1], 'k--', label='Random')
    
    start, end = plt.xlim()
    plt.xticks(np.round(np.arange(start, end, 0.1), 2))
    plt.xlim(0,1);plt.ylim(0,1)
    plt.xlabel('FPR( 1 - sensitivity )'); plt.ylabel('TPR( Recall )')
    plt.legend()
    

    

from sklearn.metrics import accuracy_score, precision_score, recall_score, confusion_matrix, f1_score, roc_auc_score
from sklearn.metrics import roc_curve
def get_clf_eval(y_test, pred=None, pred_proba=None):
    confusion = confusion_matrix(y_test, pred)
    accuracy= accuracy_socre(y_test, pred)
    precision = precision_score(y_test, pred)
    recall = recall_score(y_test, pred)
    f1 = f1_score(y_test, pred)
    roc_auc = roc_auc_score(y_test, pred_proba)
    print('error matrix')
    print(confusion)
    print('Accu : {0:.4f}, Prec : {1:.4f}, Recu : {2:.4f},\
             F1 : {3:.4f},  AUC : {4:.4f}'.format(accuracy, precision, recall, f1, roc_auc))

전처리 과정에서, 시계열 데이터를 살펴볼때 아래와 같이 slider 를 사용하면 missing-data 를 찾거나, 경향성 파악에 크게 도움이 된다. 

코드

df.reset_index(inplace=True)

import plotly.express as px
fig=px.line(df, x='Date', y='Tair_C', title='Tair_Cm with slider')

fig.update_xaxes(
    rangeslider_visible=True,
    rangeselector=dict(
        buttons=list([
            dict(count=1, label="1m", step="month", stepmode="backward"),
            dict(count=2, label="3m", step="month", stepmode="backward"),
            dict(count=2, label="6m", step="month", stepmode="backward"),
            dict(step="all")]
        )
    )
)
            
fig.show()

Tree기반 모델(DecisionTree, RandomForest)의 분할 그래프 시각화하기 (graphviz) (teddylee777.github.io)

인터넷 검색을 해 보면,

{사용자}\ .jupyter 폴더 내 jupyter_notebook_config.py 파일의 

#c.NotebookApp.notebook_dir = '' 부분에

코멘트(#)을 제거하고, 원하는 폴더 경로를 적으라고 되어있는데, 

그래도 안된다!!!

그래서, 초단간 방법을 소개한다. 

1. 아래와 같이 Jupyter Notebook 바로가기에서 오른쪽 클릭

2. 바로가기> 대상(T)와 시작위치(S)에 자신이 원하는 시작 폴더 경로를 넣어 주면 된다.

    이때, 쌍따옴표에 유의한다. 

3. Jupyter notebook 재 실행 하면, 시작 폴더가 변경된 것을 확인할 수 있다. 

1. 아래 사이트에서 윈도우용 graphviz 를 다운받는다. 안정화 버전을 추천함. 

https://graphviz.org/download/

2. 설치한다. 

3. Anaconda 콘솔을 관리자 권한으로 실행하고, 아래 명령어 실행

>>> pip install grpahviz 

4. 윈도우 환경변수에서 사용자 변수와 시스템 변수를 각각 아래와 같이 수정한다.

5. Jupyter notebook을 모두 재부팅

6. 아래 명령어 실행하여 확인

1. 아래 사이트에서 윈도우용 graphviz 를 다운받는다. 안정화 버전을 추천함. 

https://graphviz.org/download/

2. 설치한다. 

3. Anaconda 콘솔을 관리자 권한으로 실행하고, 아래 명령어 실행

>>> pip install grpahviz 

4. 윈도우 환경변수에서 사용자 변수와 시스템 변수를 각각 아래와 같이 수정한다.

5. Jupyter notebook을 모두 재부팅

6. 아래 명령어 실행하여 확인

conda install graphviz 를 쳐서 설치를 하자

찾아보니 conda install로 설치를 하면

C:\Users\Anaconda3\Library\bin\graphviz

이 위치에 설치된다.

그런데 pip install로 하면 아래 경로에 설치가 된다.

C:\Users\Anaconda3\Lib\site-packages\graphviz

아래와 같이 복잡하게 하지 말고, 그냥

(base) pip install xgboost 

하면 된다. 

conda install 을 사용하면, 아래와 같이 python 버전에 따라 PakcagesNotFoundError 가 발생한다. 

XGBOOST 설치방법

  1) https://www.lfd.uci.edu/~gohlke/pythonlibs/#xgboost

  2) 현재 pyton 3.10 설치된 상태이므로, xgboost-1.5.1-cp310-cp310-win_amd64.whl 다운 받는다. 

  3) 다운로드한 파일을 C:\Users\chpark\Anaconda3\pkgs\python-3.10.0-h96c0403_3\Lib\site-packages 에 저장

  4) 다운 받은 폴더에 가서, pip install xgboost-1.5.1-cp310-cp310-win_amd64.whl 

  5) Jupyter notebook 에서 아래 명령어가 에러 나지 않으면 설치된 것임. 

      import xgboost as xgb

import pandas as pd

ind =(df['Vis_flag'] == 1) & (df['Site_No'] == 192)     #조건만 만족하면 index 를 가지고 있다. 괄호가 중요
df[ind]  # 조건에 맞는 모든 열을 추출한다.