Jayden`s

[TIL]30.Evaluation Metrics for Classification(Precision, Recall, f1score, threshold, ROC curve, AUC)

목표 Counfusion Matrix에 대한 이해 및 해석 정밀도, 재현율을 이해하고 사용 ROC Curve, AUC score에 대한 이해 feature engineering 팁 def engineer(df): """특성을 엔지니어링 하는 함수입니다.""" # 새로운 특성을 생성합니다. behaviorals = [col for col in df.columns if 'behavioral' in col] df['behaviorals'] = df[behaviorals].sum(axis=1) # 'behavioral'이라는 단어가 포함된 column에 대해서 sum한 새로운 변수 만들기 # 계절독감(seas)에 대한 모델을 학습할 것이기 때문에 h1n1에 대한 특성을 제거합니다. dels = [col for ..

category_encoders(TargetEncoder, CatBoostEncoder) 그리고 Ordinal과 OneHot encoder

1. 수업에서 언급되지 않은 다른 종류의 category_encoders를 2개 이상 사용해 결과를 공유해 보시고, 다음 질문에 대해 서로 논의해 보세요. 사용하신 encoder는 각각 어떤 장단점을 갖고 있으며, 어떤 상황에서 사용하면 좋을까요? 여러 인코더 중 TargetEncoder와 CatBoostEncoder가 가장 흥미가 생겨 적용해보았습니다. OrdinalEncoder(기준) 피팅 셀 시간 : 4.27 s 정확도 및 f1 score 특성 중요도 TargetEncoder 피팅 셀 시간 : 5.29 s 정확도 및 f1 score 특성 중요도 CatBoostEncoder 피팅 셀 시간 : 14.1 s 정확도 및 f1 score 특성 중요도 두 가지의 인코더를 설정한 이유는 자세히는 모르지만, Ca..

[TIL]29.RandomForest(랜덤포레스트)

목표 RandomForest에 대한 이해 Ordinal encoding(순서형 인코딩)과 OneHot encoding(원핫 인코딩)을 구분하여 사용 범주형 변수의 인코딩 방법이 트리모델과 선형회귀 모델에 주는 영향에 대해 이해 들어가기 전 데이터가 선형/비선형 상관없이 분류문제에 접글할 때 랜덤포레스트를 먼저 적용해보는 것을 추천 결정트리모델 : 한개의 트리만 사용하기 때문에 한 노드에서 생긴 에러가 하부 노드에서도 계속 영향을 줍니다. 또한, 트리의 깊이에 따라 과적합되는 경향이 있습니다. 이 부분을 랜덤포레스트를 통해 해결 팁 %%time # 셀 실행하는데 걸리는 시간 보여줌 RandomForest(랜덤포레스트) 랜덤포레스트는 Ensemble(앙상블) 방법 앙상블 방법은 한 종류의 데이터로 여러 머신..

시각화를 통해 확인한 Imputer의 차이

2개 이상의 imputer를 사용해 각각 특성-타겟 관계 그래프를 그려 공유하고 다음 질문에 대해 서로 논의해 보세요. 먼저 특성중요도에서 가장 중요도가 높게 나온 'doctor_recc_h1n1' 특성에 대해서만 Imputer 변경에 따른 타겟와의 관계 그래프를 그려보았습니다. seaborn plots 사용하여 관심있는 특성들과 target간의 관계를 그래프로 나타내 보세요. Imputer를 적용하지 않았을 때 변수와 타겟 모두 binary한 값으로 0과 1에 대한 값들만 찍히는 것이 보입니다. SimpleImputer(strategy='mean') 적용 시 imputer1 = SimpleImputer(strategy='mean') train_imp1 = im..

[TIL]28.Decision Tree(의사결정나무)

목표 사이킷럿 파이프라인(pipeline) 이해 사이킷런 결정트리(decision tree) 이해 결정트리의 특성 중요도(feature importance)를 활용 결정트리 모델의 장점을 이해하고 선형회귀모델과 비교 간단히 데이터 확인 팁 train.head().T # Transpose 사용하여 feature에 대해 보기 편하게 # target에 대해 회귀와 분류 중 어느 것으로 할지 판단 가능/ 분류문제라면 최빈기준모델 정하는 기준, 데이터 분포 확인 train[target].value_counts(normalize=True) # ProfileReport !pip install pandas-profiling==2.8.0 --user # 최신이 아니면 에러가 나는 경우가 있음 from pandas_pro..