Jayden`s

[TIL]45.5_Section1_sprint1_개인복습(주말)

Section1 spirnt1 키워드 위주 간단 복습 EDA concat 과 merge : 데이터를 합치는 방법의 차이를 기억하고 특히 merge의 다양한 방법 기억하기. df1.merge(df2, how=, on=) # 추가로 같은 의미의 특성인데, 이름만 다른 경우 left_on= , right_on= 으로 적는 것 기억) DataFrame conditioning(단순하게 그냥 조건 주는 것) 을 통해서 자료 filter 처리 -> 연습 계속하자. 보통 df[df['A'] == 'a'] 해서 'A' 특성에서 'a'라는 값을 갖는 row만 가져왔는데, df.A.isin('a') 와 같이 적는 방법도 있다는 것 숙지 Groupby 꼭꼭 그 개념과 내용 숙지하기!!! 개인적으로 프로젝트하면서 활용도가 정말..

[TIL]45_Section2_Review(2)

Section2 sprint2 키워드 정리 Pipeline, named_steps 지니불순도, 엔트로피, 트리모델 : 비선형, 다중공선성 데이터에 유리(분류 기반이므로) 랜덤포레스트 : 배깅 -> 부트스트랩 + 어그리게이팅 부트스트랩 : 복원추출, OOb(Out Of bag) 랜덤포레스트의 무작위성 1. 부트스트래핑(관측치 복원추출) 2. 분기 시 특성 선택 랜덤(log2 n 개) 트리기반 -> 원핫인코딩 이용 시, 특성의 중요도가 분산됨 따라서 순서형 인코딩 사용 권장. (트리기반에선 범주의 순서가 큰 의미 X) 교차검증 최적화(훈련 셋에 잘 fit되게), 일반화(검증, 테스트 즉 새로운 데이터 셋에 대해 좋은 성능 나오게) 오늘 section2 final wrap up을 진행하였는데, 다음에 모든 내..

[TIL]37_Section2_sprint3_challenge

데이터 직무 프로세스 정보 누수(Data Leakage) 불균형한 데이터(Imbalanced Data) - 분류 각 모델의 weight 적용 - 회귀 right skewed -> log변환 left skewed -> exp변환 그러나 실제 데이터가 left skewed인 경우는 드물다 Data Wrangling 특성 중요도 - Gini(MDI) - Permutation Boosting - Adaboost -Gradientboost - XGB -Light GB -Catboost 모델 해석 - Feature Importance - PDP isolate interact - SHAP

Boosting(vs bagging)

1. 특성 중요도를 계산하는 방법의 장단점을 설명하고 각각 어떤 상황에 사용하면 좋을지 설명해 보세요. 여기로 2. bagging과 boosting의 차이점과 각각 어떤 알고리즘 종류들이 있는지 알고리즘별 장단점을 설명하고, 어떤 상황에서 사용하면 좋을지 논의해 보세요. bagging vs boosting의 차이 배깅 : 병렬 학습, 각각의 트리들이 독립적 부스팅 : 순차 학습(직렬), 뒤의 트리가 이전 트리의 영향을 받음(종속) 오답에 대해서 더 높은 가중치를 부여함으로 써 오답에 더 집중합니다. 그만큼 배깅에 비해 error가 적고 성능이 좋습니다. 다만, 오답에 더 집중하는 방법으로 오버 피팅될 가능성이 높습니다. 단순하게 생각할 수는 없지만, 일반적으로 개별 결정 트리(기본모델)의 성능이 낮다면 ..

Model Interpreting

머신러닝 모델 해석 방법들의 장단점과 각각 어떤 방식으로 활용할 수 있을지 논의해 보세요. 모델 해석의 필요성 성능이 좋은 모델은 대체로 Black Box Model입니다. (예측이 정확하기 위해선 아무래도 모델 자체가 복잡해지다보니) 많은 분야에서 모델을 무조건 신뢰할 수 없습니다. 가령, 영화를 추천하는 시스템에서 영화 추천을 잘못했다고 해서 아주 큰 일이 나는 것은 아닙니다. 하지만 자율자동차같은 경우, 한번의 판단이 큰 사고로 이어질 수 있으므로 우리는 그 내부의 작동 원리를 분석하고 연구하여 더 안정성 있는 모델을 만들 필요가 있습니다. 의사결정에 직접 영향을 주는 것은 해석입니다. 즉, 모델을 통해 예측에 대한 'score'는 계산할 수 있지만 그 과정을 보고 결정을 내리는 것은..