🌈 머신러닝 모델링의 흔한 실수들 - 머신러닝 모델링의 흔한 실수들에 대한 발표 영상 자료입니다 - 머신러닝 모델링을 하다보면 한번쯤 실수하는 부분이 다수 작성되어 있어서, 읽어보시면 도움이 될 것이에요! - 발표 자료 : https://jehyunlee.github.io/2021/02/24/Python-DS-62-mistakes/210222_%EC%9D%B4%EC%A0%9C%ED%98%84_mistakes.pdf - 설문 조사 결과 : https://docs.google.com/spreadsheets/d/1FqtI2_Znkdf1iouwFUXOOsOfRiA_dNySZM9L3XjP5iw/edit 🎁 이 글을 추천하는 이유 - 머신러닝 모델링에서 자주 할 수 있는 실수들을 작성한 글입니다 - 이런 실수를 알아둬서, 미래에 발생할 수 있는 실수를 방지할 수 있습니다 - 전반적으로 공감되는 내용이였습니다! 디테일한 내용은 개별적으로 더 자료를 찾아보셔도 좋을 것 같습니다 👍 읽으면 좋은 분 - 머신러닝 모델링을 자주 진행하는 분 - 머신러닝을 공부하고 계신 분 📋 내용 오류 1. 모델 선정 - 모델 선정 방법 => 데이터에 대한 사전 지식이 필요 - 1) 물리적 의미 - 예 : 지배 방정식 - 2) 수치적 특성 파악 - 예 : 주기성, 상/하한성 파악 - 3) 데이터 특성 파악 - 예 : 분포, 인자간 상관성 - 단순히 데이터 특성만 파악해서 모델을 만드는 경우 실수가 많음 - Feature Engineering + 모델 선정 과정에서 다짜고짜 2차항, 3차항 만들고 log 취하고 등등등 => 잘 맞아도 해석이 어려움 오류 2. 데이터 전처리 - 전처리할 때 이상치를 처리해줘야 함 => 전체적인 성능에 영향 - 1) 논리적 의미 - 2) 통계적 고립 - 일반적으로 통계적으로 고립된 데이터 파악해서 본 후, 논리적으로 합당한지 확인 - 머신러닝 학습 데이터 분할 - 1) 테스트 데이터를 바꾸는 일 => 모델이 몰라야 함 - 학습 데이터를 나눠서 검증 데이터로 나누기(K Fold) - 전체 데이터 중 학습 데이터 일부, 테스트 데이터 일부를 사용하는 경우 - 2) 시계열 데이터인 경우는 과거 데이터가 학습 데이터, 미래 데이터가 테스트 데이터 - Nested Cross Validation으로 점진적으로 진행 => 학습 데이터가 균등하지 않아서 동일 조건이 아님 - Blocking Time Series Split => 학습 데이터와 검증 데이터를 동일한 방식으로 이동 오류 3. 학습, 테스트 데이터 분할 - 데이터를 골고루 나누어야 함 - 실전 데이터가 들어올 범위의 데이터를 충분히 수집해 학습해야 함 오류 4. 데이터 불균형 - 학습이 다수 데이터에 치중되고, 소수 데이터가 예측력이 저하됨 - 원 함수를 잘 찾았지만, R^2가 낮은 경우 => R^2가 낮다고 모델이 나쁘다고 말하긴 어려움 오류 5. 데이터 스케일링 - 데이터 단위의 불일치. 1m와 50cm일 경우 cm로 통일하거나 소수점으로 반영 - 선형회귀에서도 이슈 발생 오류6. 데이터 유출(Data Leakage) - 1) 레이블 데이터가 유출됨 - 예측 시점에 알 수 없는 데이터를 학습에 사용 - 정말 많이 발생함 - 2) 학습-테스트 데이터 오염 - 테스트용 데이터가 학습시 반영됨 - 데이터 표준화시 테스트 데이터를 포함하는 경우 - 코드상의 이슈로 발생할 수도 있음 나머지 오류는 스프레드시트에 나와있습니다! : https://docs.google.com/spreadsheets/d/1FqtI2_Znkdf1iouwFUXOOsOfRiA_dNySZM9L3XjP5iw/edit