codestates / codestates/ds-TIL
[TIL] 오예은_201014
- Dominant language
- No language data
- Stars
- 2
- Forks
- 1
- PR merge metrics
- No merged PRs in 30d
Description
## 키워드
`원핫인코딩(One-hot encoding)` `Ridge Regression` `Feature selection` `regularization`
## 배운 것
#### One hot encoding
- 카테고리컬 변수 중에 명목형 변수는 높고 낮음이나 우선순위를 나타낼 필요가 없고 단지 구분만 되면 되는데 단순히 숫자로 대체하게 되면 학습 과정에서 잘못 인식이 될 가능성이 있음
- 더미변수로 넣어서 항목별로 동등하게 인식할 수 있도록 데이터 모양을 변형 (1,0,0 등의 형태로..)
- 범주의 개수가 많아지면 특성이 많아져서 계산량이 늘어날 수 있음 (적을때만 사용 추천)
- cf. dummy coding: 원핫인코딩에서 구분에 불필요한 특성을 제거하지만 회귀계수의 개수도 줄어 결과를 해석하기에 난해한 상황이 될 수도 있음
#### Feature selection (sklearn)
- 모델에 상관 없이 유의미한 특성을 선택할 수 있음
- 변수(특성)가 너무 많아지면 과적합될 수 있는데 그것을 방지하는 용도로 쓸 수 있음
#### Ridge regression
- RSS = cost >> 우리의 목적은 cost를 최소화 하는 것
- ridge regression은 cost function에 penalty를 추가한 것
- 람다가 커지면 회귀계수가 작아짐
- 다중공선성 문제를 피하기 위하여 사용
- 다중공선성 진단: VIF(변수들끼리 correlation 측정)가 10보다 크면 제거하는 것이 좋다.
- Lasso : 절대값 사용, 특성 자체가 사라질 수 있음, feature selection 효과
- Ridge : 제곱 사용, 특성이 사라지지 않음
## 더 해볼 것
- ridge regression 구현하기...
## 느낀점
- 오늘은 수업시간엔 이해가 잘 되는 듯 했지만 과제 시작부터 막히는 부분이 많아서 집중이 잘 안되었다.
갑자기 새로운 것을 만나면 진도가 잘 안나가는 것 같다. 무엇보다 기술 문서를 잘 해석하고 적용할 줄 알아야 그 다음 것을 할 수 있는데, 오류가 나도 어디서 막힌건지 내가 무엇을 잘못한건지 모르겠어서 시간 활용도 안되고 코드를 복붙하는 수준에 그치는 것 같다. 갈길이 멀었는데 답답한 마음이다.
- 오늘 현직자와의 만남 시간도 기대를 하고 있는데 과제를 제시간에 제출할 수 있을지 걱정이 된다. 하지만 어떻게라도 과제를 끝번호까지 시도해보고 오늘 안에 과제를 제출하는 것으로 목표를 잡고 최대한 해봐야겠다.
Contributor guide
No contributing guide indexed for this repository
Research direction
No file, test, or entry point is mentioned. First clarify whether this issue is meant to document the TIL or add a Ridge regression implementation, then identify the relevant project location and acceptance criteria before starting; done should include a defined, reviewable documentation or implementation change.
Written by the indexing model from the issue text.
Assessment
- Tech stack
- scikit-learn
- Domain
- machine-learning
- Issue type
- Documentation
- Difficulty
- 5/5
- Estimated time
- Over a week
- Activity status
- Stale
- Clarity
- Needs clarification
- Newbie friendliness
- 15/100