[TIL] 윤형준_200923

오늘이 여태껏 이해하는데 제일 어려웠던거 같다.

벡터, 매트릭스까지는 괜찮았는데, 이걸 tranform하고 이것저것 하니깐 좀 어렵니다. 처음 접하는것이라 그런거 같다.

그리고 overfitting issue, 이것도 말로써는 대충 이런 내용이다 라고는 알겠는데, 고차원 데이터를 다루고 수식을 보며 제대로 이해하고 싶다.

지금 잘은 모르겠지만, 얼추 guess 해보자면, 일단 데이터가 일단 많아야한다. 모집단은 넓게 퍼져있는데, 표본이 한 부분에서만 추출 되었다면, 분명 표본의 분산은 모집단 분산보다 훨씬 작을 것이다. 이러면 statistic이 제대로 나올수가 없다.

근데 뭐 분산이 괜찮게 나왔다고 가정해보자. 근데 여기서 feature들이 추가가 되면 그에 따라 분산도 늘어나야 overfitting 이슈가 없는데, 실질적으로 그러지 않기때문에 문제가 되는것이 아닌가 생각이 든다.