codestates / codestates/ds-TIL

[TIL]이윤회_201224

Open
#1,250 0 comments 0 reactions 0 assignees View on GitHub
DSFT01
Dominant language
No language data
Stars
2
Forks
1
PR merge metrics
No merged PRs in 30d

Description

- **키워드**: Deeplearning, Hyper parameter tuning

- **배운 것**: 딥러닝 모델에서 모델의 성능을 높이기 위해 하이퍼 파라미터를 튜닝하는 법에 대해서 학습해봤다.

- **어려웠던 부분**: batch size, learning rate 등 다양한 하이퍼 파라미터들을 그리드 서치를 통해서 튜닝해봤지만, 오히려 디폴트 값보다 떨어졌다. 아마 그리드의 범위를 잘못 잡아서 그런 것 아닌가 싶은데, 생각보다 많은 인내심이 필요한 작업이라고 생각된다.

- **더 알고 싶은 부분 / 공부하고 싶은 부분**: 오늘 했던 작업은 뭔가 비효율적인 하이퍼파라미터 튜닝이었다고 생각한다. 혹시 보다 효율적으로 하이퍼파라미터의 성능을 튜닝해서 모델의 성능을 높이는 방법이 없을지에 대해서 학습해보고 싶다.

- **느낀 점**: 일반적인 앙상블 모델의 머신러닝 모델에서는 그리드서치로 찾은 값으로 튜닝을 해줬을때 모델의 성능이 확실히 올라갔지만, 딥러닝 모델에서는 하이퍼 파라미터를 튜닝해줘도 뜻대로 성능이 향상되지 않았다. 딥러닝에 대해 보다 많이 공부해볼 필요가 있는 것 같다.

Contributor guide

No contributing guide indexed for this repository

Research direction

The issue contains a TIL entry about deep-learning hyperparameter tuning, but it names no target file, test, or contribution entry point. Review the repository's conventions for adding TIL posts and confirm whether this entry should be published; done means the content is incorporated in the expected location and format.

Written by the indexing model from the issue text.

Assessment

Tech stack
machine-learning
Domain
content, documentation, machine-learning
Issue type
Documentation
Difficulty
1/5
Estimated time
Under an hour
Activity status
Stale
Clarity
Needs clarification
Newbie friendliness
25/100

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.