codestates / codestates/ds-TIL

[TIL]이동훈_122220

Open
#1,234 0 comments 0 reactions 0 assignees View on GitHub
DSFT01
Dominant language
No language data
Stars
2
Forks
1
PR merge metrics
No merged PRs in 30d

Description

# 키워드
역전파 알고리즘

# 배운 것
Backward Propagation
(손실)Loss, (비용)Cost, (에러)Error function.

# 어려웠던 부분
Calculus 수업에서 적분을 배웠지만 (Partial Derivative) 편적분은 이번에 처음 접해본다. 적분하기 어려운 식에서, Chain Rule을 적용하여 적분하기 불가능/어려워 보이는 수식도, 대치를 통해 적분을 하게 해주는것... 이라고만 알고 넘어가면 될것 같다.

수학에서 보이는 기호들을 보면 무슨 말인지 모르니 지레 겁 부터 먹게 된다...

그렇지만, 데이터인풋의 행렬, 각 Node를 지날때 마다 생기는 에러함수의 값을 줄이기위해 사용한다. 정도로만 이해하는게 좋을 것 같다.

이번에 처음 행과, 열을 배웠는데 모든것을 짬뽕시켜 / 집약시켜, 이해하니 뇌에 과부화가 올 것 같다.

# 더 알고 싶은 부분 / 공부하고 싶은 부분
수학적 지식이 필요한게 느껴진다..., 나중에 시간이 생긴다면 Linear Algebra, Multivariable Calculs, 등. 내가

# 느낀 점
확실히 이런 알고리즘을 볼때마다, 이건 일반 프로그래머들이 뚝딱해서 만들어진것이 아니라 코딩을 할 수 있는 수학자들이 만들었구나... 라는 생각이 자주 든다... (알고리즘마나, 그것을 설명하기 위해 나오는 논문들만봐도...)

단숨에 이해하고 싶지만, 너무나 생소한부분이 정말 많다... 🥵 🤯

그나마 코드 사용법은 부담이 덜 되서 좋다.
그래도 이게 왜 이렇게 작동하는지 알아야 하고, 만약에 우리가 알고리즘을 손수 만들어야 한다면, 그럴때 유용하게 사용 할 수 있겠지.

Contributor guide

No contributing guide indexed for this repository

Research direction

The issue body is the only artifact named and contains a TIL about backpropagation, loss, cost, error functions, partial derivatives, and the chain rule. No files, tests, or entry points are identified, so start by inspecting the repository's TIL structure and contribution expectations. Done is not defined by the issue.

Written by the indexing model from the issue text.

Assessment

Domain
documentation, machine-learning
Issue type
Documentation
Difficulty
1/5
Estimated time
Under an hour
Activity status
Stale
Clarity
Needs clarification
Newbie friendliness
20/100

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.