Boostcamp AI Tech (Day 003)
1. 강의
2. 피어세션
- 티엠아이 방출
- 여지껏 뭐했는지 묻기
- 과제 토론하기(디멘션 얘기 또 나옴)
3. 회고
노트북에게 미안해졌다. 강의들으며 코랩돌리며 줌 키며 노트정리시키며 중간중간 서치돌렸더니 많이많이 괴로워했다. 팀원들에게 양해를 구하고 오늘은 모각공을 필수 시간에만 들었다. 공부는 여전히 2.5개 듣는 게 전부였다. 수식에 대한 부분을 삭삭 쓰는 게 편했다. 그나마 머리 돌아가는 기분에 공부할 맛이 났다.
4. 멘토링
멘토링을 들었는데 딥러닝을 위한 선형대수학을 추천하셨다. 번역하신 교수님들 강의를 봐도 좋다고 하셨다. 인공지능은… 논리학에서 시작한 컴퓨터의 시스템이라고(대강) 애기때 배웠었는데 까먹어서 제대로 대답하지 못한 게 수치스럽고 망스럽고 한스럽고 괴롭고 아쉽고 속상하고 슬프고 그렇지만 괜찮다. 분기문을 포함한 제어도 인공지능이란다. 교차엔트로피와 KL Divergence는 유기적으로 같다는 소릴 들었다.. 둘다 두 분포를 줄이는 게 목적이므로. 분포간의 차이를 측정하는 건데 통계적으로 발산을 재는 여기서 발산에 대해 팀원들과 피어세션 시간에 고민해보았다. P에서 잴 때랑 Q에서 잴 때랑 다르다. 엔트로피는 놀람도라고 기억하라셨다. 불확실성에 대한… 놀람. 확률은 주어진 파라미터를 보고 데이터를 찾는 거라면, 가능도는 주어진 데이터를 보고 파라미터를 찾는 것이다. 둘은 정반대이며 우리는 가능도를 쓴다…(학습에서)