ML - Lecture 1: Introduction
◼︎ Meta
Meta의 뜻? -> 무엇에 관한 무엇
- Meta-learning: 학습에 관한 학습
- Meta-data: 데이터에 대한 데이터
- Meta-recognition: 무엇을 알고 있는지 인지
◼︎ History
Turing machine(1936, Alan Turing) -> Turing test(1950, Alan Turing) -> Artificial intelligence(Dartmouth conference, 1956, John McCarthy, Marvin Minsky, Claude Shannon) -> Perceptron(1957, Frank Rosenblatt) -> Machine learning(1959, Arthur Samuel) -> 1st AI winter(1969-1985) -> AI again, Multi-layer perceptron, MLP(1986~, Geoffrey Hinton) -> 2nd AI winter, Support Vector Machine(SVM), CNN 1998 LeCun (1933~) -> AI again, Deep learning(2006~, Geofrey Hinton) -> ImageNet(2009) -> Deep learning explosion(2012~, AlexNet)
◼︎ What is machine learning?
머신러닝은 어떠한 작업(task)와 경험(experience)를 통해 성능(performance)를 향샹 시키기 위한 알고리즘에 대해 공부하는 것이다. 데이터에 대한 예측(prediction)과 결정(decision)으로 만들게 된다.
위의 그림은 머신 러닝의 파이프라인이다. 머신 러닝의 방법에는 여러가지가 있는데 크게는 이 흐름을 따르게 된다.
Regression (회귀)
Data를 가지고 continuous 한 output/response를 예측하는 것인데 이 x->y의 relationship을 찾기 위해 regression을 사용하는 것이다. 예시로는 주식 예측, 집값 예측, 연봉 예측 등 연속적인 output에 대해 예측을 한다.
Classification(분류)
Classification의 경우엔 categorical하고 discrete할 때 사용하는 ML이다. 가장 간단한 모델은 binary classification model로 좋다(+1) 아니다(-1)과 같이 명확히 두 개로 나눠지는 모델이다. 만약 이 카테고리의 개수가 늘어나면 multiclass classifier라고 한다.
Retrieval (검색)
이것은 nearlist neighborhood를 찾는 것과 같다. Output은 nearest point나 set of point로 나오게 된다. 그래서 이 모델에서는 Query article과 nearest neighbor 사이의 거리를 재야하는데 이 거리를 잘 정의하는 것에 따라 성능이 결정되게 된다.
이와 비슷한 것으로 clustering이란 것이 있다. 비슷한 개체끼리 한 그룹으로, 다른 개체는 다른 그룹으로 묶는 것이다. 둘이 비슷해 보이지만 큰 차이가 있다. Classification은 supervised learning이고 clustering은 unsupervised learning이다. 이는 나중에 아래에서 다루겠다.
Visual product recommender
이것은 추천 시스템인데 제일 유명한 모델로는 deep learning모델이 여기에 해당된다. 수많은 선택지(제품, 영화 등) 중에서 개인화를 통해, 사용자의 경험을 효율적으로 촉진하는 모델이다.
◼︎ Machine Learning
Supervision은 해답이라고 생각하면 된다. Supervised learning은 정답을 정해둔 후 학습을 시키는 것이라고 생각하면 되고 unsupervised learning은 정답이 없다고 보면 된다. 하지만 혼자서 스스로 찾아나가기 때문에 이것을 self-supervised leaning이라고도 한다. 이 둘과 다른 방법으로 reinforcement leaning(강화 학습)이란것이 있는데 이것은 reward(보상)을 주는 방식으로 학습을 하게 된다.