Tag

ML - Lecture 20: Convolutional Neural Networks

2024-11-29 less than 1 minute read

시대가 점점 지나고 점점 neural network가 발전하게 되면서 deep learning의 중요성은 늘어나고 있다. 그중 특히 vision쪽에서의 유용함이 크다.

ML - Lecture 19: Neural Networks part3

2024-11-27 2 minute read

이제 이 neural network를 실제로 어떻게 써야할지에 대해 다뤄보자.

ML - Lecture 18: Neural Networks part2

2024-11-25 1 minute read

앞에서는 neural network가 무엇인지에 대해 배웠다. 이번에는 앞에서 언급한 back propagation을 해볼 것이다.

ML - Lecture 17: Neural Networks part1

2024-11-23 1 minute read

이제 그 유명한 neural network에 대해 다루어 볼 것이다. 이번 장에서의 목표는 classifier를 좀더 복잡하고 non-linear한 feature를 사용하는 것이다. Linear한 model은 만들기가 쉽지만 실제로는 잘 적용이 안된다는 단점이 있다. 그래서 pol...

ML - Lecture 16: Dimension reduction

2024-11-21 5 minute read

앞에서 공부를 하면서 느꼈을 것인데 dimension이 크고 그러면 힘들다고 배웠다. 근데 정확히 왜 그런 것일까? 이번 장에서는 그 정확한 이유에 대해 알아보고 PCA와 LDA라는 방법을 통해 dimension을 줄여보는 것을 해 보겠다.

ML - Lecture 15: Clustering

2024-11-19 1 minute read

일단 clustering(군집화)이 뭘까? Clustering은 유사성이나 같은 패턴을 가지는 객체들을 그룹으로 묶는 것이라고 생각하면 된다. 앞에서 배운 classification이나 그런 분류와 뭐가 다르냐는 생각일 들 것이다. 크게 차이나는 부분은 clustering은 uns...

ML - Lecture 14: Instance-Based Learning

2024-11-18 2 minute read

이번 장에서는 Nearest neighbor, kernel regression, 그리고 이를 이용하는 classification에 대해 다룰 것이다. 지금까지 우리는 선형적이고 항수가 하나로 나타나는 그러한 것들만 봤다.

ML - Lecture 13: Evaluating classifiers: Precision & Recall

2024-11-15 2 minute read

지금까지 우리는 classifier에 대하여 배우면서 어떤 얼마나 좋은지 나쁜지 이런거에 대해 분류를 했었다. 그런데 과연 이 classifier가 정확한지 안한지는 어떻게 알 수 있을까? 정확하기만 한 classifier는 항상 믿을 수 있는 것일까? 이러한 이유로 다양한 eva...

ML - Lecture 12: Ensemble learning

2024-11-13 4 minute read

우리가 앞에서 구한 classifier들은 꽤나 좋은 성능을 보여줬다. Variance가 낮고 빠르게 learning을 하는 장점이 있었다. 하지만 bias가 높게나온다는 단점이 있다. 왜냐하면 우리가 true error를 줄이기 위해 weak(simple) classifier를 ...

ML - Lecture 11: Decision tree

2024-10-29 5 minute read

Decision tree도 classification에 속하는 supervised learning이다. 하지만 조금 다른 특성이 있다. 이걸 이해하기 위해서는 우선 parametric과 nonparametric model의 차이를 알아야 한다.

ML - Lecture 10: Linear classifier - scaling up learning via SGD

2024-10-22 1 minute read

◼︎ Stochastic gradient descent: Learning, one data point at a time

ML - Lecture 9: Linear classifier - overfitting and regularization

2024-10-21 less than 1 minute read

이렇게 모델을 만들고나면 우리가 하는게 있다. overfitting 되었는가와 그것을 regularization으로 해결하는 것이다. 그걸 또 logistic regression에서 해보려고 한다.

ML - Lecture 8: Linear classifier - Logistic regression

2024-10-20 6 minute read

이제 좀 다른 이야기를 해 볼것이다. 방금 전까지 우리는 연속적인(continuous)한 output에 대해 다뤘는데 이제는 불연속(discrete)한 output인 경우에 대해 알아볼 것이다. Classifier라는 것을 다룰 것인데 이것은 logistic regression...

ML - Lecture 7: Regularized regression

2024-10-19 1 minute read

◼︎ Geometric intuition for ridge regression

ML - Lecture 6: LASSO regression

2024-10-18 3 minute read

저번 lecture에서는 ridge regression을 다루었으니 이번 lecture에서는 다른 regularization인 LASSO regression에 대해 다룰 것이다.

ML - Lecture 5: Ridge regression

2024-10-17 3 minute read

앞의 lecture에서 complexity가 많아지면 overfitting될 수 있다고 하였다. 특히 overfitting에 영향을 크게 주는 parameter는 $\hat{w}$이다. $\hat{w}$가 너무 크면 필연적으로 overfitting해져버린다. 이러한 overf...