Cross Validation은 무엇이고 어떻게 해야하나요?

회귀 / 분류시 알맞은 metric은 무엇일까요?

회귀 분류시는 MSE or MAE / 분류시에는 F1 score, ROC

알고 있는 metric에 대해 설명해주세요(ex. RMSE, MAE, recall, precision …)

정규화를 왜 해야할까요? 정규화의 방법은 무엇이 있나요?

모델이 필요이상으로 복잡해지면 오버피팅이 일어날 확률이 높아진다. 따라서 학습 도중에 꼭 필요한 파라메터들만 살리고 나머지들은 죽이도록 regularization 기법을 사용하는데 이때 파라메터들의 절대값 합을 줄이는 방향으로 학습하도록 유도하게 된다.

이 절대값을 그냥 절대값으로 표현하면 L1, 제곱으로 표현하면 L2 regularization이 된다.

Local Minima와 Global Minima에 대해 설명해주세요.

local minima는 주변과 비교했을때 (전체가 아닌), 가장 낮은 지점(loss)를 가진 지점이고, global Minima 는 전체 경우의 수에서 가장 낮은 loss를 가진 상황이다.

차원의 저주에 대해 설명해주세요.

Dimension reduction기법으로 보통 어떤 것들이 있나요?

PCA는 차원 축소 기법이면서, 데이터 압축 기법이기도 하고, 노이즈 제거기법이기도 합니다. 왜 그런지 설명해주실 수 있나요?

LSA, LDA, SVD 등의 약자들이 어떤 뜻이고 서로 어떤 관계를 가지는지 설명할 수 있나요?

텍스트 더미에서 주제를 추출해야 합니다. 어떤 방식으로 접근해 나가시겠나요?

1. Deep learning 방식
   1. Dictionary 를 만들고 각각의 단어들을 embedding 시킨다. (word2vec이나, 직접 skip gram을 사용해서)

SVM은 왜 반대로 차원을 확장시키는 방식으로 동작할까요? 거기서 어떤 장점이 발생했나요?

다른 좋은 머신 러닝 대비, 오래된 기법인 나이브 베이즈(naive bayes)의 장점을 옹호해보세요.